国内刊号:11-5602/TP
国际刊号:1673-9418
发布日期:
作者:耿丽丽,牛保宁
单位:1.太原理工大学 信息与计算机学院,太原 0300242.山西财经大学 实验中心,太原 030006
关键词:深度学习,模型压缩,神经网络
近年来,随着深度学习的飞速发展,深度神经网络受到了越来越多的关注,在许多应用领域取得了显著效果。通常,在较高的计算量下,深度神经网络的学习能力随着网络层深度的增加而不断提高,因此深度神经网络在大型数据集上的表现非常卓越。然而,由于其计算量大、存储成本高、模型复杂等特性,使得深度学习无法有效地应用于轻量级移动便携设备。因此,压缩、优化深度学习模型成为目前研究的热点。当前主要的模型压缩方法有模型裁剪、轻量级网络设计、知识蒸馏、量化、体系结构搜索等。对以上方法的性能、优缺点和最新研究成果进行了分析总结,并对未来研究方向进行了展望。
来源:2020年第9期
《计算机科学与探索》期刊编辑部