计算机科学与探索

作者：巩佳义, 许鑫磊, 肖婷, 王喆

单位：华东理工大学 信息科学与工程学院，上海 200237

关键词：增量学习,自监督,不平衡问题,知识蒸馏

针对图像分类中类增量学习的知识灾难性遗忘现象，现有类增量学习方法着重于模型分类层的不平衡偏移修正，忽视了模型特征层的偏移，未能良好解决类增量学习所面临的新旧类别不平衡问题。为此，提出一种新的类增量学习方法，称为融合平衡权重和自监督的类增量学习方法（BWSS）。首先，BWSS利用旧类在训练中预测期望低的特点设计了自适应的平衡权重，扩大旧类的损失回传占比以修正整个模型的偏移。其次，BWSS引入自监督模块，将样例的旋转角度预测作为辅助任务，强化模型对冗余特征和共性特征的表达能力，以更好地支撑增量任务。通过与主流类增量学习算法在公开数据集CIFAR-10和CIFAR-100上的实验对比，证明BWSS不仅在类别少样例多的CIFAR-10上增量性能更优，在类别多样本少的CIFAR-100上同样具有优势。通过消融实验和特征可视化，验证了所提方法对模型的特征表示能力和增量性能是有效的。BWSS在CIFAR-10上的5阶段增量任务最终准确率达到了76.9%，相比基线方法提高了5个百分点。

来源：2024年第2期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2024年第2期