计算机科学与探索

作者：张咪咪, 冯翔, 虞慧群

单位：华东理工大学 计算机科学与工程系，上海 200237

关键词：持续学习,影响函数,多任务学习,双目标优化,帕累托最优

基金：国家自然科学基金重点项目（62136003）；国家自然科学基金面上项目（62276097，62372174）。

持续学习（CL）是一种先进的机器学习范式，其目标是模拟和优化人类学习机制，在其整个生命周期中增量地获取新知识、更新旧知识并有效地积累和利用知识。持续学习追求在保留历史任务知识（稳定性，S）的同时，灵活适应新任务（可塑性，P）。为此，模拟并分析了影响函数（IF）计算中的关键环节，分别获得了稳定性（S）和可塑性（P）的样例影响评估。进而，创新性地提出了Pareto SP算法，该算法通过求解双目标优化问题，将这两种样例影响融合起来，旨在找到对SP均达到帕累托（Pareto）最优的融合影响策略。这一策略采取多任务学习（MTL）中多目标优化的思想，将帕累托多任务学习算法推广至持续学习系统，通过并行解决具有不同权衡偏好的子问题，获取一组能够体现竞争任务间不同权衡的代表性帕累托最优解。尤为重要的是，该算法识别并解决了由二阶影响带来的潜在问题，这些影响可能放大重放缓冲区中的随机偏差，影响样本选择过程的有效性。为此，引入了一种新颖的目标选择策略，对核心集选择过程进行正则化，从而增强了核心集的选择效率与效果。实验结果显示，该算法在任务增量与类别增量两类持续学习基准数据集上，均展现出相较于当前最先进方法的显著优势。在有限的计算内存下，Pareto SP算法超越了最先进的方法，在3个不同的持续学习基准中持续实现超过2个百分点的显著改进。

来源：2026年第4期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2026年第4期