计算机科学与探索

作者：黄佳佳, 朱浩然, 姜茂伟, 陈勇, 徐超

单位：1. 南京审计大学 计算机学院，南京 2118152. 南京审计大学 江苏省现代智能审计一体化应用技术工程研究中心，南京 211815

关键词：大语言模型,多任务指令微调,不平衡指令集,指令筛选策略

基金：国家自然科学基金面上项目（62472227）；江苏省高校自然科学研究面上项目（23KJB520015）；江苏省研究生科研与实践创新项目（SJCX25_1148）。

在面向监管类（如法律咨询、审计判断）的垂直领域大语言模型指令微调中，多任务指令微调数据集中存在高低资源任务指令数据不平衡的问题。现有的指令筛选策略往往忽视了任务之间的协同效应和领域特定要求。为此，提出一种分阶段不平衡指令筛选策略（IIFS），用于从不平衡的多任务指令微调数据集中选择高质量的指令子集。IIFS通过指令冗余性、微调必要性和任务相关性来系统地评估高资源任务指令数据。通过动态聚类过滤冗余数据。使用文本相似度评估指令数据在目标模型上的响应效果以评估该指令微调的必要性。量化高资源任务指令数据与核心任务的语义关系衡量任务相关性。综合质量分与聚类规模构建一种自适应动态采样机制获取一批高质量指令微调数据子集以进行模型微调。基于IIFS采样策略将高低资源任务指令数据比例从11.5∶1降至2.8∶1，冗余率降低了75.61%，在保持领域适应性的同时缓解了数据不平衡性。在评估数据集上的实验表明，基于IIFS微调的大模型比基于完整指令集微调的大模型整体性能提升3.57个百分点；特别的，在审计案例分类任务上F1-score较完整指令集提升4.84个百分点。这项工作为垂直领域的工业规模大模型指令微调提供了一种经济高效的自动化解决方案。

来源：2025年第12期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2025年第12期