计算机科学与探索

北大核心,INSPEC,JST,CSCD,WJCI

国内刊号:11-5602/TP

国际刊号:1673-9418

计算机科学与探索杂志2025年第5期:面向闭源大语言模型的增强研究综述

发布日期:

作者:刘华玲, 张子龙, 彭宏帅

单位:上海对外经贸大学 统计与信息学院,上海 201620

关键词:闭源模型,大语言模型,提示工程,检索增强生成,智能体

基金:国家自然科学基金 (12371272);上海市2022年度“科技创新行动计划”基础研究领域项目(22JC1400800)。

随着大语言模型在自然语言处理领域的快速发展,以GPT系列为代表的闭源大语言模型的性能增强成为一个挑战。由于无法访问模型内部的参数权重,传统的训练方法,如微调技术,难以应用于闭源大语言模型,这使得在这些模型上进一步优化变得困难。同时,闭源大语言模型已经广泛应用于下游实际任务,因此研究如何增强闭源大语言模型的性能具有重要意义。聚焦于闭源大语言模型的增强研究,对提示工程(prompt engineering)、检索增强生成(retrieval augmented generation)、智能体(agent)三种技术进行了分析,并针对不同方法的技术特性和模块架构进行了进一步细分,详细介绍了每种技术的核心思想、主要方法及其应用效果,研究了不同增强方法在推理能力、生成可信度、任务适应性等方面的优越性和局限性。讨论了这三种技术的组合应用方法,结合具体案例,强调了组合技术在增强闭源大语言模型性能方面的巨大潜力。总结了现有技术的研究现状和存在的问题,对未来闭源大语言模型增强技术的发展进行了展望。

来源:2025年第5期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2025年第5期

联系我们

  • 地址:北京市海淀区北四环中路211号
  • 电话:(010)89056056
  • E-mail:fcst@vip.163.com

咨询工作人员