计算机科学与探索

作者：许志伟, 李海龙, 李博, 李涛, 王嘉泰, 谢学说, 董泽辉

单位：1. 先进计算与关键软件（信创）海河实验室，天津 3003502. 中国科学院 计算技术研究所，北京 1000803. 内蒙古工业大学 数据科学与应用学院，呼和浩特 0100804. 南开大学 计算机学院，天津 3003505. OPPO研究院，北京 100026

关键词：AIGC大模型,大模型测评,可解释性,公平性,鲁棒性,安全与隐私保护

人工智能生成内容（AIGC）模型因出色的内容生成能力，在全球范围内引起了广泛关注与应用。然而AIGC大模型的快速发展也带来了一系列隐患，例如模型生成结果的可解释性、公平性和安全隐私等问题。为了降低不可知风险及其危害，对AIGC大模型进行全面测评变得越来越重要。学术界已经开启了AIGC大模型测评研究，旨在有效应对相关挑战，避免潜在的风险。对AIGC大模型测评研究进行了回顾，并对其进行了综述和分析。对模型测评过程进行概述，内容涵盖模型测评前准备和相应的测评指标，并系统性地整理了现有测评基准。讨论了AIGC大模型在金融、政治和医疗领域的代表性应用及其存在的问题。通过可解释性、公平性、鲁棒性、安全性和隐私性等不同角度深入研究测评方法，对AIGC大模型测评需要关注的新问题进行解构，提出大模型测评新挑战的应对策略。最后探讨了AIGC大模型测评未来面临的挑战，并展望了其发展方向。

来源：2024年第9期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2024年第9期