计算机科学与探索

作者：海峻嘉, 景丽萍, 刘华锋, 于剑

单位：1. 先进轨道交通自主运行全国重点实验室，北京 1000442. 交通数据挖掘与具身智能北京市重点实验室，北京 1000443. 北京交通大学 计算机科学与技术学院，北京 100044

关键词：大语言模型,可解释性,概念提取,自动化,可扩展性

基金：国家自然科学基金（62436001，62406019，62176020）；北京市自然科学基金（4244096）；北京交通大学人才基金（2024XKRC075）；教育部创新团队联合基金（8091B042235）；中央高校基本科研业务费专项资金（2019JBZ110）；北京交通大学轨道交通控制与安全国家重点实验室项目（RCS2023K006）。

随着机器学习模型的复杂性不断增加，对其决策过程的可解释性需求也日益增长。概念学习作为一种能够提升模型透明度和可理解性的手段，在机器学习领域变得越来越重要，通过概念来帮助解释大语言模型等黑盒模型的推理过程也随之发展，如何准确、自动地提取概念是在这一解释过程中最为关键的一环。针对现有的概念提取方法中存在的依赖人工标注、粒度不一致、扩展性差等问题，设计了一套跨模态视觉概念自动提取框架。基于多模态大模型的问询方式，实现了图像中目标对象的自动提取，并通过CLIP模型和目标检测模型实现了区域对应机制，提高了提取的准确性。采用基于文本分割的大语言模型来提取目标对象的属性和关系，确保了概念与数据的一致性。引入ConceptNet概念网络扩展了提取到的概念的语义信息，增强了框架的灵活性和适用性。通过实现这些技术，展示了该框架在三种不同场景下的实际应用效果，证明了其在提升概念提取效率和准确性以及可扩展性方面的潜力。

来源：2026年第1期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2026年第1期