国内刊号:11-5602/TP
国际刊号:1673-9418
发布日期:
作者:裴炳森, 李欣, 蒋章涛, 刘明帅
单位:中国人民公安大学 信息网络安全学院,北京 100038
关键词:大语言模型,知识抽取,小样本数据,公安执法办案
当前公安业务工作信息化、数字化飞速发展,在公安工作中产生了大量执法办案数据,但是其文本种类较多、信息量较大,导致一线民警在阅卷工作中常面临阅读效率低、信息难以聚合等问题。为更进一步利用执法办案文本,需要对其进行智能分析、知识抽取,但受限于公安专业执法办案文本的专业性、数据敏感性、保密性,以及公安数据出网要求等,仅能获取到少量学习训练样本,使用传统的深度学习模型抽取效果不尽如人意。因此提出使用较少资源和数据构建垂直领域大语言模型,实现模型对公安专业适配的方法,利用知识编辑技术MEMIT、低资源微调技术LoRA、提示模板,提高模型对警务术语、警务常识等公安知识的理解能力。为进一步提高模型的知识抽取效果,设计小样本执法办案文本数据抽取流程,以更好结合模型中的相关案别专业知识。实验结果表明,融合抽取流程的公安专业垂直领域大语言模型在各类知识抽取任务中准确率较之传统方法显著提高,有助于帮助一线民警快速、客观、准确分析执法办案文本,挖掘案件潜在信息,支撑公安工作智能化发展。
来源:2024年第10期
《计算机科学与探索》期刊编辑部