计算机科学与探索

作者：张晗, 贾甜远, 骆方, 张生, 邬霞

单位：1. 北京师范大学 人工智能学院，北京 1008752. 北京师范大学 心理学部，北京 1008753. 北京师范大学 中国基础教育质量监测协同创新中心，北京 1008754. 智能技术与教育应用教育部工程研究中心，北京 100875

关键词：BERT,心理特质,注意力机制,Transformer,文本挖掘

随着互联网的普及应用，通过网络平台进行表达和交流的用户越来越多，在此过程中不可避免地会留下与个人相关的大量网络文本数据和信息，这些非结构化的文本数据往往体现着不同场景下的真实表达，反映了人们内在的心理特质及人格倾向。利用文本挖掘相关技术基于网络文本数据分析心理特质可以弥补传统心理测量方法易受应试动机等因素影响的缺陷。近年来，BERT语言表示模型在文本分类、情感分析等任务上取得了很好的效果。针对网络文本数据构建心理特质预测模型，基于BERT获取完整的上下文语义特征和长距离的上下文依赖关系；同时考虑到分类器内部结构的差异可能会导致不同的分类效果，在下游分类任务中分别采用BERTBASE模型的全连接层和经典的随机森林算法作为两种不同的分类器进行模型效果对比。结果显示，基于BERT的文本分类模型能够有效实现心理特质的预测, 平均准确率、平均精准率等各项指标都在97%以上。

来源：2021年第8期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2021年第8期