计算机科学与探索

作者：马自萍, 谭力刀, 马金林, 陈勇

单位：1. 北方民族大学 数学与信息科学学院，银川 7500212. 北方民族大学 计算机科学与工程学院，银川 7500213. 宁夏医科大学总医院 放射介入科，银川 750004

关键词：新冠肺炎诊断,孪生网络,ViT模型,自监督学习,轻量化模型

针对新冠肺炎的深度学习诊断模型存在的准确率不高、泛化能力较差和参数量较大的问题，基于ViT和孪生网络，提出了一种新冠肺炎诊断的轻量化孪生网络SMViT。首先，提出了循环子结构轻量化策略，使用多个具有相同结构的子网络构成诊断网络，从而降低网络的参数量；其次，提出ViT掩码自监督预训练模型，以增强模型的潜在特征表达能力；然后，构建新冠肺炎诊断的孪生网络SMViT，有效提升模型的诊断准确率，改善小样本下模型泛化能力较差的问题；最后，使用消融实验验证并确定了模型结构，通过对比实验验证模型的诊断性能和轻量化能力。实验结果表明：与最具竞争力的ViT架构的诊断模型相比，该模型在X-ray数据集上的准确率、特异度、灵敏度与[F1]分数值分别提高了1.42%、4.62%、0.40%和2.80%，在CT图像数据集上的准确率、特异度、灵敏度与[F1]分数值分别提高了2.16%、2.17%、2.05%和2.06%；在样本量较小时，模型具有较强的泛化能力；与ViT相比，SMViT模型具有更小的参数量和更高的诊断性能。

来源：2023年第10期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2023年第10期