文档摘要：12345市民服务热线中汇集了大量的市民诉求,对这些诉求文本进行分类能够有效地提高市民服务热线的办事效率.为了快速且精准地对诉求文本进行分类,提出一种融合了人工注意力机制的ERNIE-AA模型.该模型将人工分类时的启发式规则通过人工注意力机制引入ERNIE模型的输入表示,通过预训练模型增加影响分类的关键词的注意力权重.实验结果表明:ERNIE-AA模型在诉求文本数据集上具有良好的表现,分类准确率可达86.71％.
Abstract：12345citizenservicehotlinebringstogetheralargenumberofcitizenappeals.Classificationoftheseappealtextscaneffec-tivelyimprovetheefficiencyofcitizenservicehotline.Inordertoclassifytheappealtextquicklyandaccurately,thispaperproposesanERNIE-AAmodelbasedonartificialattentionmechanism.ThemodelintroducestheheuristicrulesofartificialclassificationintotheinputrepresentationofERNIEmodelbyartificialattentionmechanism,andincreasestheattentionweightofkeywordsthataffectclassi-ficationbypretrainingmodel.TheexperimentalresultsshowthattheERNIE-AAmodelhasgoodperformanceontheappealtextdataset,andtheclassificationaccuracycanreach86.71％.
作者：高永兵 李春灿 郑伟业 姜春光 Author：GAOYongbing LIChuncan ZHENGWeiye JIANGChunguang
作者单位：内蒙古科技大学信息工程学院,内蒙古包头014010中冶西北工程技术有限公司市政设计研究院,内蒙古包头014010
刊名：内蒙古科技大学学报
Journal：JournalofInnerMongoliaUniversityofScienceandTechnology
年，卷(期)：2024, 43(1)
分类号：TP391
关键词：诉求文本 文本分类 ERNIE模型 人工注意力机制
Keywords：appealtext textclassification ERNIEmodel artificialattentionmechanism
机标分类号：TP391.1D630.1TP183
在线出版日期：2024年6月11日
基金项目：内蒙古自治区自然科学基金项目基于ERNIE-AA模型的诉求文本分类技术[
期刊论文] 内蒙古科技大学学报--2024, 43(1)高永兵 李春灿 郑伟业 姜春光12345市民服务热线中汇集了大量的市民诉求,对这些诉求文本进行分类能够有效地提高市民服务热线的办事效率.为了快速且精准地对诉求文本进行分类,提出一种融合了人工注意力机制的ERNIE-AA模型.该模型将人工分类时的启发...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文
关键词：诉求文本,文本分类,ERNIE模型,人工注意力机制,
- 文件大小:
- 621.39 KB
- 下载次数:
- 60
-
高速下载
|
|
1
