文档摘要：虽然文本分类对抗样本的防御技术在相应的工作中取得了较好的效果,但是防御技术在检测词级和句子级的对抗样本时效果不佳,因此,如何利用防御技术提高目标模型的鲁棒性(Robust)已是目前学术界关注的问题.为此提出了一种新的运算法,使用了单词的重要性分数及检测错误字的概率来定位样本中的对抗字.结果表明:目标模型的分类准确率由原来平均14.7％提高到平均89.2％,改善了文本分类对抗样本的防御技术.
Abstract：Althoughthedefensetechnologyoftextclassificationadversarialexampleshasachievedgoodresultsinthecorrespondingwork,itisnoteffectiveindetectingword-levelandsentence-leveladversarialexamples.Thus,howtousedefensetechnologytoim-provetherobustnessofthetargetmodel(Robust)hasbeenthefocusofacademiccommunity.Thispaperproposedanewalgorithmtoachievedefenseagainsttextclassificationadversarialexamples.Thismethodusedtheimportancescoreofwordsandthedetectionofwrongwordsprobabilitiestolocatetheadversarialwordsinthesample.Theresultsshowthattheclassificationaccuracyofthetargetmodelincreasesfromtheoriginalaverageof14.7％toanaverageof89.2％,thentheadversarialexampledefensetechniquesfortextclassificationalsoimproves.
作者：张子越 王永平 张晓琳 顾瑞春 徐恩惠 张帅 Author：ZHANGZiyue WANGYongping ZHANGXiaolin GURuichun XYUEnhui ZHANGShuai
作者单位：内蒙古科技大学信息工程学院,内蒙古包头014010中国电子科技南湖研究院,浙江嘉兴314001上海大学计算机工程与科学学院,上海200444
刊名：内蒙古科技大学学报
Journal：JournalofInnerMongoliaUniversityofScienceandTechnology
年，卷(期)：2024, 43(1)
分类号：TP3
关键词：鲁棒性 对抗样本 掩码 防御技术
Keywords：robustness adversarialexample mask defensetechnology
机标分类号：TP391TN929.5TP273.4
在线出版日期：2024年6月11日
基金项目：国家自然科学基金针对文本分类对抗样本的防御技术[
期刊论文] 内蒙古科技大学学报--2024, 43(1)张子越 王永平 张晓琳 顾瑞春 徐恩惠 张帅虽然文本分类对抗样本的防御技术在相应的工作中取得了较好的效果,但是防御技术在检测词级和句子级的对抗样本时效果不佳,因此,如何利用防御技术提高目标模型的鲁棒性(Robust)已是目前学术界关注的问题.为此提出了一种新...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文
关键词：鲁棒性,对抗样本,掩码,防御技术,
- 文件大小:
- 609.5 KB
- 下载次数:
- 60
-
高速下载
|
|
1
