文档名:基于特征增强知识蒸馏的目标检测压缩算法
摘要:本文提出一种基于特征增强知识蒸馏的目标检测压缩算法(ODCA).首先,使用坐标注意力增强教师网络中间层特征对前景目标的表征能力;然后,采用二进制掩码在空间上区分前景和背景,并定义带权重的空间信息损失以平衡前景和背景特征蒸馏强度;最后,使用卷积操作统一教师和学生网络通道数,构造通道信息损失学习特征的通道间分布信息.在PascalVOC数据集上的实验结果表明,所提算法将学生网络的平均精度均值从68.3%提高至75.7%.
Abstract:Anobjectdetectioncompressionalgorithm(ODCA)basedonfeatureenhancementknowledgedistillationisproposed.Firstly,coordinateattentionisusedtoenhancetherepresentationabilityofintermediatelayerfeaturesoftheteachernetworkforforegroundtarget.Then,binarymasksareusedtospatiallydistinguishforegroundandbackground,andaweightedspatialinformationlossisdefinedtobalancethestrengthofforegroundandbackgroundfeaturedistillation.Finally,theconvolutionoperationisusedtounifythenumberofnetworkchannelsofteachersandstudents,andthedistributioninformationbetweenchannelsofthelearningfeaturesofchannelinformationlossisconstructed.ExperimentalresultsonthePascalVOCdatasetshowthattheproposedalgorithmimprovesthemeanaverageprecision(mAP)ofthestudentnetworkfrom68.3%to75.7%.
作者:邓兴隆 王逸涵 罗建桥 熊鹰 李柏林Author:DENGXinglong WANGYihan LUOJianqiao XIONGYing LIBailin
作者单位:西南交通大学机械工程学院,四川成都610031
刊名:传感器与微系统 ISTICPKU
Journal:TransducerandMicrosystemTechnologies
年,卷(期):2024, 43(5)
分类号:TP391.41
关键词:深度学习 目标检测 模型压缩 知识蒸馏 YOLOv5
Keywords:deeplearning objectdetection modelcompression knowledgedistillation YOLOv5
机标分类号:TP391G623.5G4
在线出版日期:2024年5月17日
基金项目:四川省科技计划资助项目基于特征增强知识蒸馏的目标检测压缩算法[
期刊论文] 传感器与微系统--2024, 43(5)邓兴隆 王逸涵 罗建桥 熊鹰 李柏林本文提出一种基于特征增强知识蒸馏的目标检测压缩算法(ODCA).首先,使用坐标注意力增强教师网络中间层特征对前景目标的表征能力;然后,采用二进制掩码在空间上区分前景和背景,并定义带权重的空间信息损失以平衡前景和背...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文
基于特征增强知识蒸馏的目标检测压缩算法 Object detection compression algorithm based on feature enhanced knowledge distillation
基于特征增强知识蒸馏的目标检测压缩算法.pdf
- 文件大小:
- 740.74 KB
- 下载次数:
- 60
-
高速下载
|
|