一种基于优化引导的无线联邦学习异步训练机制

文档摘要：针对在数据异构和资源异构的无线网络中联邦学习训练效率低及训练能耗高的问题,面向图像识别任务,提出了基于优化引导的异步联邦学习算法AFedGuide.利用较高样本多样性的客户端模型的引导作用,提高单轮聚合有效性.采用基于训练状态的模型增量异步更新机制,提高模型更新实时性以及信息整合能力.设计基于模型差异性的训练决策,修正优化方向.仿真结果显示,相较于对比算法,AFedGuide的训练时长平均减少67.78％,系统能耗平均节省65.49％,客户端的准确率方差平均减少25.5％,说明在客户端数据异构和资源异构的无线网络下,AFedGuide可以在较短的训练时间内以较小的训练能耗完成训练目标,并维持较高的训练公平性和模型适用性.

Abstract：Fortheproblemoflowtrainingefficiencyandhightrainingenergyconsumptionoffederatedlearning,inwirelessnetworkswithheterogeneousdataandresources,AsynchronousFederatedLearningAlgorithmBasedonoptimizationGuidance(AFedGuide)isproposedforimagerecognitiontasks.Theguidanceofclientmodelwithhighsample-diversityisusedtoimprovetheeffectivenessofsingle-roundaggregation.Theasynchronousupdatemechanismwithincrementalmodelandtrainingstatusisusedtoimprovethetimelinessofmodelupdateandtheintegrationofmodelinformation.Theoptimizationdirectionisrevisedbythedecisionoftrainingbasedonthedifferenceofmodel.Asthesimulationresultsillustrate,comparedwiththoseofthecontrastalgorithm,thetrainingtimeofAFedGuidedecreases67.78％averagely,thesystemenergyconsumptiondecreases65.49％averagely,andthevarianceofclientsaccuracydecreases25.5％averagely.Itmeansthat,inawirelessnetworkwithheterogeneousdataandheterogeneousresourcesclients,AFedGuidecanachievethetrainingtargetinashorttrainingtimeandwithlesstrainingenergyconsumption,whilemaintainingthetrainingfairnessandmodelsuitability.

作者：张海波   任俊平   蔡磊   邹灿 Author：ZHANGHaibo   RENJunping   CAILei   ZOUCan
作者单位：重庆邮电大学通信与信息工程学院,重庆400065;泛在感知与互联重庆市重点实验室,重庆400065360数字安全科技集团有限公司,北京100015
刊名：电讯技术 ISTICPKU
Journal：TelecommunicationEngineering
年，卷(期)：2024, 64(6)
分类号：TP391.4
关键词：图像识别  异步联邦学习  数据异构  资源异构  优化引导  
Keywords：imagerecognition  asynchronousfederatedlearning  heterogeneousdata  heterogeneousresources  optimizationguidance  
机标分类号：G841G642TP391.41
在线出版日期：2024年7月15日
基金项目：国家自然科学基金，重庆市留创计划创新类资助项目一种基于优化引导的无线联邦学习异步训练机制[
期刊论文]  电讯技术--2024, 64(6)张海波  任俊平  蔡磊  邹灿针对在数据异构和资源异构的无线网络中联邦学习训练效率低及训练能耗高的问题,面向图像识别任务,提出了基于优化引导的异步联邦学习算法AFedGuide.利用较高样本多样性的客户端模型的引导作用,提高单轮聚合有效性.采用基...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文

关键词：图像识别,异步联邦学习,数据异构,资源异构,优化引导,

2024-10-4 02:15 上传 一种基于优化引导的无线联邦学习异步训练机制.pdf

文件大小:

2.42 MB

下载次数:

60

高速下载