文档名：面向任务扩展的增量学习动态神经网络研究进展与展望
摘要：增量学习是近年来机器学习领域的一个重要的研究方向,它能高效地进行知识迁移却不产生遗忘.与静态模型相比,动态网络可以根据不同的输入调整其结构或参数,从而在准确性、计算效率和适应性等方面具有显著的优势.本文从动态架构角度出发,根据动态网络中的自适应选择方式,对当前增量学习模型中所涉及到动态神经网络进行了系统化的总结.文中首先了阐述了增量学习研究进展和定义,归纳了增量学习的学习场景.其次根据动态路由选择粒度的不同,将增量学习的动态神经网络划分为基于任务的动态选择、基于模块化的动态选择、基于神经元的动态选择、基于卷积通道的动态选择和基于权重的动态选择,并对常用的增量学习模型分类进行了阐述和比较.最后归纳了一些常见数据集,并对未来的研究方向进行展望.
作者：赵海燕 马权益 曹健 陈庆奎 Author：ZHAOHai-yan MAQuan-yi CAOJian CHENQing-kui
作者单位：上海理工大学光电信息与计算机工程学院,上海200093上海交通大学计算机科学与技术系,上海200030
刊名：电子学报 ISTICEIPKU
Journal：ActaElectronicaSinica
年，卷(期)：2023, 51(6)
分类号：TP301.6
关键词：增量学习 动态神经网络 深度学习 灾难性遗忘 自适应选择
Keywords：incrementallearning dynamicneuralnetwork deeplearning catastrophicforgetting adaptiveselection
机标分类号：TP183TP391TP273
在线出版日期：2023年9月8日
基金项目：面向任务扩展的增量学习动态神经网络:研究进展与展望[
期刊论文] 电子学报--2023, 51(6)赵海燕 马权益 曹健 陈庆奎增量学习是近年来机器学习领域的一个重要的研究方向,它能高效地进行知识迁移却不产生遗忘.与静态模型相比,动态网络可以根据不同的输入调整其结构或参数,从而在准确性、计算效率和适应性等方面具有显著的优势.本文从动态...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文
面向任务扩展的增量学习动态神经网络:研究进展与展望 Dynamic Neural Network for Incremental Learning with Task Extended:Research Progress and Prospect
面向任务扩展的增量学习动态神经网络:研究进展与展望.pdf
- 文件大小:
- 1.77 MB
- 下载次数:
- 60
-
高速下载
|
|
