4月19日下午,信息学院开展线上“智能计算与应用”系列学术讲坛,德国彼勒菲尔德大学金耀初教授、中山大学王甲海教授、四川大学孙亚楠研究员应邀分别进行主题报告。我院郑宇军教授主持讲座。参会人员包括来自各大高校老师和学生100余人。
首先,金耀初教授作了题为《Recent Advances in Federated Learning》的报告。金耀初教授基于近年来的研究成果,介绍了联邦学习的基本思想和主要挑战。并以联邦学习框架中的通讯成本优化为例,从模型架构本身和参数传输成本两个角度考虑,提出了基于三值压缩的模型架构压缩方法,极大降低了客户端与服务器之间的通讯成本。针对工业生产实际需求,提出多目标演化优化与联邦学习框架相结合的联邦神经网络架构搜索方法,并分别针对离线和在线两种情况进行自适应优化。通过寻求在演化计算、神经络架构搜索、联邦学习三个独立研究方向的交叉部分上实现创新突破,提升联邦学习的工程应用价值。
王甲海教授作了题为《基于知识蒸馏的可泛化的车辆路径问题求解方法》的报告。他首先介绍了面向组合优化问题求解的深度强化学习方法的研究背景,该方法有别于传统搜索优化方法,通过对同类问题历史求解数据的学习来求解新的问题实例,能够实现对复杂问题的在线求解。随后,王甲海教授重点介绍了基于适应多分布知识蒸馏的车辆路径问题求解方法,通过在线蒸馏联合训练教师模型和学生模型,显著提升了模型的分布外泛化性能和推理速度。该方法能够为高效快速求解复杂组合优化问题提供新的途径。
最后,孙亚楠研究员作了题为《神经架构搜索的高效性能预测器》的报告。他首先介绍了神经网络架构搜索方法的研究背景与基本框架,从搜索空间、搜索策略和候选网络架构的评估方法三个方面对现有的神经网络架构搜索方法进行了分析,指出了制约神经网络架构搜索方法在工业实际中大规模使用的计算瓶颈。基于此,孙亚楠研究员介绍了其团队所提出的高效神经网络架构性能预测器,该性能预测器利用代理模型辅助进化优化的思想,可以直接预测搜索空间中候选神经网络架构的性能,避免了繁琐的神经网络架构的训练和评估,极大提高了神经网络架构搜索算法的搜索效率和实用性,为自动化机器学习的实现迈出了坚实的一步。
本次学术讲坛,三位老师分别从不同的方面讲述了人工智能的发展现状,就各自的研究领域向大家展示了研究成果,为大家开展高水平人工智能研究提供了很好的启发,有助于我院与国内外高水平研究机构进一步加强合作交流。
人物简介:
金耀初教授,欧洲科学院院士和IEEE Fellow,目前为德国比勒费尔德大学工程学院“洪堡人工智能教授”,兼任英国萨里大学计算机系“计算智能教授”;曾任芬兰于韦斯屈莱大学“芬兰特聘教授”、中国东北大学国家级人才特聘讲座教授、澳大利亚悉尼科技大学“杰出访问学者”。主要研究方向为:进化优化学习、可信机器学习与优化、进化发育人工智能。金耀初教授目前担任《Complex & Intelligent Systems》主编,曾任《IEEE Transactions on Cognitive and Developmental Systems》主编,2013-2015年和2017-2019年的IEEE杰出讲师以及IEEE计算智能学会技术活动副主席(2015-2016)。金耀初教授获2018年和2021年IEEE Transactions on Evolutionary Computation杰出论文奖及2015年、2017年和2020 年IEEE计算智能杂志杰出论文奖,并于2019年至2021年连续入选Web of Science“高被引科学家”名单。目前,金耀初教授当选为IEEE CIS 主席。
王甲海教授,毕业于富山大学(日本),工学博士,中山大学计算机学院教授博士生导师,大数据与计算智能研究所所长,大数据分析与应用技术国家工程实验室大数据高性能分析处理中心主任,研究兴趣包括人工智能(智能优化与学习),大数据分析与挖掘。提出了多种先进智能算法,有效求解复杂优化问题,推动智能优化算法在智慧物流等领域的实际应用;对深度学习有深入研究,并应用于社交网络分析和自然语言处理,研制了舆情分析等实用算法和系统;利用数据驱动的深度学习方法,研究面向城市感知的群智涌现机理与计算方法,在智慧城市中得到应用验证。在IEEE Transactions, AAAI等国际知名期刊和会议上发表系列文章,主持/完成4个国家自然科学基金和多个省部级基金,主持科技部“新-代人工智能”重大项目课题1项,国家重点研发计划项目课题1项,主持完成军队装备预研项目1项。参与国家自然科学基金联合基金重点项目1项。2011年获广州市首届珠江科技新星人才专项资助。IEEE高级会员,CCF杰出会员。
孙亚楠研究员,四川大学研究员,博导,国家青年人才计划入选者,四川省天府峨眉人才计划入选者,机器学习与工业智能应用教育部工程中心副主任,进化计算IEEE Transactions on Evolutionary Computation期刊(IF=16. 497)副主编。长期从事神经网络的可进化理论与方法研究,及其在自动化机器学习、神经架构搜索、低功耗神经网络模型、鲁棒神经网络模型方面的应用研究。近五年以第一/通讯作者发表IEEE汇刊以及CCF-A类论文30篇,4篇同时入选了ESI高被引和ESI热点论文,4篇入选IEEE CIS研究前沿论文,授权发明专利18项,出版学术专著1部(Springer出版社)。
版权所有 ©️ 杭州师范大学研究生院 公安备案号:33011002011919 浙ICP备11056902号-1 技术支持:亿校云