杨智勇，中国科学院大学副教授，博士生导师，入选博新计划博士后及中国科学院特别研究助理、研究方向聚焦可信机器学习，在CCF-A类期刊及会议共发表论文60余篇，其中TPAMI/ICML/NeurIPS 30余篇（TPAMI 一作 5篇）。先后获得： CCF优秀博士学位论文激励计划 （原CCF优博）、CSIG自然科学奖一等奖、吴文俊人工智能科技进步二等奖、首届百度AI全球华人新星百强、中国科学院百篇优博论文、百度奖学金全球20强等荣誉，并获得四项CCF-A类会议国际竞赛冠军， 担任机器学习领域顶级会议ICML/ICLR/NeurIPS领域主席，TPAMI/IJCV/TIP/TMLR 等期刊审稿人。

报告题目：浅谈知识蒸馏中的概率重分配

报告摘要：在大模型时代，知识蒸馏已成为重要的模型压缩与知识迁移技术，并多次纳入主流大模型技术报告中。然而，目前对于知识蒸馏中学生模型能够更有效学习教师分布的成因仍不明确。本次报告将主要汇报我们对于知识蒸馏过程中学生概率动态重分配机制的主要发现，提出困难集中和置信集中两种关键效应，随后通过引入α-β散度正则，实现两种效应的有效平衡，并在此基础上探讨知识蒸馏的未来潜在研究方向。

直播时间

11月11日（星期二）19:00-20:00

学会官方视频号：

欢迎关注CSIG官方视频号，观看直播

学会B站直播间：

腾讯会议室

会议号：784-5244-3587

请添加会议官方微信：CSIG_1990，备注“云讲堂+会员号+姓名”获取入群邀请