国际机器学习大会（International Conference on Machine Learning，简称 ICML）是全球机器学习领域最权威会议之一，与NeurIPS、ICLR并列为机器学习三大顶级会议，也是中国计算机学会（CCF）推荐的A类国际学术会议，已举办40届，始终代表着该领域的最高学术水平和最新研究趋势。第41届ICML会议将于2024年7月21日至27日在奥地利维也纳举行。学校计算机与通信工程学院马惠敏教授指导的三维图像认知与仿真实验室团队论文被本次会议录用。
论文题为《Unveiling the Dynamics of Information Interplay in Supervised Learning》，团队博士生宋昆为第一作者，马惠敏教授为通讯作者。这项研究基于矩阵信息论，深入探讨了监督学习过程中数据表征与分类器之间的动态关系。研究中提出了矩阵互信息率和矩阵熵差率，作为评估监督学习中数据表征与分类器交互作用的新指标，并给出了神经崩塌现象发生时这两项指标的理论最优值。实验结果表明，这些指标不仅有效解释了神经网络中的许多现象，还为理解神经网络的顿悟现象提供了深刻见解。此外，矩阵互信息率和矩阵熵差率还可以作为监督学习的损失函数，优化样本表征与分类器之间的信息交互，从而提升模型性能。该研究为神经网络的理解与优化作出了重要贡献，并得到了国家自然科学基金和国家重点研发计划等项目的资助。
据了解，计通学院三维图像认知与仿真实验室专注于视觉认知与机器学习的交叉学科研究，融合计算机视觉与认知心理学，取得了一系列原创性成果。实验室首次在国际上建立图像认知心理测评智能系统，并荣获吴文俊人工智能科技创新一等奖。此外，实验室在复杂环境中的三维目标认知研究方面也屡获殊荣，连续3年在国际自动驾驶数据集KITTI评测中获得第一名，并在驾驶员状态预测国际数据集Brain4Cars上取得最佳成绩。并获得中国图象图形学学会技术发明一等奖、自然科学奖二等奖、教育部技术发明二等奖。实验室承担多项国家重大课题，相关成果已广泛应用于民航、交通、健康、教育等多个领域。此外，实验室已培养了60余名博士和硕士毕业生，其中多人获得了包括清华大学优秀博士论文奖、中国图象图形学会优秀博士论文奖和ACM亚洲优秀博士论文奖等多项荣誉。
论文作者介绍：
宋昆，计算机科学与技术专业在读博士。2021年本科毕业后留校攻读博士学位。主要从事小样本学习与预训练模型高效微调相关研究。以第一作者身份在NeurIPS 2023、ICML 2024、ACCV 2022等机器学习顶级会议上发表相关论文3篇。在读期间授权发明专利1项。作为主要学生成员参与国家自然科学基金重点支持项目“不确定环境下小样本认知学习与目标识别理论与方法”。并受邀担任NeurIPS、ICASSP、ICME等会议的审稿人。
马惠敏，教授，博士生导师，北京科技大学领军学者，北京市“三八红旗奖章”获得者。2019年从清华大学电子系调入北京科技大学，先后担任人工智能研究院副院长、计算机与通信工程学院副院长。组织成立北京科技大学鼎新实验室并担任主任。现任中国图象图形学学会副理事长兼秘书长，中国女科技工作者协会理事。作为通讯作者在TPAMI、TIP、TITS、CVPR、NeurIPS、ICCV等高水平期刊和会议上发表论文100余篇，谷歌学术总引用近8000次，单篇他引超过3300次。
（供图：计通学院）
（责编：付云笛、薛浪）
