报 告 题 目：从稀疏编码和信息瓶颈到深度学习

主 讲 人：张 世 华

单 位：中国科学院数学与系统科学研究院

时 间：11月4日16:00

腾 讯 ID: 472-716-136

摘 要：

深度学习特别是深度神经网络作为一种黑箱模型，是通过大量计算实验得到的，其数学原理逐渐引起研究者的广泛关注。本报告将从不同的角度介绍深度学习的数学理解与认识，特别介绍两种尝试：第一，从多层卷积稀疏编码模型的编码初始化和字典矩阵设计的角度，分别建立残差神经网络和多尺度密集连接网络与多层卷积稀疏编码模型的等价联系。第二，一种观点认为深度神经网络的学习过程是按照“信息瓶颈”原则进行，如何有效地优化该原则仍然是一个开放问题，为此提出一个可以准确计算和优化的信息瓶颈实现方式。

简 介：

张世华，中国科学院数学与系统科学研究院研究员、中国科学院随机复杂结构与数据科学重点实验室副主任、中国科学院大学岗位教授。主要从事生物信息计算、机器智能与优化交叉研究，主要成果发表在Cell、IEEE TPAMI等杂志。曾荣获中国科学院经理特别奖(2008)、全国百篇优博论文奖(2010)、中国青年科技奖(2013)、中国科学院卢嘉锡青年人才奖(2013)、教育部自然科学奖二等奖(排名第三)(2018)、中创软件人才奖(2022)等。先后获得国家自然科学基金优秀青年基金(2014)、中国科学院卓越青年科学家项目(2014)、国家万人计划青年拔尖人才(2018)、中国科学院青年团队计划(2022)、国家高层次人才计划(2022)等资助。成果入选2021年度中国生物信息学十大进展、2019年度中国生物信息学十大算法和工具。现任PLOS Computational Biology和BMC Genomics等杂志编委。