澳门六合彩资料大全

当前位置: 澳门六合彩资料大全 > 学术报告
青年学术论坛
Loss Landscape and Error Bound Analysis of Regularized Deep Matrix Factorization
江如俊 副教授(复旦大学)
5月25日15:00  闵行校区数学楼102

主持人:王祥丰 教授

报告内容介绍:
深度矩阵分解(DMF)是许多应用(包括深度线性神经网络)背后的基本模型。尽管形式简单,但正则化DMF问题的优化景观高度非凸,目前尚未被完全理解。在本报告中,我们分析了正则化深度矩阵分解的损失景观与局部几何结构。我们刻画了所有临界点,并给出了一个临界点为局部极小值、全局极小值、严格鞍点或非严格鞍点的条件。我们进一步在临界点集附近建立了误差界,从而为基于梯度的方法提供了线性收敛性保证。我们的研究结果为解释一阶方法为何在正则化DMF中表现良好提供了理论依据,并为深度线性网络作为重要应用场景的优化行为提供了统一视角。

主讲人介绍:
江如俊,复旦大学大数据澳门六合彩资料大全 副教授,博士生导师。研究方向主要包括优化算法和理论分析及其在机器学习与管理科学等领域的应用研究。其研究成果发表在Math. Program., SIAM J. Optim.、Math. Oper. Res.、INFORMS J. Comput.等运筹优化国际顶级期刊和ICML、NeurIPS、ICLR等人工智能顶会上。获国家级青年人才计划、上海市扬帆计划支持,主持国家自然科学基金青年项目和面上项目。获国际机器学习大会ICML 2022杰出论文奖。担任ICML和NeurIPS领域主席。