学术报告

您所在的位置:首页  学术交流  学术报告

过参数化浅层神经网络的非空泛化界限

发布时间:2026-11-05阅读次数:17

过参数化神经网络通常会表现出一种“良性过拟合”现象:尽管其参数数量远远超过训练样本数,却仍能取得优异的泛化性能。传统的泛化分析由于过参数化的存在,通常只能得到空泛、缺乏实际意义的界。 在本次报告中,我们通过控制过参数化浅层神经网络(SNNs)的 Rademacher 复杂度,建立了非空泛的泛化界,并结合对高度过参数化浅层神经网络的实证研究加以支持。我们的复杂度界完全依赖于网络参数相对于初始化点的距离,并以网络的路径范数(path-norm)来表述。

雷云文数学学院.pdf