本报告将讨论ReLU神经网络逼近与学习理论的一些最新进展。我们将神经网络的逼近理论按使用的方法分为两类。第一种方法利用分段多项式逼近光滑函数,再构造神经网络逼近分段多项式,从而建立关于网络宽度和深度的最优逼近阶。在第二种方法中,我们考虑浅层神经网络的函数空间,即Barron空间,并利用随机逼近方法估计该空间中的逼近误差。通过研究Barron空间与光滑函数空间之间的关系,我们可以用网络宽度和参数矩阵的某种范数来刻画神经网络的逼近误差。最后,我们将讨论这些逼近结果在非参数回归中的应用。特别地,我们将证明基于深度或浅层神经网络的最小二乘估计,能够在多种设定下达到学习光滑函数类的最优收敛速率。
