< 上一个 | 内容 | 下一个 >

5.4.4 神经网络的精确泛化估计

在神经网络的经典分析中,神经网络的容度随神经网络的参数量增加而增加,进而泛化界的估计也会随参数量增加而上升。然而,实践中往往使用过参数化的神经网络,这使得经典分析中的误差界估计远高于真实值,无法提供有效的信息。近年来,研究者们提出了包括稳定性、参数与样本互信息、陡度在内的新容度,并以此为基础在特定算法和特定场景下得到了较为精确的泛化估计。