Python机器学习手册：从数据预处理到深度学习

问题描述

减少过拟合。

解决方案

惩罚网络参数的过程，也被称为权重调节（weight regularization）：

讨论

对抗过拟合神经网络的策略之一就是惩罚神经网络的参数（即权重），使它们变成很小的值，从而创建一个更简单、更难过拟合的模型。这个方法叫作权重调节或者权重减少（weight decay）。更准确地说，权重调节就是将一个惩罚项加在L2范数这样的损失函数上。

在 Keras 中，我们可以通过在神经元层的参数中添加 kernel_regular izer=regularizers.l2(0.01)来进行权重调节。其中，0.01表示要对参数值施加多重惩罚。