拟合类型

• 欠拟合
• 过拟合

正则化

缓解过拟合问题

重点在于加上正则化项 $\frac{\lambda}{2}\boldsymbol{\omega}^{T}\boldsymbol{\omega}$

即原损失函数为 $L_{0}(\boldsymbol{\omega})$

则正则化后损失函数为 $L(\boldsymbol{\omega})=L_{0}(\boldsymbol{\omega})+\frac{\lambda}{2}\boldsymbol{\omega}^{T}\boldsymbol{\omega}$