林荟 (Hui Lin)
文中的代码可重复:),有任何问题联系邮箱: <longqiman>@gmail.com
对模型参数进行限制或者规范化能将一些参数估计朝着0收缩.使用收缩方法提高模型拟合表现的原理可能不那么显而易见,但是收缩方法的效果是非常好的,这也是我最常使用的方法,尤其是项目要求使用可以解释的模型时.岭回归(ridge regression),lasso以及弹性网络(elastic net).弹性网络结合了ridge和lasso中的罚函数,可以说是它们的一般化版本.
ridge是在结构风险最小化的正则化因子上使用模型参数向量的二阶范数形式,lasso使用的是一阶范数形式.虽然ridge可以将参数估计值向0