内容:岭回归与lasso回归
岭回归与lasso回归与OLS回归(最小二乘估计法)模型的区别在与在损失函数上加上不同的惩罚项,该惩罚项能够识别模型中不重要的变量,对模型起到简化的作用,另一方面加入惩罚项之后可以使模型变得可估计。
二.岭回归简单介绍(无推理过程):
1.岭回归:
三lasso回归的原理与STATA实现:
1.
2.lasso可以理解为升级版的逐步回归,因为它可以筛选变量,将不重要的变量的系数直接压缩为0
四.使用stata实现:
1.标准化处理,matlab的zscore函数,或SPSS的分析-描述统计-描述。
stata也可以不过一次只能对一个变量进行标准化。
、
可将lasso回归看作是筛选变量的一种方法,进阶版的逐步回归。