清风数学建模学习笔记-岭回归与lasso回归

发布时间:2023年12月22日

内容:岭回归与lasso回归

  • 介绍:

岭回归与lasso回归与OLS回归(最小二乘估计法)模型的区别在与在损失函数上加上不同的惩罚项,该惩罚项能够识别模型中不重要的变量,对模型起到简化的作用,另一方面加入惩罚项之后可以使模型变得可估计。

二.岭回归简单介绍(无推理过程):

1.岭回归:

  1. 如何选择参数λ

三lasso回归的原理与STATA实现:

1.

2.lasso可以理解为升级版的逐步回归,因为它可以筛选变量,将不重要的变量的系数直接压缩为0

四.使用stata实现:

1.标准化处理,matlab的zscore函数,或SPSS的分析-描述统计-描述。

stata也可以不过一次只能对一个变量进行标准化。

  1. K折交叉验证

  1. 使用K则交叉验证实现:

  1. 参数解释

  1. 如和使用?

可将lasso回归看作是筛选变量的一种方法,进阶版的逐步回归。

文章来源:https://blog.csdn.net/weixin_64687170/article/details/135146224
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。