统计学习 复习（知识点+习题）

发布时间：2024年01月15日

复习资料：https://github.com/RuijieZhu94/StatisticalLearning_USTC

第一章 线性回归

1. From one to two

最小二乘

在这里插入图片描述

课后题
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

有偏/无偏估计

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

加权最小二乘

在这里插入图片描述

2. Regularization

线性回归（二维情况）

在这里插入图片描述
在这里插入图片描述

求解有约束优化问题

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

正则化最小加权二乘

在这里插入图片描述
不确定答案形式
在这里插入图片描述

3. Basic Function

核函数 岭回归

在这里插入图片描述

在这里插入图片描述
有个关于核函数的推导，但应该不会考
在这里插入图片描述

4.Bias-variance decomposition

Sparse

在这里插入图片描述
在这里插入图片描述

5.Different regularization forms

L1 minimization

在这里插入图片描述
在这里插入图片描述

6.Bayesian approach

后验估计

在这里插入图片描述

在这里插入图片描述

第二章 线性分类

1. exponential family and maximum entropy

微分熵

在这里插入图片描述
请添加图片描述

指数family

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

最大熵

在这里插入图片描述
在这里插入图片描述

感知机

2. 简答

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第三章 SVM

1. Linear SVM

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2. 核函数

在这里插入图片描述
在这里插入图片描述

第四章 监督学习

Loss Function

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

第五章 非参数学习

1.Parzen Window/核函数估计

2.k-NN

3.稀疏编码

在这里插入图片描述

第六章 无/半监督学习

1. k-means

在这里插入图片描述

2.混合高斯模型

在这里插入图片描述

3.超球体体积

在这里插入图片描述
在这里插入图片描述

4.PageRank

在这里插入图片描述
在这里插入图片描述

第七章 组合学习

第八章 决策树

第九章 概率图模型

Bayes Markov在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Bayes Net

在这里插入图片描述

在这里插入图片描述

文章来源:https://blog.csdn.net/qin_liang/article/details/135518493
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
最新文章