吃瓜教程——第二章(读书笔记)

本文主要是介绍吃瓜教程——第二章(读书笔记)，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

一、经验误差和过拟合

1.1 经验误差和泛化误差

错误率公式$$\text{错误率}=\frac{\text{错误样本}}{\text{样本总数}}$$
精度公式$$\text{精度}=1-\text{错误率}$$
经验误差(训练误差)：学习器在训练集上的误差
泛化误差：学习器在新样本集上的误差

---

1.2 过拟合和欠拟合

过拟合：学习器把训练集的样本学得太好了，可能把训练样本自身的一些特点当做了潜在样本都会具有一般的性质，导致泛化能力下降
欠拟合：对训练样本的一般性质尚未学好
周志华老师在书中举出了这样的一个例子

---

二、评估方法

由于泛化误差难以测试出，因此采用测试误差作为近似误差即
$$\text{泛化误差}\approx \text{测试误差}$$

2.1 留出法

直接将数据集D划分为两个互斥的集合，其中一个是训练集S，一个是测试集T，S和T满足下列关系
$$\{\begin{array}{c}D=S\cup T\\ \varnothing =S\cap T\end{array}$$
Tip：由于数据样本容量的大小不同，对最终模型学习的结果产生一定的影响，而因为学习算法需要对数据集D进行学习，而这种方法需要对数据集D进行划分，因此通用的解法是将大概2/3~4/5的数据作为训练集，剩下来的作为测试集

2.2 交叉验证法

交叉验证法：对数据集D划分为K个大小相似的互斥子集，采用分层采样的方法，即$$D=D_1\cup D_2\cup \cdots \cup D_k\left(D_i\ne D_j\right)$$
交叉验证法的流程图如下所示，

---

2.3 自助法

一句话概括就是，通过自助的方法对数据集中的数据进行等概率的放回型采用，所以样本在m次采样中始终不被采样到的概率为
lim ⁡ ( 1 − 1 m

这篇关于吃瓜教程——第二章(读书笔记)的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---