蓝皮专题

感知器、感知器对偶形式(含作业)||《统计学习方法》李航_第1章_蓝皮(学习笔记)

第2章 感知机学习算法 感知器原始版算法(含作业)对偶形式对偶形式算法 依旧只记录重要的 感知器 感知器是神经网络和SVM的基础。 原始版算法(含作业) 先记录一下优化函数: min ⁡ w , b − ∑ x i ∈ M y i ( w ⋅ x i + b ) \min \limits_{w,b}-\sum\limits_{x_{i\in M}}{y_i(w·x_

经验风险最小化、结构风险最小化、极大似然估计、最大后验概率估计...||《统计学习方法》李航_第1章_蓝皮(学习笔记)

第1章 统计学习方法概论 监督学习统计学习三要素模型策略(经验风险和结构经验风险) 判别模型与生成模型补充(含课后作业)MLE、MAP和贝叶斯估计证明经验风险最小化等价于极大似然估计(在特定条件下)证明结构风险最小化与最大后验概率等价(在特定条件下)贝叶斯估计 挑重点记录一下。 监督学习 监督学习有一个重要的假设:设输入的随机变量 X X X和 Y Y Y遵循联合概率分布 P