R语言——机器学习模型h2o包与解释

1.自动机器学习（AutoML）

自动机器学习（AutoML）功能实现有监督机器学习模型训练的自动化过程当前版本的AutoML训练并交叉验证了以下算法（按以下顺序）：三个预先指定的XGBoost-GBM（Gradient Boosting Machine）模型、一个固定的GLMs网格、一个默认的随机林（DRF），五个预先指定的H2O GBMs、一个近似默认的深度神经网络、一个极端随机森林（XRT）、一个XGBoost GBMs的随机网格、一个H2O GBMs的随机网格和一个深度神经网络的随机网格。在某些情况下，将没有足够的时间来完成所有的算法，因此有些可能会从排行榜上消失。然后，AutoML训练两个叠加的集成模型，一个是所有模型，另一个是每种模型中最好的模型。
R语言 h2o.automl包解释
H2O AutoML: Automatic Machine Learning官网*best
R语言h2o.automl代码1*
R语言h2o.automl代码2*

2.各model的分别使用

H20监督算法的model：
广义线性回归模型 (GLM)
随机森林模型(RF)
GBM(也称GBDT)
深度学习(DL)
朴素贝叶斯(NB)
R语言 h2o.model

3.深度学习h2o.deeplearning

常用的深度学习模型框架是Python中的ensorflow和Pytorch，已经基于Kears开发的R包keras。这几种框架具有很高的灵活性，学习难度较大。基于此，我们解释一种经过包装过的深度学习方法h2o.deeplearning。

H2O是一个基于java的机器学习/深度学习平台，它支持大量无监督和有监督的模型，也支持深度学习算法；可以作为R或Python包导入，也给用户提供UI似的界面。

H2O的深度学习基于多层前馈人工神经网络，该网络使用反向传播进行随机梯度下降训练。前馈人工神经网络 （ANN） 模型，也称为深度神经网络 （DNN） 或多层感知器 （MLP），是最常见的深度神经网络类型。
R 语言深度学习模拟与评价-1
R 语言深度学习模拟与评价-2
R语言 h2o.deeplearning

4.模型解释

（1）模型效果评估指标

a.混淆矩阵(Confusion Matrix)

b.Lift( 提升指数 )

指投入与产出的比例，值越大，模型的运行效果越好。

c.ROC 曲线 & PR 曲线 & KS 曲线

实际应用中，通常是先基于训练好的分类器得出测试样本的预测概率，然后将该测试样本的预测概率与给定的阈值进行比较，若该预测概率大于给定阈值，则将该测试样本划分为正类，反之则将其划分为反类。对于不同的分类任务，该分类阈值的取值也是不一样的。
① ROC 曲线 ( The Receiver Operating Characteristic Curve ) 给出的是不同分类阈值情况下真正率 ( TPr ) 和假正率 ( FPr ) 的变化曲线。
② PR 曲线 ( Precision-Recall Curve ) 给出的是不同分类阈值情况下查准率 ( Precision ) 和查全率 ( Recall ) 的变化曲线。

d.个体条件期望图 ( ICE )

ICE相较PDPICE 图可以更深入地探索个体差异并识别模型输入之间的子组和相互作用。另一方面，ICE 图使得可以深入到单个观察的水平。它们可以帮助探索个体差异，并确定模型输入之间的子组和交互。可以将每个 ICE 曲线视为一种模拟，显示如果改变特定观察的一个特征，模型预测会发生什么。为避免可视化过载，ICE 图一次只显示一个模型变量。

当对大数据集分析时，则可能需要进行一些调整。例如，可以对选定的变量进行分箱，也可以对数据集进行采样或分组。这些技术可以更快地提供实际图的合理近似值。

（2）排列重要性（Permutation Importance）

排列重要性，一定是在 model 训练完成后，才可以计算的。简单来说，就是改变数据表格中某一列的数据的排列，保持其余特征不动，看其对预测精度的影响有多大。

（3）部分依赖图 ( PDP 或 PD 图 )

PDP显示特征对机器学习模型的预测结果的边际效应，可以展示一个特征是如何影响预测的。部分依赖图可以显示目标与特征之间的关系是线性的，单调的还是更复杂的。例如，当应用于线性回归模型时，部分依赖图总是显示线性关系。

（4）局部可解释不可知模型 ( LIME )

LIME是一种算法，它提供了一种新颖的技术，以可解释和可信任的方式解释任何预测模型的结果。它的工作原理是围绕想要解释的预测在本地训练可解释的模型。

（5）SHAP

一个特征的 shapley value 是该特征在所有的特征序列中的平均边际贡献。 解决了多重共线性问题；不仅考虑单个变量的影响，而且考虑变量组的影响，变量之间可能存在协同效应。

机器学习模型解释及图解*