本文主要是介绍python机器学习之降维算法PCA对手写数字数据集的降维案例，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
PCA对手写数字数据集的降维案例
数据集获取地址:->这里下载
导入需要的模块和库
from sklearn.decomposition import PCA
from sklearn.ensemble import RandomForestClassifier as RFC
from sklearn.model_selection import cross_val_score
import matplotlib.pyplot as plt
import pandas as pd
import numpy as np
导入数据,探索数据
data = pd.read_csv("../数据/digit recognizor.csv")
x = data.iloc[:,1:]
y = data.iloc[:,0]
查看数据维度
data.shape
x.shape
画累计方差贡献率曲线,找最佳降维后维度的范围
pca_line = PCA().fit(x)#实例化
plt.figure(figsize=[20,5])#创建画布
plt.plot(np.cumsum(pca_line.explained_variance_ratio_))#折线图
plt.xlabel("number of components")#x轴标题
plt.ylabel("cumulative explainec variance")#y轴标题
plt.show()#显示图像
降维后维度的学习曲线,继续缩小最佳维度的范围
score = []
for i in range(1,101,10):x_dr = PCA(i).fit_transform(x)once = cross_val_score(RFC(n_estimators=10,random_state=0),x_dr,y,cv = 5).mean()score.append(once)plt.figure(figsize=[20,5])
plt.plot(range(1,101,10),score)
plt.show()
细化学习曲线,找出降维后的最佳维度
score = []
for i in range(10,25):x_dr = PCA(i).fit_transform(x)once = cross_val_score(RFC(n_estimators=10,random_state=0),x_dr,y,cv = 5).mean()score.append(once)plt.figure(figsize=[20,5])
plt.plot(range(10,25),score)
plt.show()
发现在23时有最大值,所以我们选择使用23作为PCA维度．
导入找出的最佳维度进行降维,查看模型效果
x_dr = PCA(23).fit_transform(x)cross_val_score(RFC(n_estimators = 100,random_state=0),x_dr,y,cv=5).mean()
型的效果还好,跑出了94.55%的水平,但是还没有我们使用嵌入法特征选择后的96%高.
特征数量已经不足原来的3%,换模型怎么样,换成KNN
from sklearn.neighbors import KNeighborsClassifier as KNN
cross_val_score(KNN(),x_dr,y,cv=5).mean()
KNN 的K值学习曲线
score = []
for i in range(10):x_dr = PCA(23).fit_transform(x)once = cross_val_score(KNN(i+1),x_dr,y,cv = 5).mean()score.append(once)plt.figure(figsize=[20,5])
plt.plot(range(10),score)
plt.show()
使用交叉验证求出模型的结果
cross_val_score(KNN(4),x_dr,y,cv = 5).mean()#交叉验证求出模型的效果
定下超参数后,模型的效果如何,模型运行时间如何
%%timeitcross_val_score(KNN(4),x_dr,y,cv = 5).mean()#交叉验证求出模型的效果
小结:
可以发现,原本785列的特征被我们减到23列以后,用KNN跑出了目前位置这个数据集上最好的结果.
PCA为我们提供了无限的可能,再也不用担心数据量过于庞大而被迫选择复杂的模型了
这篇关于python机器学习之降维算法PCA对手写数字数据集的降维案例的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
