文章目录[隐藏]
目录
1、背景
为什么需要降维呢?
因为数据个数 N 和每个数据的维度 p 不满足 N >> p,造成了模型结果的“过拟合”。有两种方法解决上述问题:
增加N;减小p。
这里我们讲解的 PCA 属于方法2。
2、样本均值和样本方差矩阵
3、PCA
3.1 最大投影方差
3.2 最小重构距离
4、Python实现
""" -*- coding: utf-8 -*- @ Time : 2021/8/15 22:19 @ Author : Raymond @ Email : [email protected] @ Editor : Pycharm """ from sklearn.datasets import load_digits from sklearn.decomposition import PCA import pandas as pd import matplotlib.pyplot as plt digits = load_digits() print(digits.keys()) print("数据的形状为: {}".format(digits['data'].shape)) # 构建模型 - 降到10 d pca = PCA(n_components=10) pca.fit(digits.data) projected=pca.fit_transform(digits.data) print('降维后主成分的方差值为:',pca.explained_variance_) print('降维后主成分的方差值占总方差的比例为:',pca.explained_variance_ratio_) print('降维后最大方差的成分为:',pca.components_) print('降维后主成分的个数为:',pca.n_components_) print('original shape:',digits.data.shape) print('transformed shape:',projected.shape) s = pca.explained_variance_ c_s = pd.DataFrame({'b': s,'b_sum': s.cumsum() / s.sum()}) c_s['b_sum'].plot(style= '--ko',figsize= (10, 4)) plt.rcParams['font.sans-serif'] = ['SimHei'] # 指定默认字体 plt.rcParams['axes.unicode_minus'] = False # 解决保存图像是负号'-'显示为方块的问题 plt.axhline(0.85, color= 'r',linestyle= '--') plt.text(6, c_s['b_sum'].iloc[6]-0.08, '第7个成分累计贡献率超过85%', color='b') plt.title('PCA 各成分累计占比') plt.grid() plt.savefig('./PCA.jpg') plt.show()
结果展示:
总结
本篇文章就到这里了,希望能给你带来帮助,也希望您能够多多关注华域联盟的更多内容!
您可能感兴趣的文章:
- Python机器学习之PCA降维算法详解
- 在Python中使用K-Means聚类和PCA主成分分析进行图像压缩
- python实现PCA降维的示例详解
- Python sklearn库实现PCA教程(以鸢尾花分类为例)
- 利用python-pypcap抓取带VLAN标签的数据包方法
本文由 华域联盟 原创撰写:华域联盟 » (手写)PCA原理及其Python实现图文详解
转载请保留出处和原文链接:https://www.cnhackhy.com/31891.htm