数学建模算法与应用【主成分分析法】

拼搏现实的明天。 2024-03-29 15:24 180阅读 0赞

主成分分析的目的：数据的压缩；数据的解释;数据的降维

### 什么是主成分分析？ ###

研究如何通过少数几个主成分(principal component)来解释多个变量间的内部结构。即从原始变量中导出少数几个主分量，使它们尽可能多地保留原始变量的信息，且彼此间互不相关  
常被用来寻找判断事物或现象的**综合指标**，并对综合指标所包含的信息进行适当的解释

### 主成分分析的基本思想 ###

![在这里插入图片描述][d92a92e1a3a348db854bd34129e2f658.png]  
![在这里插入图片描述][d1418ed95f9a47f7a0017c820ff9bd69.png]  
![在这里插入图片描述][7fe4d0eb882a475a9c4ace8f448dce08.png]

*  主成分分析就是设法将原来众多具有一定相关性的变量(如p个变量)，重新组合成一组新的相互无关的综合变量来代替原来变量。怎么处理?通常数学上的处理就是将原来p个变量作线性组合作为新的综合变量。
 *  如果将选取的第一个线性组合即第一个综合变量记为F1，自然希望F1尽可能多的反映原来变量的信息。
 *  最经典的方法就是用方差来表达，即varF1)越大，表示F1包含的信息越多。因此在所有的线性组合中所选取的F1应该是方差最大的，故称之为第一主成分 (principal componentl)。
 *  如果第一主成分不足以代表原来p个变量的信息，再考虑选取F2即第二个线性组合。F2称为第二主成分 (principalcomponent II)。 F1和F2的关系?
 *  为了有效地反映原来信息，F1已有的信息就不再出现在F2中即cov (F1,F2)=0。依此类推，可以获得p个主成分。因此，这些主成分之间是互不相关的，而且方差依次递减。在实际中，挑选前几个最大主成分来表征。标准?
 *  各主成分的累积方差贡献率>85%或特征根>1。

### 主成分分析的数学模型 ###

![在这里插入图片描述][8db9d9c676884c81b1a0b5fc187be8d5.png]  
![在这里插入图片描述][7969e079c2684ee8a01dcb95acbed1f9.png]  
![在这里插入图片描述][4542f3ab0b284889b454efc15a5c5e6e.png]  
![在这里插入图片描述][76d7d93dd34e4088b9aa8c3be8fbfea4.png]  
KMO超过0.5可以做主成分分析，0.3-0.5也可以做但不推荐，0.3以下不能做主成分分析。  
Sig显著性水平检验小于0.05可以做，大于0.05不推荐  
两种数据满足其中一种就可以进行主程序检验。  
![在这里插入图片描述][c7f78a08faaf46ba9b8cb28e2622a3d9.png]  
![在这里插入图片描述][857a477e392b4a65b03435c558f5c45b.png]  
![在这里插入图片描述][7fddcf0defeb42f08d0b215736102cc4.png]  
![在这里插入图片描述][e24a0db8b2d645bb911bb680e457ec00.png]

### 主成分分析的步骤 ###

1.  对原来的p个指标进行标准化，以消除变量在水平和量纲上的影响
2.  根据标准化后的数据矩阵求出相关系数矩阵
3.  求出协方差矩阵的特征根和特征向量
4.  确定主成分，并对各主成分所包含的信息给予适当的解释  
    这一部分对照着书上看更容易理解。

### 例题 ###

利用主成分分析对投资效益进行分析和排序。  
![在这里插入图片描述][be4043f3a092409e8a39129d28efa7a8.png]  
代码

clc,clear
    gj=load('data14_7.txt');%获取数据
    gj=zscore(gj); %数据标准化
    r=corrcoef(gj);  %计算相关系数矩阵
    %下面利用相关系数矩阵进行主成分分析，x的列为r的特征向量，即主成分的系数
    [x,y,z]=pcacov(r) %y为r的特征值，z为各个主成分的贡献率
    f=repmat(sign(sum(x)),size(x,1),1); %构造与x同维数的元素为±1的矩阵
    x=x.*f %修改特征向量的正负号，每个特征向量乘以所有分量和的符号函数值
    num=3;  %num为选取的主成分的个数
    df=gj*x(:,[1:num]);  %计算各个主成分的得分
    tf=df*z(1:num)/100; %计算综合得分
    [stf,ind]=sort(tf,'descend');  %把得分按照从高到低的次序排列
    stf=stf', ind=ind'

运行结果  
![在这里插入图片描述][800bfc48888648c09fe742a3f3b259fc.png]

[d92a92e1a3a348db854bd34129e2f658.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/84e84de754cb4b55b2a5d41c9e8ae748.png
[d1418ed95f9a47f7a0017c820ff9bd69.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/586bc23476994d34ae8ace55ac9138fb.png
[7fe4d0eb882a475a9c4ace8f448dce08.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/b16c1c9c054e407fa1784ddb87f4bcb2.png
[8db9d9c676884c81b1a0b5fc187be8d5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/bddd379b5be54fa6902ea173da6bd9a3.png
[7969e079c2684ee8a01dcb95acbed1f9.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/c30d1726f3424ca5b67a54caa246138a.png
[4542f3ab0b284889b454efc15a5c5e6e.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/c63074577a3240089a2d3d5bf04a91e9.png
[76d7d93dd34e4088b9aa8c3be8fbfea4.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/9cbcfdf0ed3840b3a38c0855e75c0a4c.png
[c7f78a08faaf46ba9b8cb28e2622a3d9.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/889cdbf77aea4ef9a97bf0a89d3fc490.png
[857a477e392b4a65b03435c558f5c45b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/907ac52e20194412ad372b5daba75d9e.png
[7fddcf0defeb42f08d0b215736102cc4.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/d6e24a50184f4db29a305a4c54524774.png
[e24a0db8b2d645bb911bb680e457ec00.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/ab28bc4459544752883f5df1ec592dbd.png
[be4043f3a092409e8a39129d28efa7a8.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/92c37c9965ed4f9687e4d737e16eabaa.png
[800bfc48888648c09fe742a3f3b259fc.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/28/69dca32255684f6690931dc4ca5b35c4.png