11主成分分析与因子分析

第13章 主成分分析与因子分析介绍： 介绍： 1、主成分分析与因子分析的概念 、 2、主成分分析与因子分析的过程 、

主成分分析与因子分析的概念需要与可能：在各个领域的科学研究中， 需要与可能：在各个领域的科学研究中，往往需要对反映事物的 多个变量进行大量的观测，收集大量数据以便进行分析寻找规律。 多个变量进行大量的观测，收集大量数据以便进行分析寻找规律。 多变量大样本无疑会为科学研究提供丰富的信息， 多变量大样本无疑会为科学研究提供丰富的信息，但也在一定程 度上增加了数据采集的工作量，更重要的是在大多数情况下， 度上增加了数据采集的工作量，更重要的是在大多数情况下，许 多变量之间可能存在相关性而增加了问题分析的复杂性， 多变量之间可能存在相关性而增加了问题分析的复杂性，同时对 分析带来不便。如果分别分析每个指标，分析又可能是孤立的， 分析带来不便。如果分别分析每个指标，分析又可能是孤立的， 而不是综合的。盲目减少指标会损失很多信息， 而不是综合的。盲目减少指标会损失很多信息，容易产生错误的 结论。因此需要找到一个合理的方法，减少分析指标的同时， 结论。因此需要找到一个合理的方法，减少分析指标的同时，尽 量减少原指标包含信息的损失，对所收集的资料作全面的分析。 量减少原指标包含信息的损失，对所收集的资料作全面的分析。 由于各变量间存在一定的相关关系， 由于各变量间存在一定的相关关系，因此有可能用较少的综合指 标分别综合存在于各变量中的各类信息。 标分别综合存在于各变量中的各类信息。主成分分析与因子分析 就是这样一种降维的方法。 就是这样一种降维的方法。 主成分分析与因子分析是将多个实测变量转换为少数几个不相关 的综合指标的多元统计分析方法 直线综合指标往往是不能直接观测到的， 直线综合指标往往是不能直接观测到的，但它更能反映事物的本 因此在医学、心理学、 质。因此在医学、心理学、经济学等科学领域以及社会化生产中 得到广泛的应用。 得到广泛的应用。

主成分分析与因子分析的概念(续)由于实测的变量间存在一定的相关关系， 由于实测的变量间存在一定的相关关系， 因此有可能用较少数的综合指标分别综 合存在于各变量中的各类信息， 合存在于各变量中的各类信息，而综合 指标之间彼此不相关， 指标之间彼此不相关，即各指标代表的 信息不重叠。 信息不重叠。综合指标称为因子或主成 提取几个因子),一般有两种方法： ),一般有两种方法 分(提取几个因子)

,一般有两种方法： 特征值>1 特征值 累计贡献率>0.8 累计贡献率

主成分分析实例P316-不旋转默认为主成分分析法:Principal 使用默认值进行最简单的主成分分析(默认为主成分分析法 默认为主成分分析法 components) 例子P316:对美国洛杉矶 个人口调查区的 个经济学变量的数据进行因 个人口调查区的5个经济学变量的数据进行因 例子 ：对美国洛杉矶12个人口调查区的 子分析， 子分析，data13-01a,数据见下一张幻灯片) ,数据见下一张幻灯片) 菜单：Analyze-Data Reduction-Factor Variables :pop,School,employ,Services, house 其他使用默认值(主成分分析法Principal components,选取特征值>1, 不旋转)比较有用的结果：两个主成分 因子 因子)f1,f2及因子载荷矩阵 及因子载荷矩阵(Component Matrix),根据该 比较有用的结果：两个主成分(因子 及因子载荷矩阵 ， 表可以写出每个原始变量(标准化值)的因子表达式： 表可以写出每个原始变量(标准化值)的因子表达式： Pop≈0.581f1 + 0.806f2 ≈ School ≈ 0.767f1 - 0.545f2 employ ≈ 0.672f1 + 0.726f2 Services ≈ 0.932f1 - 0.104f2 house ≈ 0.791f1 - 0.558f2 每个原始变量都可以是5个因子的线性组合 提取两个因子f1和 ， 个因子的线性组合， 每个原始变量都可以是 个因子的线性组合，提取两个因子 和f2,可以概括原始变量所包 含信息的93.4%。 f1和f2前的系数表示该因子对变量的影响程度，也称为变量在因子上的 前的系数表示该因子对变量的影响程度， 含信息的 。 和 前的系数表示该因子对变量的影响程度 载荷。 载荷。 但每个因子(主成分)的系数(载荷 没有很明显的差别，所以不好命名。 载荷)没有很明显的差别 但每个因子(主成分)的系数 载荷 没有很明显的差别，所以不好命名。因此为了对因子 进行命名，可以进行旋转，使系数向0和 两极分化 这就要使用选择项。 两极分化， 进行命名，可以进行旋转，使系数向 和1两极分化，这就要使用选择项。

洛衫矶对12个人口调查区的数据 洛衫矶对 个人口调查区的数据编号 no 总人口 pop中等学校平均 校龄School 校龄

总雇员数 专业服务 employ 项目数Services 项目数

中等房价 house

1 2 3 4 5 6 7 8 9 10 11 12

5700 1000 3400 3800 4000 8200 1200 9100 9900 9600 9600 9400

12.8 10.9 8.8 13.6 12.8 8.3 11.4 11.5 12.5 13.7 9.6 11.4

2500 600 1000 1700 1600 2600 400 3300 3400 3600 3300 4000

270 10 10 140 140 60 10 60 180 390 80 100

25000 10000 9000 25000 25000 12000 16000 14000 18000 25000 12000 13000

因子分析实例322-旋转Rotation由于系数没有很明显的差别,所以要进行旋转 一般用Varimax方 由于系数没有很明显的差别 所以要进行旋转(Rotation:method一般用 所以要进行旋转 ：

一般用 方 差最大旋转),使系数向 使系数向0和 两极分化 两极分化, 差最大旋转 使系数向 和1两极分化 例子同上 菜单： 菜单：Analyze-Data Reduction-Factor - - Variables :pop,School,employ,Services, house , , , , Extraction:使用默认值( method:Principal components,选取特征值 ：使用默认值( : , >1) ) Rotation:method选Varimax : 选 Score:Save as variables 和Display factor score Coefficient matrix Pop≈ 0.01602 f1 + 0.9946f2 ≈ School ≈ 0 .941f1 - 0.00882f2 employ ≈ 0.137f1 + 0.98f2 Services ≈ 0.825f1 +0.447f2 house ≈ 0.968f1 - 0.00605f2 第一主因子对中等学校平均校龄,专业服务项目 中等房价有绝对值较大的载荷(代 专业服务项目,中等房价有绝对值较大的载荷 第一主因子对中等学校平均校龄 专业服务项目 中等房价有绝对值较大的载荷 代 表一般社会福利-福利条件因子 福利条件因子); 表一般社会福利 福利条件因子 而第二主因子对总人口和总雇员数有较大的载荷 (代表人口 人口因子 P326 代表人口-人口因子 代表人口 人口因子). 比较有用的结果:因子得分 比较有用的结果 因子得分fac1_1, fac2_1。其计算公式：因子得分系数和原始 。其计算公式： 因子得分 变量的标准化值的乘积之和( 变量的标准化值的乘积之和(P326)。然后可以利用因子得分进行聚类 。然后可以利用因子得分进行聚类p327 (Analyze->Classify->Hierarchical Cluster)。 )。比较有用的结果：两个主成分 因子 因子)f1,f2及旋转后的因子载荷矩阵 及旋转后的因子载荷矩阵(Rotated Component 比较有用的结果：两个主成分(因子 及旋转后的因子载荷矩阵 Matrix) ,根据该表可以写出每个原始变量(标准化值)的因子表达式： 根据该表可以写出每个原始变量(标准化值)的因子表达式：

主成分分析实例P330 -不旋转市场研究中的顾客偏好分析在市场研究中， 在市场研究中，常常要求分析顾客的偏好和当前市场的产品与顾 客偏好之间的差别，从而找出新产品开发的方向。 客偏好之间的差别，从而找出新产品开发的方 …… 此处隐藏：4631字，全部文档内容请下载后查看。喜欢就下载吧 ……