当前位置: 首页 > news >正文

因子分析——数学原理及R语言代码

这里写自定义目录标题

  • 因子分析
    • 参数估计方法
      • 主成分法
      • 主因子法
    • 因子旋转
  • 代码实现
  • Reference

因子分析

FactorAnalysis的目的是从多个高度相关的观测变量中提取出少数几个LatentFactor,这些因子代表了变量背后的共通结构,从而实现降维并提升可解释性。

假设对一组学生进行了以下六门课程的测试:语文、英语、数学、物理、化学、生物,发现语文和英语成绩之间高度相关,数学、物理、化学、生物也彼此高度相关。此时可以猜测:这些成绩可能是由两个更基本的“能力”决定的,比如语言能力和理科能力。通过因子分析就可以提取出这两个潜在因子,并发现语文和英语主要由“语言能力”因子决定,理科四门主要由“理科能力”因子解释。这样就可以用两个因子有效地概括了六个变量的结构,同时让模型更易解释、更简洁。

‘ X ‘ `\mathbf{X}` X是一个可观测的 ‘ m ‘ `m` m维随机向量, ‘ E ⁡ ( X ) = μ , Cov ⁡ ( X ) = Σ = ( σ i j ) ‘ `\operatorname{E}(\mathbf{X})=\boldsymbol{\mu},\;\operatorname{Cov}(\mathbf{X})=\Sigma=(\sigma_{ij})` E(X)=μ,Cov(X)=Σ=(σij)。因子分析的数学模型为:
X = μ + A F + ε { E ⁡ ( F ) = 0 , Cov ⁡ ( F ) = I n E ⁡ ( ε ) = 0 , Cov ⁡ ( ε ) = D = diag ⁡ { σ 1 2 , … , σ m 2 } Cov ⁡ ( F , ε ) = 0 \begin{gathered} \mathbf{X}=\boldsymbol{\mu}+AF+\varepsilon \\ \begin{cases} \operatorname{E}(F)=\mathbf{0},\;\operatorname{Cov}(F)=I_n \\ \operatorname{E}(\varepsilon)=\mathbf{0},\;\operatorname{Cov}(\varepsilon)=D=\operatorname{diag}\{\sigma_1^2,\dots,\sigma_m^2\} \\ \operatorname{Cov}(F,\varepsilon)=\mathbf{0} \end{cases} \end{gathered} X=μ+AF+ε E(F)=0,Cov(F)=InE(ε)=0,Cov(ε)=D=diag{σ12,,σm2}Cov(F,ε)=0
其中 ‘ F = ( f 1 , … , f n ) T ‘ `F=(f_1,\dots,f_n)^T` F=(f1,,fn)T是不可观测的 ‘ n ‘ `n` n维随机变量, ‘ ε ‘ `\varepsilon` ε是不可观测的 ‘ m ‘ `m` m维随机变量,分别称 ‘ F ‘ `F` F ‘ ε ‘ `\varepsilon` ε为CommonFactor和SpecificFactor。 ‘ A = ( a i j ) ‘ `A=(a_{ij})` A=(aij)是一个非随机矩阵, ‘ a i j ‘ `a_{ij}` aij表示公共因子 ‘ f j ‘ `f_j` fj、随机变量 ‘ X i ‘ `\mathbf{X}_i` Xi的因子载荷。 ‘ a 1 j , a 2 j , … , a i j ‘ `a_{1j},a_{2j},\dots,a_{ij}` a1j,a2j,,aij中至少有两个不为 ‘ 0 ‘ `0` ‘0‘,否则可将 ‘ f i ‘ `f_i` fi并入到 ‘ ε i ‘ `\varepsilon_i` εi中去; ‘ ε i ‘ `\varepsilon_i` εi也仅出现在 ‘ X i ‘ `\mathbf{X}_i` Xi的表达式中。


上述因子分析模型具有如下性质:

  1. ‘ Σ = A A T + D ‘ `\Sigma=AA^T+D` ‘Σ=AAT+D

  2. ‘ X ∗ = C X ‘ `\mathbf{X}^*=C\mathbf{X}` X=CX,则有:
    Y = C μ + C A F + C ε = μ ∗ + A ∗ F + ε ∗ \mathbf{Y}=C\boldsymbol{\mu}+CAF+C\varepsilon=\boldsymbol{\mu}^*+A^*F+\varepsilon^* Y=Cμ+CAF+=μ+AF+ε

  3. 因子载荷不唯一;

  4. ‘ Cov ⁡ ( X , F ) = A ‘ `\operatorname{Cov}(\mathbf{X},F)=A` Cov(X,F)=A,即 ‘ Cov ⁡ ( X i , F j ) = a i j ‘ `\operatorname{Cov}(\mathbf{X}_i,F_j)=a_{ij}` Cov(Xi,Fj)=aij

  5. ‘ h i 2 = ∑ j = 1 n a i j 2 ‘ `h_i^2=\sum\limits_{j=1}^{n}a_{ij}^2` hi2=j=1naij2,则有:
    Var ⁡ ( X i ) = σ i i = ∑ j = 1 n a i j 2 + σ i 2 = h i 2 + σ i 2 , i = 1 , 2 , … , m \operatorname{Var}(\mathbf{X}_i)=\sigma_{ii}=\sum_{j=1}^{n}a_{ij}^2+\sigma_i^2=h_i^2+\sigma_i^2,\;i=1,2,\dots,m Var(Xi)=σii=j=1naij2+σi2=hi2+σi2,i=1,2,,m

  6. ‘ g j 2 = ∑ i = 1 m a i j 2 ‘ `g_j^2=\sum\limits_{i=1}^{m}a_{ij}^2` gj2=i=1maij2,则有:
    ∑ i = 1 m Var ⁡ ( X i ) = ∑ j = 1 n g j 2 + ∑ i = 1 n σ i 2 \sum_{i=1}^{m}\operatorname{Var}(\mathbf{X}_i)=\sum_{j=1}^{n}g_j^2+\sum_{i=1}^{n}\sigma_i^2 i=1mVar(Xi)=j=1ngj2+i=1nσi2

Proof. (1)由[prop:CovMat](3)(4)(5)可得:
Σ = Cov ⁡ ( X ) = Cov ⁡ ( μ + A F + ε , μ + A F + ε ) = Cov ⁡ ( μ , μ + A F + ε ) + Cov ⁡ ( A F , μ + A F + ε ) + Cov ⁡ ( ε , μ + A F + ε ) = Cov ⁡ ( A F , μ ) + Cov ⁡ ( A F ) + Cov ⁡ ( A F , ε ) + Cov ⁡ ( ε , μ ) + Cov ⁡ ( ε , A F ) + Cov ⁡ ( ε ) = A Cov ⁡ ( F ) A T + A Cov ⁡ ( F , ε ) + Cov ⁡ ( ε , F ) A T + D = A A T + D \begin{aligned} \Sigma&=\operatorname{Cov}(\mathbf{X})=\operatorname{Cov}(\boldsymbol{\mu}+AF+\varepsilon,\boldsymbol{\mu}+AF+\varepsilon) \\ &=\operatorname{Cov}(\boldsymbol{\mu},\boldsymbol{\mu}+AF+\varepsilon)+\operatorname{Cov}(AF,\boldsymbol{\mu}+AF+\varepsilon)+\operatorname{Cov}(\varepsilon,\boldsymbol{\mu}+AF+\varepsilon) \\ &=\operatorname{Cov}(AF,\boldsymbol{\mu})+\operatorname{Cov}(AF)+\operatorname{Cov}(AF,\varepsilon)+\operatorname{Cov}(\mathbf{\varepsilon},\boldsymbol{\mu})+\operatorname{Cov}(\varepsilon,AF)+\operatorname{Cov}(\varepsilon) \\ &=A\operatorname{Cov}(F)A^T+A\operatorname{Cov}(F,\varepsilon)+\operatorname{Cov}(\varepsilon,F)A^T+D \\ &=AA^T+D \end{aligned} Σ=Cov(X)=Cov(μ+AF+ε,μ+AF+ε)=Cov(μ,μ+AF+ε)+Cov(AF,μ+AF+ε)+Cov(ε,μ+AF+ε)=Cov(AF,μ)+Cov(AF)+Cov(AF,ε)+Cov(ε,μ)+Cov(ε,AF)+Cov(ε)=ACov(F)AT+ACov(F,ε)+Cov(ε,F)AT+D=AAT+D

(2)显然。

(3)取正交矩阵 ‘ Q ‘ `Q` Q,令 ‘ A ∗ = A Q ‘ `A^*=AQ` A=AQ ‘ F ∗ = Q T F ‘ `F^*=Q^TF` F=QTF,则依然有:
E ⁡ ( F ∗ ) = Q T E ⁡ ( F ) = 0 , Cov ⁡ ( F ∗ ) = Q T Cov ⁡ ( F ) Q = I n , X = μ + A ∗ F ∗ + ε \operatorname{E}(F^*)=Q^T\operatorname{E}(F)=\mathbf{0},\;\operatorname{Cov}(F^*)=Q^T\operatorname{Cov}(F)Q=I_n,\;\mathbf{X}=\boldsymbol{\mu}+A^*F^*+\varepsilon E(F)=QTE(F)=0,Cov(F)=QTCov(F)Q=In,X=μ+AF+ε

(4)由[prop:CovMat](3)(4)(5)可得:
Cov ⁡ ( X , F ) = Cov ⁡ ( μ + A F + ε , F ) = Cov ⁡ ( μ , F ) + Cov ⁡ ( A F , F ) + Cov ⁡ ( ε , F ) = A \operatorname{Cov}(\mathbf{X},F)=\operatorname{Cov}(\boldsymbol{\mu}+AF+\varepsilon,F)=\operatorname{Cov}(\boldsymbol{\mu},F)+\operatorname{Cov}(AF,F)+\operatorname{Cov}(\varepsilon,F)=A Cov(X,F)=Cov(μ+AF+ε,F)=Cov(μ,F)+Cov(AF,F)+Cov(ε,F)=A

(5)由(1)即可得到结论。

(6)由(1)可得:
∑ i = 1 m Var ⁡ ( X i ) = tr ⁡ [ Cov ⁡ ( X ) ] = tr ⁡ ( A A T + D ) = ∑ i = 1 m ∑ j = 1 n a i j 2 + ∑ i = 1 n σ i 2 = ∑ j = 1 n ∑ i = 1 m a i j 2 + ∑ i = 1 n σ i 2 = ∑ j = 1 n g j 2 + ∑ i = 1 n σ i 2 \begin{aligned} \sum_{i=1}^{m}\operatorname{Var}(\mathbf{X}_i)&=\operatorname{tr}[\operatorname{Cov}(\mathbf{X})]=\operatorname{tr}(AA^T+D)=\sum_{i=1}^{m}\sum_{j=1}^{n}a_{ij}^2+\sum_{i=1}^{n}\sigma_i^2 \\ &=\sum_{j=1}^{n}\sum_{i=1}^{m}a_{ij}^2+\sum_{i=1}^{n}\sigma_i^2=\sum_{j=1}^{n}g_j^2+\sum_{i=1}^{n}\sigma_i^2 \end{aligned} i=1mVar(Xi)=tr[Cov(X)]=tr(AAT+D)=i=1mj=1naij2+i=1nσi2=j=1ni=1maij2+i=1nσi2=j=1ngj2+i=1nσi2

‘ h i 2 ‘ `h_i^2` hi2为变量 ‘ X i ‘ `\mathbf{X}_i` Xi的CommonVariance,它反映了公共因子对 ‘ X i ‘ `\mathbf{X}_i` Xi的方差贡献度。称 ‘ σ i 2 ‘ `\sigma_i^2` σi2 ‘ X i ‘ `\mathbf{X}_i` Xi的SpecificVariance,它反映了特殊因子 ‘ ε i ‘ `\varepsilon_i` εi ‘ X i ‘ `\mathbf{X}_i` Xi的方差贡献度。 ‘ g j 2 ‘ `g_j^2` gj2可视为公共因子 ‘ f j ‘ `f_j` fj ‘ X 1 , … , X m ‘ `\mathbf{X}_1,\dots,\mathbf{X}_m` X1,,Xm的总方差贡献度。

参数估计方法

主成分法

设观测变量 ‘ X ‘ `\mathbf{X}` X的协方差矩阵 ‘ Σ ‘ `\Sigma` ‘Σ‘,它的特征值从大到小依次为 ‘ λ 1 , … , λ m ‘ `\lambda_1,\dots,\lambda_m` λ1,,λm,对应的单位正交特征向量分别为 ‘ l 1 , … , l m ‘ `l_1,\dots,l_m` l1,,lm。于是 ‘ Σ ‘ `\Sigma` ‘Σ‘有分解式:
Σ = ( l 1 l 2 ⋯ l m ) ( λ 1 0 ⋯ 0 0 λ 2 ⋯ 0 ⋮ ⋮ ⋱ ⋮ 0 0 ⋯ λ m ) ( l 1 T l 2 T ⋮ l m T ) = ∑ i = 1 m λ i l i l i T \Sigma= \begin{pmatrix} l_1 & l_2 & \cdots &l_m \end{pmatrix} \begin{pmatrix} \lambda_1 & 0 & \cdots & 0 \\ 0 & \lambda_2 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & \lambda_m \end{pmatrix} \begin{pmatrix} l_1^T \\ l_2^T \\ \vdots \\ l_m^T \end{pmatrix} =\sum_{i=1}^{m}\lambda_il_il_i^T Σ=(l1l2lm) λ1000λ2000λm l1Tl2TlmT =i=1mλililiT
由[prop:CovMat](2)和[theo:PositiveSemidefinite](3)的第五条可知 ‘ λ m ⩾ 0 ‘ `\lambda_m\geqslant0` λm0‘。当最后 ‘ m − n ‘ `m-n` mn个特征值较小时, ‘ Σ ‘ `\Sigma` ‘Σ‘有如下近似:
Σ = ∑ i = 1 m λ i l i l i T ≈ ∑ i = 1 n λ i l i l i T + D = A A T + D \Sigma=\sum_{i=1}^{m}\lambda_il_il_i^T\approx\sum_{i=1}^{n}\lambda_il_il_i^T+D=AA^T+D Σ=i=1mλililiTi=1nλililiT+D=AAT+D
其中:
A = ( λ 1 l 1 ⋯ λ n l n ) , D = diag ⁡ { σ 1 2 , … , σ m 2 } , σ i 2 = σ i i − h i 2 A= \begin{pmatrix} \sqrt{\lambda_1}l_1 & \cdots & \sqrt{\lambda_n}l_n \end{pmatrix},\; D=\operatorname{diag}\{\sigma_1^2,\dots,\sigma_m^2\},\; \sigma_i^2=\sigma_{ii}-h_i^2 A=(λ1 l1λn ln),D=diag{σ12,,σm2},σi2=σiihi2
与PCA一样,一般通过使 ‘ ( ∑ i = 1 n λ i ) / ( ∑ i = 1 m λ i ) ‘ `\left(\sum\limits_{i=1}^{n}\lambda_i\right)/\left(\sum\limits_{i=1}^{m}\lambda_i\right)` (i=1nλi)/(i=1mλi)大于一定比例来选择 ‘ n ‘ `n` n的具体值。

主因子法

‘ A A T = Σ − D ‘ `AA^T=\Sigma-D` AAT=ΣD。取 ‘ σ ^ 1 2 , … , σ ^ m 2 ‘ `\hat{\sigma}_1^2,\dots,\hat{\sigma}_m^2` σ^12,,σ^m2为特殊方差的合理初始估计((1)全零,(2)取 ‘ max ⁡ j ≠ i σ i j ‘ `\max\limits_{j\ne i}\sigma_{ij}` j=imaxσij),则有:
A A T ^ = ( σ 11 − σ ^ 1 2 σ 12 ⋯ σ 1 m σ 21 σ 22 − σ ^ 2 2 ⋯ σ 2 m ⋮ ⋮ ⋱ ⋮ σ m 1 σ m 2 ⋯ σ m m − σ ^ m 2 ) \widehat{AA^T}= \begin{pmatrix} \sigma_{11}-\hat{\sigma}_1^2 & \sigma_{12} & \cdots & \sigma_{1m} \\ \sigma_{21} & \sigma_{22}-\hat{\sigma}_2^2 & \cdots & \sigma_{2m} \\ \vdots & \vdots & \ddots & \vdots \\ \sigma_{m1} & \sigma_{m2} & \cdots & \sigma_{mm}-\hat{\sigma}_m^2 \end{pmatrix} AAT = σ11σ^12σ21σm1σ12σ22σ^22σm2σ1mσ2mσmmσ^m2
‘ A A T ^ ‘ `\widehat{AA^T}` AAT ‘ n ‘ `n` n个大于 ‘ 0 ‘ `0` ‘0‘的特征值,从大到小依次为 ‘ λ ^ 1 , … , λ ^ n ‘ `\hat{\lambda}_1,\dots,\hat{\lambda}_n` λ^1,,λ^n,对应的单位正交特征向量为 ‘ l ^ 1 , … , l ^ n ‘ `\hat{l}_1,\dots,\hat{l}_n` l^1,,l^n,则有近似的:
A ^ = ( λ ^ 1 l ^ 1 ⋯ λ ^ n l ^ n ) \hat{A}= \begin{pmatrix} \sqrt{\hat{\lambda}_1}\hat{l}_1 & \cdots & \sqrt{\hat{\lambda}_n}\hat{l}_n \end{pmatrix} A^=(λ^1 l^1λ^n l^n)
‘ σ ^ i 2 = σ i i − h ^ i 2 ‘ `\hat{\sigma}_i^2=\sigma_{ii}-\hat{h}_i^2` σ^i2=σiih^i2,继续上面的迭代过程以得到稳定的近似解。

Input: 协方差矩阵 ‘ Σ ‘ `\Sigma` ‘Σ‘,初始特殊方差估计
‘ σ ^ 1 2 , … , σ ^ m 2 ‘ `\hat{\sigma}^2_1, \ldots, \hat{\sigma}^2_m` σ^12,,σ^m2,目标因子数 ‘ n ‘ `n` n
Output: 因子载荷矩阵估计 ‘ A ^ ‘ `\hat{A}` A^,特殊方差估计
‘ σ ^ i 2 ‘ `\hat{\sigma}_i^2` σ^i2

初始化 ‘ σ ^ i 2 ‘ `\hat{\sigma}_i^2` σ^i2 为合理值 构造矩阵
‘ A A T ^ = Σ − diag ⁡ ( σ ^ 1 2 , … , σ ^ m 2 ) ‘ `\widehat{AA^T} = \Sigma - \operatorname{diag}(\hat{\sigma}_1^2, \ldots, \hat{\sigma}_m^2)` AAT =Σdiag(σ^12,,σ^m2)
‘ A A T ^ ‘ `\widehat{AA^T}` AAT 做特征值分解,得到部分特征值
‘ λ ^ 1 ⩾ ⋯ ⩾ λ ^ n ‘ `\hat{\lambda}_1 \geqslant \cdots \geqslant \hat{\lambda}_n` λ^1λ^n,及对应单位正交特征向量
‘ l ^ 1 , … , l ^ n ‘ `\hat{l}_1, \ldots, \hat{l}_n` l^1,,l^n 构造因子载荷矩阵估计:
‘ A ^ = ( a ^ i j ) = ( λ ^ 1 l ^ 1 ⋯ λ ^ n l ^ n ) ‘ `\hat{A}=(\hat{a}_{ij}) = \begin{pmatrix} \sqrt{\hat{\lambda}_1} \hat{l}_1 & \cdots & \sqrt{\hat{\lambda}_n} \hat{l}_n \end{pmatrix}` A^=(a^ij)=(λ^1 l^1λ^n l^n)
‘ h ^ i 2 = ∑ j = 1 n a ^ i j 2 ‘ `\hat{h}_i^2 = \sum\limits_{j=1}^n \hat{a}_{ij}^2` h^i2=j=1na^ij2,更新
‘ σ ^ i 2 = σ i i − h ^ i 2 , i = 1 , 2 , … , m ‘ `\hat{\sigma}_i^2 = \sigma_{ii} - \hat{h}_i^2,\;i=1,2,\dots,m` σ^i2=σiih^i2,i=1,2,,m

因子旋转

为了提高因子的可解释性,我们希望每个因子对观测变量的影响是集中且明显的,即一个因子主要对少数几个变量有显著影响,对其余变量几乎没有作用。这种结构反映在因子载荷矩阵 ‘ A ‘ `A` A上即为 ‘ A ‘ `A` A每一列的元素 ‘ a i j , i = 1 , 2 , … , m ‘ `a_{ij},\;i=1,2,\dots,m` aij,i=1,2,,m不是均匀地分布在中间水平,而是趋于两极分化:其绝对值要么接近于 ‘ 0 ‘ `0` ‘0‘,要么较大。这样可以使得每个因子更容易被识别和解释——因为它只与一小组变量高度相关。这种结构等价于希望载荷矩阵 ‘ A ‘ `A` A的每一列具有稀疏性,从而便于赋予因子明确的语义标签。

由[prop:FactorAnalysis](3)可知在初步求得因子载荷矩阵 ‘ A ‘ `A` A后,可以使用一个正交矩阵右乘 ‘ A ‘ `A` A,此时仍能得到一个因子模型。使用正交矩阵来右乘 ‘ A ‘ `A` A相当于是对因子 ‘ F ‘ `F` F进行旋转变换,我们可以通过不断旋转 ‘ F ‘ `F` F来得到更加稀疏的因子载荷矩阵,从而提高因子的可解释性。

如何旋转?怎么衡量旋转后因子载荷矩阵的优良性?

令:
d i j 2 = a i j 2 h i 2 , i = 1 , 2 , … , m , j = 1 , 2 , … , n d_{ij}^2=\frac{a_{ij}^2}{h_i^2},\quad i=1,2,\dots,m,\;j=1,2,\dots,n dij2=hi2aij2,i=1,2,,m,j=1,2,,n
‘ d i j 2 ‘ `d_{ij}^2` dij2衡量了因子 ‘ j ‘ `j` j对观测变量 ‘ X i ‘ `\mathbf{X}_i` Xi的影响,且消除了 ‘ a i j ‘ `a_{ij}` aij的正负号带来的差异和各观测变量在因子载荷大小上的不同带来的差异。定义第 ‘ j ‘ `j` j ‘ p ‘ `p` p个数据 ‘ d i j 2 , i = 1 , 2 , … , m ‘ `d_{ij}^2,\;i=1,2,\dots,m` dij2,i=1,2,,m的方差为:
V j = 1 m ∑ i = 1 m ( d i j 2 − d ˉ j ) 2 = 1 m ∑ i = 1 m ( d i j 2 − 1 p ∑ i = 1 m d i j 2 ) = 1 m [ ∑ i = 1 m d i j 4 − m 1 m 2 ( ∑ i = 1 m d i j 2 ) 2 ] = 1 m 2 [ m ∑ i = 1 m d i j 4 − 1 m ( ∑ i = 1 m d i j 2 ) 2 ] = 1 m 2 [ m ∑ i = 1 m a i j 4 h i 4 − 1 m ( ∑ i = 1 m a i j 2 h i 2 ) 2 ] \begin{aligned} V_j&=\frac{1}{m}\sum_{i=1}^{m}(d_{ij}^2-\bar{d}_j)^2=\frac{1}{m}\sum_{i=1}^{m}\left(d_{ij}^2-\frac{1}{p}\sum_{i=1}^{m}d_{ij}^2\right) \\ &=\frac{1}{m}\left[\sum_{i=1}^{m}d_{ij}^4-m\frac{1}{m^2}\left(\sum_{i=1}^{m}d_{ij}^2\right)^2\right] \\ &=\frac{1}{m^2}\left[m\sum_{i=1}^{m}d_{ij}^4-\frac{1}{m}\left(\sum_{i=1}^{m}d_{ij}^2\right)^2\right] \\ &=\frac{1}{m^2}\left[m\sum_{i=1}^{m}\frac{a_{ij}^4}{h_i^4}-\frac{1}{m}\left(\sum_{i=1}^{m}\frac{a_{ij}^2}{h_i^2}\right)^2\right] \end{aligned} Vj=m1i=1m(dij2dˉj)2=m1i=1m(dij2p1i=1mdij2)=m1 i=1mdij4mm21(i=1mdij2)2 =m21 mi=1mdij4m1(i=1mdij2)2 =m21 mi=1mhi4aij4m1(i=1mhi2aij2)2
‘ V j ‘ `V_j` Vj越大,则第 ‘ j ‘ `j` j个因子对观测变量的影响越集中。定义因子载荷矩阵 ‘ A ‘ `A` A的方差为:
V = ∑ j = 1 n V j = 1 m 2 { ∑ j = 1 n [ m ∑ i = 1 m a i j 4 h i 4 − 1 m ( ∑ i = 1 m a i j 2 h i 2 ) 2 ] } V=\sum_{j=1}^{n}V_j=\frac{1}{m^2}\left\{\sum_{j=1}^{n}\left[m\sum_{i=1}^{m}\frac{a_{ij}^4}{h_i^4}-\frac{1}{m}\left(\sum_{i=1}^{m}\frac{a_{ij}^2}{h_i^2}\right)^2\right]\right\} V=j=1nVj=m21 j=1n mi=1mhi4aij4m1(i=1mhi2aij2)2
‘ V ‘ `V` V越大,则表明因子对观测变量的影响越集中。

综上,我们只需使得旋转后得到的因子载荷矩阵 ‘ A ‘ `A` A的方差 ‘ V ‘ `V` V达到最大即可。

代码实现

R语言中使用Factanal函数进行因子分析,注意它使用极大似然估计法进行参数估计。

Reference

1.薛毅,统计建模与R软件

相关文章:

因子分析——数学原理及R语言代码

这里写自定义目录标题 因子分析参数估计方法主成分法主因子法 因子旋转 代码实现Reference 因子分析 FactorAnalysis的目的是从多个高度相关的观测变量中提取出少数几个LatentFactor,这些因子代表了变量背后的共通结构,从而实现降维并提升可解释性。 假…...

CSS3 过渡与动画

在现代网页设计中,平滑的过渡和生动的动画效果已成为提升用户体验不可或缺的元素。CSS3 为我们提供了强大的 transition 和 animation 属性,让开发者能够轻松实现各种视觉效果。本文将深入探讨这两大功能的特性和应用场景。 一、CSS3 过渡(T…...

【JAVA】【重试间隔】多线程中两种常见的重试间隔

一、前言 报!! 小南啊,今日有个小任务交给你去办。就是程序中有个数据处理,总是会出错,不知道是什么原因,你去处理一下! 二、主题 围绕数据处理问题去看,从中发现,是因为…...

在现代Web应用中集成 PDF.js (pdfjs-dist 5.2 ESM): 通过 jsdelivr 实现动态加载与批注功能的思考

PDF 文档在现代 Web 应用中越来越常见,无论是作为文档预览、报告展示还是在线编辑的载体。Mozilla 的 PDF.js 是一个功能强大的 JavaScript 库,它使得在浏览器端渲染和显示 PDF 文件成为可能,无需依赖原生插件。 本文将深入探讨如何在你的项…...

android ViewModel liveData无法监听之多线程下activityViewModels不安全

我们一般的,会遇到liveData无法监听到结果,可能存在主要2种可能: liveData没有正确注册;liveData连续多次设置值,中间的值,会被丢弃,但最后一次是能监听到的。 但是我们容易忽略一种case&…...

【即插即用涨点模块】DSConv动态蛇形卷积:自适应聚焦细长弯曲的局部结构特征,助力分割高效提点【附源码+注释】

《------往期经典推荐------》 一、AI应用软件开发实战专栏【链接】 项目名称项目名称1.【人脸识别与管理系统开发】2.【车牌识别与自动收费管理系统开发】3.【手势识别系统开发】4.【人脸面部活体检测系统开发】5.【图片风格快速迁移软件开发】6.【人脸表表情识别系统】7.【…...

守护数字家园:个人博客安全防护指南

前言 在之前的文章《WordPress个人博客搭建(一)》《WordPress个人博客搭建(二)》《WordPress个人博客搭建(三)》中,我们已经在非凡云云服务器上,借助1Panel搭建起属于自己的数字庭院…...

课外活动:简单了解原生测试框架Unittest前置后置的逻辑

简单了解原生测试框架Unittest前置后置的逻辑 一、测试框架执行顺序解析 1.1 基础执行流程 import unittestclass A(unittest.TestCase):classmethoddef setUpClass(cls):print(f"【CLASS START】{cls.__name__}")def setUp(self):print(f"【TEST START】{se…...

带你玩转 Flink TumblingWindow:从理论到代码的深度探索

0.前言 在深入探讨 TumblingWindow 之前,我们先来了解一下流处理或流计算中“窗口”的基本概念。在数据流中,源会持续不断地生成数据,因此计算最终值是不可行的。 在大多数用例中,为了获取有意义的信息,最好使用两种方…...

Java线程安全问题深度解析与解决方案

一、线程安全问题的本质 并发编程的核心挑战:当多个线程同时访问共享资源时,由于操作系统的抢占式调度特性,可能导致不可预期的结果。这种因非原子操作和竞态条件引发的数据不一致问题,称为线程安全问题。 二、经典线程安全问题案…...

python实现的音乐播放器

python实现的音乐播放器 音乐播放器,原来写过一个简陋的例子,可见 https://blog.csdn.net/cnds123/article/details/137874107 那个不能拖动播放进度条上的滑块到新的位置播放。下面介绍的可以拖动播放进度条上的滑块到新的位置播放。 简单实用的音乐播放器 这个简单实用的…...

SMT贴片工艺核心优化与生产实践

内容概要 作为现代电子制造的核心环节,SMT贴片工艺的优化直接决定了产品可靠性与生产效率。本文系统性梳理工艺链中的关键控制点,从锡膏印刷精度到回流焊温度曲线,再到AOI检测技术升级,形成覆盖全流程的优化框架。针对行业普遍存…...

趣味编程:爱心

概述:五月十一号就是母亲节了,本篇博客主要是为母亲所写,这是属于程序员的浪漫,这篇博客是对母亲这么多年无微不至爱的情书。 目录 1. 效果展示 2. 源码展示 3. 代码逻辑详解 3.1 头文件与常量定义 3.2 心形曲线参数方程 3.…...

C语言—指针2

1. const 修饰变量 1.1 const修饰变量 变量被const修饰时,变量此时为常变量,本质为常量,语法上不可被修改,但是如果此时需要修改变量值,可以通过指针的方式修改。 虽然此时通过指针的方式确实修改了变量的值&#xff…...

66、微服务保姆教程(九)微服务的高可用性

微服务的高可用性与扩展 服务的高可用性 集群搭建与负载均衡。服务的故障容错与自愈。分布式事务与一致性 分布式事务的挑战与解决方案。使用 RocketMQ 实现分布式事务。微服务的监控与可观测性 metrics 和日志的收集与分析。sentinel 的监控功能。容器化与云原生 将微服务部署…...

主场景 工具栏 植物卡牌的渲染

前置知识:使用easyx图形库 1.IMAGE内存变量存储的是一张位图(图像),存储了像素数据(颜色,尺寸等) 2.loadimage(&变量名,"加载的文件路径")表示从文件中加载图像到变量中 3. saveimage("文件路径", &变…...

超详细!RxSwift 中的 BehaviorRelay 使用教程(含原理 + 示例 + 实战)

目录 前言 1.什么是 BehaviorRelay 2.基本使用方式 3.BehaviorRelay的常用API 4.BehaviorRelay 和其它类型的对比 5.BehaviorRelay的使用场景 1.绑定UITableView 2.MVVM 场景下使用 BehaviorRelay 6.使用注意事项以及建议 1.注意事项 2.使用建议总结 7.推荐阅读 前…...

【软件测试学习day7】Junit5

Junit 是单元测试框架&#xff0c;本期掌握 Junit5 的基础用法。 1. 注解 首先引入 Junit 依赖&#xff1a; <dependency><groupId>org.junit.jupiter</groupId><artifactId>junit-jupiter-api</artifactId><version>5.9.1</version…...

前端实战中的单例模式:以医疗药敏管理为例

目录 一、什么是单例模式&#xff1f;1. 状态共享性 —— 数据唯一&#xff0c;任意访问&#xff0c;任意修改2. 生命周期控制性 —— 自己掌控何时创建、何时销毁 二、实战分析&#xff1a;医疗药敏管理系统中的单例应用三、其他场景示例单例实现&#xff1a;ConfigManager.ts…...

如何在 Logback 日志框架中加入链路 ID

在 Logback 日志框架中加入链路 ID&#xff0c;能有效将同一条链路的日志串联起来&#xff0c;便于追踪和排查问题。 1. 生成和管理链路 ID 要保证在整个请求链路里都能获取到链路 ID&#xff0c;可借助 ThreadLocal 来实现。以下是一个简单的工具类示例&#xff1a; import…...

晶振:智能设备的“心跳”如何支撑5G与航天

在现代科技飞速发展的时代&#xff0c;智能设备已深度融入我们生活的方方面面&#xff0c;而晶振&#xff0c;作为智能设备的“心跳”&#xff0c;正默默发挥着不可替代的关键作用。无论是翱翔太空的神舟飞船&#xff0c;还是人们手中须臾不离的智能手机&#xff0c;亦或是推动…...

【HarmonyOS 5】App Linking 应用间跳转详解

目录 什么是 App Linking 使用场景 工作原理 如何开发 1.开通 App Linking 2.确定域名 3.服务端部署 applinking.json 文件 4.AGC绑定域名 5.项目配置 6.组装聚合链接 7.解析聚合链接中的参数 其他 如何获取应用ID 什么是 App Linking App Linking 是一款创建跨…...

neo4j官方示例

目录 一、准备数据 1.执行查看结果 二、操作 1.find 单个节点 2.同上&#xff0c;已某个属性去查询 3. 指定查询个数 4.条件查询 5.查询某个人出演的电影汇总 6.查询tom出演的电影中&#xff0c;还有其他演员的信息。 7.查询跟电影(Cloud Atlas)有关的演员&#xff0…...

基于vueflow可拖拽元素的示例(基于官网示例的单文件示例)

效果图 代码 <template><div style"width: 100%;height: calc(100vh - 84px)"><VueFlow :nodes"nodes" :edges"edges" drop"onDrop" dragover"onDragOver" dragleave"onDragLeave"><div cl…...

minio单点登录与集成(免密)

需求&#xff1a;系统A里&#xff0c;需要实现与MINIO单点登录集成&#xff0c;也就是说&#xff0c;登录了系统A&#xff0c;在访问MINIO时不需要再输入用户密码就可以直接访问。 具体场景如下&#xff1a; 在系统A的一个页面里&#xff0c;配置一个按钮链接&#xff0c;点击…...

深入理解 Docker 网络原理:构建高效、灵活的容器网络

在现代软件开发中&#xff0c;Docker 已经成为了容器化技术的代名词&#xff0c;广泛应用于开发、测试和生产环境。Docker 使得开发者能够将应用及其依赖打包成一个轻量级的容器&#xff0c;并通过 Docker 容器化技术来实现高效的部署与管理。 然而&#xff0c;在日常使用 Dock…...

Hutool中的Pair类详解

1. Pair类概述 Hutool工具库中的Pair类是一个简单的键值对数据结构&#xff0c;用于存储两个相关联的对象。它类似于Map的Entry&#xff0c;但更加轻量级&#xff0c;适用于需要临时存储两个相关联数据的场景。 2. Pair类的主要特点 简单轻量&#xff1a;不依赖复杂的数据结…...

没有Mac,我是怎么上传IPA到App Store的?

没有Mac&#xff0c;我是怎么上传IPA到App Store的&#xff1f; 最近赶一个小项目上线&#xff0c;写的是一个Flutter做的App。安卓版本一晚上搞定&#xff0c;iOS上架却差点把人整崩。 不是我技术菜&#xff0c;是实在太麻烦了。最关键的&#xff0c;是我这台Windows笔电根本…...

RISC-V hardfault分析工具,RTTHREAD-RVBACKTRACE

RV BACKTRACE 简介 本文主要讲述RV BACKTRACE 的内部主要原理 没有接触过rvbacktrace可以看下面两篇文章&#xff0c;理解一下如何使用RVBACKTRACE RVBacktrace RISC-V极简栈回溯组件&#xff1a;https://club.rt-thread.org/ask/article/64bfe06feb7b3e29.html RVBacktra…...

c语言if else语句格式(非常详细)

在C语言中&#xff0c;if else 语句是一种常用的条件控制结构&#xff0c;用于根据不同条件执行不同的代码块。 if-else 语句的基本格式 if-else 语句的基本格式如下&#xff1a; if (条件) { // 如果条件为真&#xff0c;执行这里的代码 } else { // 如果条件为假&a…...

Logback官方文档翻译章节目录

Logback官方文档翻译章节目录 第一章 Logback简介 第二章 Logback的架构&#xff08;一&#xff09; Logback的架构&#xff08;二&#xff09; Logback的架构&#xff08;三&#xff09; 持续更新中…...

按摩椅的机芯类型和材质

按摩椅的机芯类型和材质是影响其按摩效果、使用寿命以及舒适度的重要因素。下面我将从这两个方面详细为你解析&#xff1a; 一、按摩椅机芯类型 按摩椅的“机芯”相当于它的“心脏”&#xff0c;决定了按摩手法、力度、覆盖范围等关键性能。 常见机芯类型&#xff08;按技术发…...

HarmonyOS-hdc远程网络方式连接设备

hdc工具使用手册 1 hdc简介 hdc&#xff08;OpenHarmony Device Connector&#xff09;是为开发人员提供的用于设备连接调试的命令行工具&#xff0c;pc端开发机使用命令行工具hdc&#xff0c;该工具需支持部署在Windows/Linux/Mac等系统上与OpenHarmony设备&#xff08;或模…...

秋招准备——2.跨时钟相关

格雷码异步FIFO跨时钟域处理 格雷码 一、格雷码规律 相邻性&#xff1a;相邻两个数的格雷码只有一位不同&#xff0c;例如&#xff1a; 0000 → 0001&#xff08;仅最低位变化&#xff09;0001 → 0011&#xff08;仅次低位变化&#xff09;0011 → 0010&#xff08;仅最低位…...

【开源版】likeshop上门家政系统PHP版全开源+uniapp前端

一.系统介绍 likeshop_上门家政系统&#xff0c;PHP版本更新至2.1.1最新版&#xff0c;全开源&#xff0c;适用于上门家政场景&#xff0c;系统拥有用户端、师傅端、无论运营还是二开都是性价比极高的100%开源家政系统。 二.搭建环境-教程 系统环境&#xff1a;CentOS、 运行…...

Memgraph 的安装教程

目录 Memgraph 安装步骤1. 使用 Docker 安装 Memgraph2. 使用 Memgraph Lab3. 使用 Python 客户端连接 Memgraph Memgraph 安装步骤 1. 使用 Docker 安装 Memgraph Memgraph 可以通过 Docker 快速安装和运行。以下是使用 Docker 安装 Memgraph 的步骤&#xff1a; 安装 Docke…...

华为网路设备学习-21 路由过滤(filter-policy)

一、路由过滤&#xff08;filter-policy&#xff09; 1、用于控制路由更新、接收的一个工具 2、只能过滤路由信息&#xff0c;无法过滤LSA 二、路由过滤&#xff08;filter-policy&#xff09;与动态路由协议 1、距离矢量路由协议 RIP动态路由协议 交换的是路由表&#xff0…...

Mac 平台 字体Unicode范围分析器

字体Unicode范围分析器 #include <CoreText/CoreText.h> // CoreText框架头文件&#xff0c;用于字体处理 #include <CoreFoundation/CoreFoundation.h> // CoreFoundation框架头文件 #include <stdio.h> // 标准输入输出 #include…...

Android不能下载Gradle,解决方法Could not install Gradle distribution from.......

外网下载速度太慢导致失败&#xff0c;换成国内镜像&#xff0c;可加速下载&#xff1a; 官网地址&#xff1a;https://services.gradle.org/distributions/ 腾讯云镜像 Gradle下载地址&#xff1a;https://mirrors.cloud.tencent.com/gradle/ 阿里云镜像 Gradle下载地址&…...

树状数组的操作问题--Python

树状数组的操作问题 一、问题引入二、解题步骤1.思维导图2.解题步骤 三、代码实现1.代码2.复杂度分析 四、个人总结 一、问题引入 请编写程序&#xff0c;实现树状数组区间求前缀和、单点修改的操作。 输入格式&#xff1a; 输入首先给出一个正整数 n&#xff08;2≤n<10^…...

FEKO许可限制

随着科技的飞速发展&#xff0c;电磁仿真软件在多个领域发挥着越来越重要的作用。FEKO作为一款业界领先的电磁仿真软件&#xff0c;广泛应用于通信、雷达、航空航天、电子对抗等领域。然而&#xff0c;为了确保软件使用的合规性与高效性&#xff0c;FEKO设定了相应的许可限制。…...

第5章 深度学习和卷积神经网络

深度学习是人工智能的一种实现方法。本章我们将考察作为深度学习的代表的卷积神经网络的数学结构。 5-1小恶魔来讲解卷积神经网络的结构 深度学习是重叠了很多层的隐藏层&#xff08;中间层&#xff09;的神经网络。这样的神经网络使隐藏层具有一定的结构&#xff0c;从而更加…...

window 显示驱动开发-处理内存段(一)

视频内存管理器 (VidMm) 负责管理 GPU 的地址空间。 在此之前&#xff0c;内核模式显示微型端口驱动程序 (KMD) 必须通过使用内存段将 GPU 的地址空间描述为 VidMm。 KMD 创建内存段以概括和虚拟化视频内存资源。 它可以根据硬件支持的存储器类型&#xff08;例如&#xff0c;…...

QT实现曲线图缩放、拖拽以及框选放大

.h文件 protected: void saveAxisRange();void wheelEvent(QWheelEvent *event) override;void mousePressEvent(QMouseEvent *event) override;void mouseMoveEvent(QMouseEvent *event) override;void mouseReleaseEvent(QMouseEvent *event) override;private:QPoint m_…...

龙虎榜——20250508

上证假阴包阳的走势&#xff0c;量能较昨天有萎缩&#xff0c;在前期压力附近~ 深证这两天假阴包阳的走势&#xff0c;60分钟未突破昨天的高点&#xff0c;缺口也未补等待明天的选择~ 2025年5月8日龙虎榜行业方向分析 一、核心行业方向 军工航天&#xff08;政策催化地缘驱动…...

SEMI E40-0200 STANDARD FOR PROCESSING MANAGEMENT(加工管理标准)-(三)完结

10 消息服务详情 10.1 本章定义实现加工管理概念所需的消息服务。这些消息已在第8.1节中初步介绍。 协议无关性&#xff1a;这些服务独立于所使用的消息协议&#xff0c;可映射至SECS-II&#xff08;SEMI E5&#xff09;或其他类似协议。 10.1.1 消息服务定义内容包括&#…...

算法竞赛进阶指南.次小生成树

目录 题目算法标签: K r u s k a l Kruskal Kruskal, M S T MST MST, 倍增优化, l c a lca lca思路代码*警示后人 题目 356. 次小生成树 算法标签: K r u s k a l Kruskal Kruskal, M S T MST MST, 倍增优化, l c a lca lca 思路 因为要求的是严格次小生成树, 假设最…...

ElasticSearch基本概念

为什么要使用ElasticSearch Elasticsearch 主要为系统提供搜索功能&#xff0c; MySQL 这类传统关系型数据库主要为系统提供数据存储功能 Elasticsearch 的优势 &#xff1a; 支持多种数据类型&#xff0c;非结构化&#xff0c;数值&#xff0c;地理信息。简单的 RESTful AP…...

普通IT的股票交易成长史--20250508晚复盘

声明&#xff1a;本文章的内容只是自己学习的总结&#xff0c;不构成投资建议。价格行为理论学习可参考简介中的几位&#xff0c;感谢他们的无私奉献。 送给自己的话&#xff1a; 仓位就是生命&#xff0c;绝对不能满仓&#xff01;&#xff01;&#xff01;&#xff01;&…...

SAP 交货单行项目含税金额计算报cx_sy_zerodivide处理

业务背景&#xff1a;SAP交货单只有数量&#xff0c;没有金额&#xff0c;所以开发报表从订单的价格按数量计算交货单的金额。 用户反馈近期报表出现异常&#xff1a; ****2012/12/12 清风雅雨 规格变更 Chg 修改开始 ** 修改原因:由于余数为0时&#xff0c;可能会报错溢出。…...