Aritalab:Lecture/Math/PCA

主成分分析

主成分分析は行列の特異値分解を利用した手法です。

X = U Δ V^T = (U Δ) V^T

Δは対角成分に特異値が並んだ行列です。 ここで、行列 (U Δ) をスコア、V^T をローディング（固有ベクトルに対応）と呼びます。

最も大きな固有値に対応する固有ベクトル、つまり元データの分散が最大になる方向を第一軸といいます。第一軸はスコア行列の第一列およびローディング行列の第一行で構成されます。第二軸はスコア行列の第二列とローディング行列の第二行にあたり、第一軸と直交する方向に設定されます。

各主成分軸は元々の説明変数を線形結合して得られますが、各軸が直交するように設定されるため共線性の問題を回避できます。

RによるPCA実習