Aritalab:Lecture/Math/LR

回帰分析

回帰分析には 1 変量の単回帰 (univariate linear regression) と多変量の重回帰 (multivariate linear regression) があります。モデルしたい変量を y (目的変量）、説明に使う変量を x 、係数を b で表します。

(重)回帰モデル 

y = b₀ + x₁ b₁ + x₂ b₂ + ... + x_n b_n　（つまり y を複数の変量 x₁～x_n の線形結合でモデルするやり方）

y を目的変量、x を説明変量、b を回帰係数といいます。 b₀ は定数項です。特に 1 変数の場合を単回帰モデルといいます。ここでは最適パラメータを求める最小二乗法の説明のために単回帰を使います。

y₁ = b₀ + x₁ b₁ + r₁

y₂ = b₀ + x₂ b₁ + r₁

y₃ = b₀ + x₃ b₁ + r₁

 :

というデータがあると仮定しましょう。