読み込み中…
読み込み中…
統計・用語・回帰
決定係数 は『回帰がデータのばらつきをどれだけ説明できたか』を 〜 で表す指標です。全体の変動 SST を、回帰で説明できた分 SSR と説明できなかった残差分 SSE に分け、 SSR/SST。1に近いほど当てはまりが良いことを意味します。
変動の分解 。全変動
決定係数 は、回帰モデルが目的変数 のばらつきをどれだけ説明できたかを測る指標です。出発点は変動の分解です。 の全体のばらつき(全変動)を、平均からの偏差の二乗和
変動の分解
。全変動 が回帰で説明できる分 SSR と残差分 SSE に分かれる(直交条件でクロス項が消える)。
定義
C071と同じデータ 。全変動
決定係数の一般的な定義は?
のとき は?
『』が成り立つのは?
回帰の説明力 。単回帰では相関係数の二乗に等しい。
ここが 単回帰の項との違いです。単回帰では『(相関係数の二乗)』という便利な関係が成り立ちますが、これはあくまで説明変数が1つの単回帰に限った話です。 の本来の定義は上の『SSR/SST=1−SSE/SST』という変動の割合であり、こちらは説明変数が複数ある重回帰でもそのまま使える一般的な定義です。重回帰では単一の相関係数 が定義できないので『』では測れませんが、変動の分解 はそのまま成り立つので、 で説明力を測れます。つまり『』は単回帰での便利な副産物、『』が普遍的な本体、と整理するとよいでしょう。
実務上の注意。 は『説明変数を増やすと必ず増える(または減らない)』性質があり、無関係な変数を足しても見かけ上は上がってしまいます。だから重回帰でモデルを比較するときは、変数の数で調整した自由度調整済み決定係数を使うのが普通です。また が高いことは『当てはまりの良さ』を意味するだけで、因果関係や予測の正しさを保証しないことも、単回帰の項と同じく重要な留意点です。
重回帰でも使える
この定義は説明変数が複数でもそのまま使える一般的なもの。 は単回帰に限った便利な関係にすぎない。
端の意味
は残差ゼロ(完全な当てはまり)、 は回帰が平均と同じで何も説明しない状態。
変数を増やすと上がる
無関係な変数を足しても は下がらない。モデル比較には自由度調整済み を使うのが普通。
2本の回帰直線の傾きの積からR²を求める
をで回帰した傾きと、をで回帰した傾きの積は決定係数に等しい:。2016年度問題1(9)のように両方向の回帰式(、)が与えられたときはと直接求められる。
誤差分散の不偏推定量
回帰の誤差分散の不偏推定量は(自由度は。切片・傾きの2つを推定した分を差し引く)。やで割らない点に注意する(2016年度問題1(9)で検算:)。
C071の残差から 。よって 。
。 とも一致。全変動の81%を回帰が説明している。