回帰分析

損保数理・用語・統計的推測

ひとことで言うと

説明変数xと目的変数yの関係を直線で近似し、実際の観測点との誤差（残差）の2乗和が最小になるように直線の傾きと切片を決める手法。損害率のトレンド推定などに使う。

各観測点と回帰直線との差（残差）の2乗和を最小にするように回帰直線を決める。

\hat\beta=\dfrac{S_{xy}}{S_{xx}},\quad \hat\alpha=\bar y-\hat\beta\bar x,\qquad R^2=1-\dfrac{\sum(y_i-\hat y_i)^2}{\sum(y_i-\bar y)^2}

説明変数 $x$ と目的変数 $y$ の関係を線形モデル $y=\alpha+\beta x+\varepsilon$ で表し、最小二乗法で係数を推定する手法。損保数理では損害率のトレンド（経年変化）推定に用いられ、当てはまりの良さを決定係数 $R^2$

回帰分析では、線形モデル $y=\alpha+\beta x+\varepsilon$ を仮定し、最小二乗法により

$\hat\beta=\dfrac{S_{xy}}{S_{xx}},\quad \hat\alpha=\bar y-\hat\beta\bar x$

決定係数は説明変数を追加するほど単調に増加する

決定係数 $R^2$ は説明変数を追加するほど単調に増加するため、複数のモデルの当てはまりを公平に比較するには自由度調整済み決定係数を使う必要がある（2018年度問題2、2025年度問題1）。

単回帰の決定係数は相関係数の2乗に等しく、0以上1以下

単回帰における決定係数は相関係数の2乗に等しく、0以上1以下の値をとる（負にはならない）（2018年度問題2）。

誤差分散の不偏推定量は残差平方和を(n-2)で割る

単回帰における誤差分散の不偏推定量は、残差平方和 $\sum(y_i-\hat y_i)^2$

$x=(1,2,3,4,5)$ 、 $y=(12,15,17,20,21)$

x=(1,2,3),y=(10,13,19)のとき、最小二乗法による回帰直線の傾きβ̂に最も近いものはどれか。

決定係数R²に関する記述として正しいものはどれか。

単回帰でn=10、残差平方和が32のとき、誤差分散の不偏推定量に最も近いものはどれか。