読み込み中…
読み込み中…
統計・用語・回帰
1つの説明変数xから1つの目的変数yを予測するために、データに最もよく合う直線 を当てはめる方法です。
2変数間の線形的な関係を定量化し、一方から他方を予測する最も基本的なモデルです。
散布図に最小二乗法で当てはめた直線。傾き と切片
単回帰は、データの組 に対して
最小二乗法
残差二乗和
データから
Sxy=90, Sxx=30のとき、回帰直線の傾き は?
回帰直線が必ず通る点は?
単回帰における決定係数R²と相関係数ρの関係は?
を最小二乗で当てはめる。傾きは 。
最小二乗法を解くと、傾きは (、)、切片は となります。傾き の式の分子はxとyの共分散に相当する量(相関/共分散)で、xとyの関係の方向と強さを反映しています。
回帰直線の当てはまりの良さは決定係数 (全変動のうち回帰で説明できる割合)で評価します。単回帰では は相関係数ρの2乗に等しくなります。回帰はあくまで線形の関係を当てはめるものであり、因果関係を示すものではない点に注意が必要です。
傾き
。
切片
(回帰直線は必ず点 を通る)。
決定係数R²
単回帰では (相関係数の2乗)。
因果関係ではない
回帰は相関的な関係を当てはめるのみで、因果を保証しない。
非線形モデルを変換して単回帰に帰着させる出題パターン
本試験では生データにそのまま最小二乗法を当てはめる問題より、非線形モデルを変換してから単回帰を適用させる出題が多い。代表例はプロビット・ロジットモデル(は標準正規分布関数など)で、と変換したをで回帰する(H29・2019・2025年度で反復出題)。
ダミー変数による回帰式の変形
回帰係数や切片がカテゴリ(偶数/奇数の、特定月など)によって変わる場合、ダミー変数を導入し(係数ダミー、2020年度)や(切片ダミー、2024年度)の形で単回帰の枠組みのまま推定する。