推定の『収束』とは、標本数 n を増やすほど誤差が小さくなることですが、ここで主役は『どれくらいの速さで』減るか。多くの場面で誤差は 1/n に比例して減ります。これは標本平均だけでなくモンテカルロ法など広く成り立つ汎用原理で、『精度を2倍にするには n を4倍』という二乗のコスト=収益逓減を意味します。
誤差 ∝1/n の減衰。n=1,4,16,64 で誤差は 1,21,41,81 と、n を4倍にするたび半分になる。精度を2倍にするには n を4倍、誤差を 1/10 にするには n を100倍必要という収益逓減。
数式で表すと
誤差∝1/n
推定誤差が標本数とともに減る速さ。多くは ∝1/n。
ここでいう収束とは、標本数(試行回数)n を増やすにつれて推定誤差がゼロに近づくことを指します。大数の法則が『標本平均が真の値に収束すること自体』をチェビシェフで証明したのに対し、本概念が主役にするのは『どれくらいの速さで収束するか』という収束の速度です。そして多くの推定で、典型的な誤差の大きさ(標準誤差)は
誤差∝n1
に比例して減っていきます。標本平均ならその標準誤差は σ/n で、まさに 1/n の形です。
この 1/n という速さは、標本平均に固有のものではなく横断的な汎用原理として現れます。とくに重要なのがモンテカルロ法です。乱数を使って積分や期待値を n 回のシミュレーションで近似するとき、その誤差もまた 1/n で減ります(背後には中心極限定理があり、n 個の独立な試行の平均をとっているから)。だから『シミュレーション回数を増やせば精度が上がる』のは確かですが、上がり方は 1/n と非常にゆるやかです。
実務的な意味は二乗のコスト=収益逓減(diminishing returns)です。誤差を半分にしたい(精度を2倍にしたい)とき、1/n を半分にするには n を2倍、すなわち n を 22=4 倍にしなければなりません。誤差を 1/10 にする(10倍精密にする)には n を 102=100 倍です。つまり精度の向上は標本数の平方根でしか進まず、追加の標本1個あたりの効果はどんどん小さくなります。すでに n が大きいと、もう少し精度を上げるための追加コストが急激に膨らむ——これがシミュレーションや調査の設計で『どこまで n を増やすか』を決める際の基本トレードオフです。