正規分布を導く

/統計分析

正規分布とは

正規分布とは、平均値を中心としたデータの「バラつき」を表す分布です。ガウス分布、または、誤差分布とも呼ばれます。何かを測定するときのデータのバラつき(誤差)の他、動物の身長や降ってくる雨粒の大きさの分布など、経験的に正規分布に従うことが知られています。

正規分布は、平均値を $\mu$、標準偏差を $\sigma$ とした場合、以下の式で定義されます。

$$f(x)=\frac{1}{\sqrt{2\pi}\sigma}\exp{\Big(-\frac{(x-\mu)^2}{2\sigma^2}\Big)}\equiv N(\mu,\sigma^2)$$

正規分布の標準化

特に、平均値を $\mu=0$、標準偏差を $\sigma=1$ と置いた場合、以下のように正規分布を標準化できます。

$$f(u)=\frac{1}{\sqrt{2\pi}}\exp{\Big(-\frac{u^2}{2}\Big)}=N(0,1^2)$$

$$u\equiv\frac{x-\mu}{\sigma}$$

正規分布の特徴

正規分布は、グラフの中央は平均値となり、最も高い値(最頻値)を示します。また、グラフは左右対称で、偏りがない形となります。

また、標準偏差が大きいほど、データのバラつきは大きく、グラフは平坦になります。標準偏差が同じであれば、それらのグラフは相似形になります。

さらに正規分布の式より、$x$ の値が $\pm n\sigma$($n$ は整数)に含まれる割合($f$ の面積)を求めることができます。例えば、$\pm\sigma$ の中に存在する $x$ の割合は約68%となります。

$-\sigma\le x\le+\sigma$ 68.2%
$-2\sigma\le x\le+2\sigma$ 95.4%
$-3\sigma\le x\le+3\sigma$ 99.7%

正規分布を導く

観測誤差の分布(正規分布)の形を、以下の仮定の下に求めます。

  • 観測誤差は $n$ 個($n\gg1$)の誤差要素から集積される。
  • 各誤差要素は 1/2 の確率で $+\delta$ または $-\delta$ の値を持つ。

$n$ 個の誤差要素のうち $p$ 個が値 $+\delta$ を持つとき、残りの $n-p$ 個が値 $-\delta$ を持つとすると、このときの観測誤差 $x$ は、

$$x=(2p-n)\delta  -①$$

この観測誤差が発生する確率分布を $f(x)$ とします。以下、この $f(x)$ を求めます。

確率分布の比

$n$ 個のうち、$p$ 個がプラスの値の場合の組み合わせの数($C$)は以下になります。

$$C=\frac{n!}{(n-p)!p!}$$

同様に、$n$ 個のうち、$p+1$ 個がプラスの値の場合の観測誤差 $x’$ は、

$$x’=(2p-n+2)\delta=x+2\delta$$

その組み合わせの数 $C’$ は以下になります。

$$C’=\frac{n!}{(n-p-1)!(p+1)!}$$

このとき、2つの確率分布 $f(x)$ と $f(x’)=f(x+2\delta)$ の比は、組合せの数の比で表すことができます。尚、最後は $p\gg1$ としています。

$$\frac{f(x+2\delta)}{f(x)}=\frac{C’}{C}=\frac{n-p}{p+1}\simeq\frac{n-p}{p}  -②$$

確率分布の形

次の $f(x)$ と $f(x+2\delta)$ の差分の式を定義します。

$$F\equiv\frac{f(x+2\delta)-f(x)}{f(x+2\delta)+f(x)}  -③$$

この式に②を代入し、①を使って $p$ を消去すると、

$$F=\frac{n-2p}{n}=-\frac{x}{n\delta}  -④$$

また、マクロリン展開

$$f(x+2\delta)\simeq f(x)+2\delta\frac{df}{dx}$$

を使うと、③は以下のように変形できます。尚、③の分母は $f(x)\simeq f(x+2\delta)$ と近似しています。

$$F=\frac{\delta}{f}\frac{df}{dx}  -⑤$$

④と⑤より以下の微分方程式が得らます。

$$\frac{1}{f}\frac{df}{dx}=-\frac{x}{n\delta^2}$$

この微分方程式を解くと確率分布の形が求められます。ここで $A$ は比例定数です。

$$f(x)=A\exp{\Big(-\frac{x^2}{2n\delta^2}\Big)}$$

確率分布のバラつき

次に、$f(x)$ の変曲点の $x$ を求めます。変曲点とは、曲線の凸から凹、または、凹から凸に変化する点 “$x$” です。これは $f(x)$ の2階微分がゼロになる点として以下のように求められます。

$$\frac{d^2f(\sigma)}{dx^2}=0$$

この $x$ を改めて $\sigma$ と置きます。この $\sigma$ は標準偏差と呼ばれています。

$$\sigma=\delta\sqrt{n}$$

これにより、確率分布は以下になります。

$$f(x)=A\exp{\Big(-\frac{x^2}{2\sigma^2}\Big)}$$

規格化条件

最後は、定数 $A$ の求めるため、規格化を行います。以下のように $f(x)$ の $x$ の全領域での積分を1と置きます。

$$\int_{-\infty}^\infty f(x)dx=1$$

ここで以下の積分公式を使います。

$$\int_{-\infty}^\infty e^{-ax^2}dx=\sqrt{\frac{\pi}{a}}$$

これにより、$A=1/\sqrt{2\pi}\sigma$ が得られるため、確率分布が以下となることが分かります。

$$f(x)=\frac{1}{\sqrt{2\pi}\sigma}\exp{\Big(-\frac{x^2}{2\sigma^2}\Big)}$$

 

数学
解析学、代数学、幾何学、統計分析、数学基礎、物理数学
散策路TOP
力学、電磁気・相対論、熱・統計力学、量子力学、物性物理、機械学習、情報処理、金融、物理数学

Wikipedia

 

タイトルとURLをコピーしました