統計についての勉強~平均、分散、標準偏差についての説明~

 最近統計の基礎を勉強したので復習と久しぶりのプログラミングを兼ねて記事を書きます。

この記事では平均、分散、標準偏差についてまとめ、次回の記事でPythonを使って実際に確認していきます。

もし内容に間違いがある場合は指摘していただけると幸いです。

次回の記事はこちらです。統計についての勉強~プログラミングで確認~

母集団とサンプル(標本)

母集団とサンプルの関係(図の青丸はデータ)

(補足)サンプルサイズとサンプル数

サンプル数とサンプルサイズの関係

平均、分散、標準偏差について

平均について

平均値とは複数の数値に対して、個々を全て足し合わせた後、数値の個数で割った値のことを指します。

数式であらわすと下記のとおりです。

\begin{equation}\bar{x} = \frac{(x_1 + x_2 + x_3 + … +x_n)}{n} = \frac{\sum_{i=1}^{n} x_i}{n} \end{equation}

平均値のイメージ図

平均値で評価する欠点として、すべてのデータを足し合わせる都合上、変な値(外れ値)の影響を受けてしまうことです。(下記図に外れ値の影響を受けた場合のイメージ図を示します。)

外れ値の影響を受けた場合の平均値のイメージ

イメージ図を受けてしまいますが、本来求めたい平均値はもう少し低いはずなのに、測定ミスなどで変な値が入ってしまうと本来求めたい平均値からかけ離れたものが求められてしまいます。(この外れ値の影響はサンプルサイズが小さいほど影響を受けやすくなります。)

分散について

分散とは一言でいうとデータがどのくらいばらけているかを示す値です。

データのバラつきを評価するためにまずは各データから平均値を引いた偏差という値を求めます。

編差のイメージ図

イメージ図を見て頂けると分かりますが、データが平均値付近にいる=偏差が小さく、バラつきが少ないという事になります。

編差を数式であらわすと下記のようになります。

\begin{equation}(x_i - \bar{x})\end{equation}

上記式は一つのデータについて偏差を求めたものとなりますので、サンプル全体の偏差を求めるとなると次のように0となってしまいます。(直感的に0になることはわかりますが(1)式を代入しても偏差の和が0になることが確認できると思います。)

\begin{equation}\sum(x_i - \bar{x}) = 0\end{equation} 

編差が0になってしまうのは正負の符号が混ざっていたからなので、偏差の符号を消すために偏差を二乗にした平方和(偏差平方和)というもの求めます。この記事では平方和はS(ラージエス)と表します。式で表すと下記のようになります。

\begin{equation} \begin{split}S &= \sum(x_i - \bar{x})^2 \\ &=\sum x_i^2 -\frac{(\sum x_i)^2}{n} \end{split} \end{equation}

上記(4)式の最終項の$\frac{(\sum x_i)^2}{n}$のことを修正項といいます。

(4)式の式変形については補足で書きます。

平方和が求められたことで、いよいよ分散の話題に移ります。

平方和だけだとデータの数の影響を受けてしまうので、データの個数nで割ってあげたものを分散といいます。(分散の記号については表1を参照して下さい)

分散を式で表すと以下のようになります。

\begin{equation}V = \frac{平方和}{データ数} = \frac{S}{n} \end{equation}

少ないデータで分散を求める場合はデータ数で割るのではなく、(データ数-1)で割って以下のようにする場合もあります。(こちらを不偏分散といったります。)

\begin{equation} V = \frac{平方和}{データ数 - 1} = \frac{S}{n-1} \end{equation}

不偏分散を求める際にn-1で割る理由も後ほど補足します。

(4)式の式変形

社会人になってから久しぶりに数学を扱うので復習も兼ねて(4)式の式変形をしていきます(シグマの性質を忘れてしまったので、こちらのサイトを参考にしてます[3])

(4)式を展開すると次のようになります。

\begin{equation} \begin{split}S &= \sum(x_i - \bar{x})^2 \\ &=\sum x_i^2 - 2\bar{x}\sum x_i + \bar{x}^2\sum 1 \nonumber \end{split} \end{equation}

※$\bar{x}$は定数なので注意してください。

(1)式より$\sum x_i = n\bar{x}$なので上記式に代入すると

\begin{equation} \begin{split}S &= \sum x_i^2 -2n\bar{x}^2 + n\bar{x}^2 \\ &= \sum x_i^2 -n\bar{x}^2 \\ &=\sum x_i^2 -n \cdot (\frac{\sum x_i}{n})^2  \\ &=\sum x_i^2 - \frac{(\sum x_i)^2}{n} \end{split} \end{equation}

となります。(途中の式変形で(1)式を再度代入してます。)

不偏分散を求める際に(n-1)で割る理由

今回の目的は最初の方にも書きましたが、サンプルから母集団の特性を推定することです。

分散を求める際に平均値を使っていますが、抽出したサンプルによって平均値にもバラつきが出てきてしまいます。(母集団の平均値は一定となりますが、サンプルの平均値は一定ではありません。)

この平均のバラつきを考慮したもので中心極限定理というものがあります。中心極限定理は下記のようなものです。[4]

X が平均 μ，標準偏差 σ の正規分布に従うならば，大きさ n の無作為標本に基づく標本平均  は，平均μ，標準偏差  の正規分布に従う。

この$\frac{\sigma}{\sqrt{n}}$は標準誤差(SE)とも呼ばれるみたいです。[5]

この標準誤差の項を考慮し、式変形を実施するとn-1の項が出てきます。

(導出についてはこちらのサイトが参考になります。[6])

標準偏差

分散の説明が長かったですが、標準偏差の説明は短いです。分散は求める際に偏差を2乗してしまっているため、元のデータの単位と異なる単位となってしまいます。そこで元のデータの単位を使えるようにするために平方根をとったものを標準偏差といいます。

\begin{equation} s = \sqrt{分散} = \sqrt{V}\end{equation}

まとめ

今回は平均、分散、標準偏差について勉強しました。

次回はpythonを使ってシミュレーションしながら確認していきます。

参考文献

[1]５分で分かる！「母集団」と「標本」の意味

[2]平均の意味と計算方法

[3]Σシグマの公式まとめと計算方法（数列の和の公式）

[4]中心極限定理

[5]標準偏差と標準誤差

[6]なぜ不偏標準偏差をn-1で割るのか【導出過程お見せします】