【正規分布の基礎3】誤差の中の秩序の探究―ガウスの誤差法則と正規分布

18世紀のヨーロッパは、天文学が大きく前進すると同時に、新たな壁に突き当たった時代でした。17世紀にケプラーが精密な観測から惑星の軌道が楕円であること、面積速度が一定であること、周期と軌道半径の関係が成り立つことを見出し、さらにニュートンが万有引力と運動の法則によってそれらを統一的に説明したことで、宇宙は「数学が貫く秩序ある体系」として理解され始めていました。しかし、こうした力学法則が整備された18世紀に入ると、天文学者たちはある根本的な問題に直面します。それは、観測値が理論と完全には一致しないという、微小ではあるが避けられない“誤差”の存在でした。

　望遠鏡自体の揺れ、大気のゆらぎ、観測者の読み取りの限界や反応の遅れ。観測には必ずさまざまな要因が入り込み、同じ星を測定しても位置がわずかに異なって記録されます。ニュートンの法則によって惑星の運動は数学的に予測できるにもかかわらず、実際の観測結果はその理論軌道の周囲に散らばるように見える。この「理論と観測のズレ」をどのように解釈し、どのように処理すべきかが、18世紀の天文学にとって大きな課題となりました。理論に誤りがあるのか、観測が不正確なのか、それとも誤差そのものに何らかの規則性があるのか──答えはまだ誰にも分かっていませんでした。

　その一方で、ハレーは彗星の周期性を示し、ブラッドリーは光行差という微細な現象から地球公転の確固たる証拠を引き出し、マイヤーは月の運動を驚くほど高精度に計算するなど、天文学は観測精度と計算精度の両面で急速に洗練されていきました。彼らの仕事は、天体の“本当の位置”を知るには誤差の扱いを避けて通れないことをいっそう明確にしました。ケプラーの法則とニュートンの力学が宇宙の基本構造を解き明かしたことで、残された大きな未解決問題は、ゆらぎを含む観測値の中からどのように「真の値」を取り出すか、という点に移っていったのです。

　こうして18世紀末のヨーロッパには、理論・観測・誤差をめぐる新しい問題意識が広がりつつありました。星の位置は確かに法則に従って動くはずなのに、観測すると必ず揺れを伴う。その揺れにはどんな数学的性質があるのか。誤差をどのように扱えば天体の運動をより正確に理解できるのか。こうした問いが、のちにガウスへとつながる「誤差の数学化」という大きな流れを生み出していくことになります。

　そのような中で、当時の科学者たちが経験的に頼りにしていた方法がありました。複数の観測結果の平均をとるという考え方です。ばらつきのあるデータも、繰り返し測って平均をとれば値は安定してくる。偶然のゆらぎは互いに打ち消し合い、残るのは“真の値”に近いはずだ──。そうした経験的な知識は、天文学や測地学の実務の中で自然と受け継がれ、研究の作法として定着していました。

　この頃にはすでに、大数の法則の萌芽や確率・統計の基礎概念が形をとりはじめており、「繰り返し測定すれば、真理に接近できる」という考え方が科学者たちの間で少しずつ共有されつつありました。観測値がばらつくことを単なる障害とみなすのではなく、平均値の安定性によって「見えない真の姿」をつかみ取ろうとする姿勢が広がっていたのです。

　しかし、その確立しつつあった経験則に対し、ひとりの青年は別の角度から問いを投げかけました。——「誤差そのものを支配する、もっと深い自然法則があるのではないか？」

　測定の誤差を「偶然の揺らぎ」、「神の気まぐれ」として処理するだけではなく、その背後に隠れた必然的な構造を見出そうとしたのです。ゆらぎが生じる理由を探り、それを数学的に表現しようとする全く新しい視点でした。

　その青年の名は、カール・フリードリヒ・ガウス（Carl Friedrich Gauss, 1777–1855）。後に「数学の王」と称される彼がこの問いに向き合い始めたのは、まだ十代の若き日でした。星の位置が揺らぐ理由を理解しようとするだけでなく、そのゆらぎの法則性そのものをつかもうとしたガウスの思索は、やがて誤差の数学化、そして正規分布と最小二乗法という近代科学の基盤につながっていくことになります。

　観測に伴う不確かさを単に誤差として恐れるのではなく、そのゆらぎの奥に潜む構造を見極めようとする探究心──。まさにその姿勢から、後に「正規分布」と呼ばれることになる、偶然の形に潜む法則の物語が始まるのです。

1. 若き天才、星を追う

　　ガウスは幼い頃から数字の対称や調和に魅せられ、数の中に音楽の旋律のような美しさを感じていたといいます。その鋭い感性は少年時代から際立っており、十代にしてすでに驚くべき成果を挙げていました。たとえば、幼年期の逸話として知られる「1 から 100 までの整数の和を一瞬で求める方法」は彼の才気を象徴するものですが、実際にはさらに深い洞察を重ねています。15 歳のころには素数の分布に潜む規則性を予感させる考察に到達し、17 歳には複素数平面の考え方を土台にした代数基本定理の初期の証明を自力で構築していました。若干十代にして、後の数学の基礎を揺るがす発想に手を伸ばしていたのです。

　その後、ガウスは Göttingen 大学で数学と天文学を本格的に学び、数式の世界だけでなく、夜空に散らばる星々の運動に潜む規則にも目を向けはじめます。観測値が揺らぐ理由を理解し、その背後に隠れた秩序までも知ろうとしたガウスは、天文学の抱える「誤差の問題」に強い関心を抱きました。

　そして 1790 年代、ガウスは観測の「ずれ」を合理的に扱うための一つの発想にたどり着きます。観測値の誤差を二乗し、その合計が最も小さくなるように真値を定めればよいのではないか——。こうしてガウスが若くして発見したのが最小二乗法（method of least squares）です。

　この手法の真価が最初に劇的に現れたのが、1801 年に発見された小惑星ケレス（Ceres）の軌道計算でした。ケレスは発見後すぐに太陽の光に紛れて観測不能となり、行方が完全に分からなくなっていました。誰もが再発見を諦めかけていた中、ガウスはわずかな観測データだけを手掛かりに最小二乗法を用いて軌道を推定し、ケレスが再び夜空に姿を現す位置を見事に予言したのです。この成功によって、ガウスの名は一気にヨーロッパ全土に広まりました。

　そしてちょうどこの時期、ガウスは観測誤差の背後に潜む数学的法則をさらに深く探求し、1809 年には誤差の分布として今日「正規分布」と呼ばれる関数形を導きました。最小二乗法が「真値の推定方法」を与えたとすれば、正規分布は「誤差がどのように分布するか」という根本的な構造を明らかにしたものでした。ケレスの軌道計算が成功したのは偶然ではなく、ガウスの背後にすでにこの誤差の理論が形を整えつつあったからです。

　こうして若きガウスの探究は、数学と天文学が交差する場所で結実し、観測のゆらぎの奥に潜む普遍的な法則へとつながっていきました。

2. 誤差の中に潜む形

　ケレスの軌道計算を成功させた頃、ガウスの関心はさらに深い方向へと向かっていました。観測という現実の行為には必ず“誤差”がつきまといます。しかし、その誤差は決して無秩序に散らばるのではなく、何らかの法則に従って生まれているのではないか──。

　ガウスは天体観測に携わる中で、次のような洞察を得ます。

　「誤差とは、多くの独立した小さな原因の累積として現れるのではないか。　　そうであるなら、その分布には必然的な形が現れるはずだ。」

　この発想は、のちに中心極限定理へとつながる考え方を、まだ世に定式化される前に直観していたともいえます。

■ ガウスが置いた仮定 —— 誤差はどのように分布するべきか

ガウスは誤差の分布 $\displaystyle{ f(x) }$ について、次の二つの自然な仮定を置きました。

誤差は真の値を中心として左右対称に起こる。 つまり、正の誤差（測りすぎ）も負の誤差（測り足りない）も同じくらい起こり得る。これは
$\displaystyle{ f(x) = f(-x) }$
を意味します。
誤差が大きくなるほど、その確率は急激に小さくなる。 つまり、わずかな誤差はよくあるが、極端な誤差は非常に稀である。

さらにガウスは、「誤差が重なったときの尤（もっと）もらしさ」を考え、未知の真値を推定する際の自然な条件を数学的に整理していきます。

■ 最小二乗法から導かれる微分方程式

複数の観測値

$\displaystyle{ x_1, x_2, \ldots, x_n }$

が得られたとき、真の値を $\displaystyle{ \theta }$ として、それぞれが誤差

$\displaystyle{ e_i = x_i - \theta }$

によって生じたとします。

　誤差を支配する確率密度を $\displaystyle{ f(x) }$ とすると、観測値

$\displaystyle{ x_1, x_2, \ldots, x_n }$

が得られる「もっともらしさ」は、それぞれの誤差が起こる確率を掛け合わせた

$\displaystyle{ L(\theta) = \prod_{i=1}^n f(x_i - \theta) }$

によって表されます。これは今日では、「最尤推定法（maximum likelihood estimation）」として広く知られ、統計学の標準的方法となっていますが、当時はまだこの概念は体系化されていませんでした。最尤推定の数学的な定義が与えられるのは20世紀、フィッシャーによる1920年代の仕事を待つ必要があります。しかし驚くべきことに、ガウスは1809年の段階で、この最尤的な考え方をすでに独自に用いていたのです。

　『天体運動論（Theoria motus, 1809）』の中でガウスは、「もっとも確からしい値（verisimillima）を得るためには、誤差確率の積が最大となるように真値を選ぶべきである」と明言しています。これは現代の記号を用いれば、

$\displaystyle{ \theta = \arg\max_\theta \prod_i f(x_i - \theta) }$

という最尤推定の条件そのものにほかなりません。ガウスはこの原理を明示的に体系化してはいませんでしたが、誤差の分布と最小二乗法を結びつけるための基礎として、まさに、最尤原理そのものを直感的に導入していたのです。

　この点は、統計史の研究者スティグラー（Stigler, 1986）やホールド（Hald, 1998）によって詳しく論じられており、彼らはガウスを「最尤推定の事実上の創始者」と評価しています。ガウスが観測誤差の背後に潜む構造を読み取ろうとした深い洞察は、この部分にも鮮やかに現れています。

　そのため、「もっともらしい真値」を決めるには、この尤度 $\displaystyle{ L(\theta) }$ を最大にするような $\displaystyle{ \theta }$ を選べばよい、というガウスの主張は、単なる計算技法ではなく、当時としてきわめて革新的な科学的思考だったといえるのです。

　ここで、ガウスは誤差のばらつきの左右対称性の仮定もとで、最尤推定が「誤差二乗和を最小にする点」と一致するような $\displaystyle{ f(x) }$ を求めようと考えました。

　この要求を数学的に整理すると

$\displaystyle{ \frac{d}{d\theta} \log L(\theta) = \sum_{i=1}^n \frac{f'(x_i - \theta)}{f(x_i - \theta)} = 0 }$

が得られます。ここで、

$\displaystyle{ h(x) = \frac{f'(x)}{f(x)} }$

と置くと、

$\displaystyle{ \sum_{i=1}^n h(x_i - \theta) = 0 }$

となります。

　一方、最小二乗法では

$\displaystyle{ S(\theta) = \sum_{i=1}^n (x_i - \theta)^2 }$

を最小にするとき、

$\displaystyle{ \frac{dS}{d\theta} = -2 \sum_{i=1}^n (x_i - \theta) = 0 }$

となります。

　　ガウスは、最尤推定の条件と最小二乗法の条件が一致するためには、誤差の分布がある特別な形式を持っていなければならないことに気づきました。最尤推定では、誤差の確率密度 $\displaystyle{ f(x) }$ に対して

$\displaystyle{ h(x) = \frac{f'(x)}{f(x)} }$

とおくと、観測値 $\displaystyle{ x _ 1, \ldots, x _ n }$ に対し、最尤条件は

$\displaystyle{ \sum_{i=1}^n h(x_i - \theta) = 0 }$

という式になります。一方、最小二乗法の条件、すなわち「誤差二乗和が最小になる条件」は

$\displaystyle{ \sum_{i=1}^n (x_i - \theta) = 0 }$

です。

　ガウスが求めたかったのは、これら二つの条件が常に一致するための条件は何か？ということでした。これは、あらゆる観測データに対して

$\displaystyle{ \sum h(e_i) = 0 \quad\text{が}\quad \sum e_i = 0 \quad\text{と同値になること} }$

を意味します。

　ここで、ガウスは「この同値性がどんなデータに対しても成り立つためには、 $\displaystyle{ h(x) }$ がどのような関数でなければならないか」を探りました。これは、

$\displaystyle{ h(x_1) + h(x_2) + \cdots + h(x_n) = 0 \quad\Longleftrightarrow\quad x_1 + x_2 + \cdots + x_n = 0 }$

が任意の $\displaystyle{ n }$ と任意の値に対して成立する、という極めて強い条件です。

　このような条件を満たす関数は、19世紀以降の数学で知られる「コーシーの関数方程式」の構造をもっています。つまり、和に関する条件があらゆる場合に成り立つためには、

$\displaystyle{ h(x) = kx }$

という線形関数でなければならない、という結論に至るのです。

　直感的に言えば、もし $\displaystyle{ h(x) }$ が $\displaystyle{ x }$ に比例しないような複雑な関数であれば、

$\displaystyle{ h(a) + h(b) = 0 \quad\text{ならば}\quad a + b = 0 }$

という対応があらゆる組み合わせで成り立つはずがありません。すると、最尤条件と最小二乗条件は一般には一致しなくなってしまいます。逆に、この対応がどんな観測データに対しても常に成立するためには、「和の構造をくずさない線形性」が不可欠であることが予想されます。

　厳密な証明は省きますが、ここで必要条件として $\displaystyle{ h(x)=kx }$ と仮定してみて、本当に条件が満たされるか確かめてみましょう。

　まず、最尤推定の条件は

$\displaystyle{ h(x_1-\theta) + h(x_2-\theta) + \cdots + h(x_n-\theta) = 0 }$

でした。ここに

$\displaystyle{ h(x)=kx }$

を代入すると、

$\displaystyle{ k(x_1-\theta) + k(x_2-\theta) + \cdots + k(x_n-\theta) = 0. }$

左辺の

$\displaystyle{ k }$

をまとめて外に出すと、

$\displaystyle{ k\big[(x_1 + x_2 + \cdots + x_n) - n\theta\big] = 0. }$

$\displaystyle{ k \neq 0 }$ なので、これは

$\displaystyle{ (x_1 + x_2 + \cdots + x_n) - n\theta = 0. }$

したがって、

$\displaystyle{ \theta = \frac{x_1 + x_2 + \cdots + x_n}{n}. }$

ところがこれはちょうど、最小二乗法から得られる条件

$\displaystyle{ \sum_{i=1}^n (x_i - \theta) = 0 \quad\Longrightarrow\quad \theta = \frac{x_1 + x_2 + \cdots + x_n}{n} }$

とまったく同じ式になります。

　つまり、 $\displaystyle{ h(x)=kx }$ と仮定すると、最尤条件と最小二乗条件は確かに完全に一致することが分かります。

　したがって、最尤条件と最小二乗条件を一致させるためには、 $\displaystyle{ h(x)=kx }$ となるはず、という結論が得られるのです。

　このようにして、ガウスは最尤推定と最小二乗法の整合性から、

$\displaystyle{ \frac{f'(x)}{f(x)} = -C x }$

という微分方程式に到達しました。

　左右対称性から符号は負にし、誤差が大きいほど確率が小さくなるように設定しました。

■ 微分方程式を解く —— 誤差分布の形が姿を現す

　微分方程式

$\displaystyle{ \frac{df}{dx} = -C x f(x) }$

は、変数分離により次のように解けます。

$\displaystyle{ \frac{1}{f(x)} \frac{df}{dx} = -C x }$

両辺を積分すると

$\displaystyle{ \int \frac{1}{f(x)}, df = -C \int x, dx }$

$\displaystyle{ \ln f(x) = -\frac{C}{2} x^2 + \ln A }$

$\displaystyle{ f(x) = A e^{-\frac{C}{2} x^2} }$

これが、誤差の分布が自然と「二乗に比例して指数関数で減衰する」ことを示す関数形です。

■ 正規化して「正規分布」の最終形へ

確率密度なので、全面積が１になる必要があります。つまり、

$\displaystyle{ \int_{-\infty}^{\infty} f(x), dx = 1 }$

を満たすように定数 $\displaystyle{ A }$ を調整します。計算すると

$\displaystyle{ A = \frac{1}{\sqrt{2\pi \sigma^2}},\quad C = \frac{1}{\sigma^2} }$

となり、最終的な形は次のようになります。

$\displaystyle{ \boxed{ f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp!\left(-\frac{x^2}{2\sigma^2}\right) } }$

これはまさしく、今日「正規分布」と呼ばれているものです。

■ ガウスにとってこの式は何だったのか？

ガウスはこの関数を、「誤差の法則（lex verorum errorum）」と呼び、1809 年の大著『天体運動論（Theoria motus corporum coelestium）』で公表しました。

それは彼にとって単なる計算式ではありませんでした。観測値が揺らぎながらも真理へ集まっていく、その調和を数学が描き出す——ガウスはその姿に、自然界の深い秩序を感じていたのです。

3. 理論としての正当化──確率と真理の距離

　ガウスはさらに、先に導いた誤差分布 $\displaystyle{ f(x) }$ のもとでは、最尤推定の条件が誤差二乗和を最小にする条件と厳密に一致することを示し、最小二乗法がきわめて合理的な推定法であることを理論的に位置づけました。すなわち、誤差が正規分布に従うと仮定すれば、「もっともらしい真値（最尤解）」は、まさに誤差の二乗和を最小にする点にほかならない──この事実を確率計算によって裏づけた最初の人物がガウスでした。

　この発想は、今日「最尤推定（maximum likelihood）」として統計学の中心概念になっている考え方の直接の先駆けです。後年、ラプラスはこのガウスの誤差論を一般化し、多くの独立した小さな偶然が重なるとき、その和は正規分布に近づくとする中心極限定理の形で普遍的な数学的法則を明確にしました。こうして、観測に付随する誤差という「偶然の揺らぎ」は、やがて自然界が示す普遍的な秩序の姿として浮かび上がっていくのです。

4. ド・モアブルの影と継承

　ガウスが誤差の問題からこの曲線に到達する約1世紀前、ロンドンのコーヒーハウスでは、すでに、神の意志である「偶然」を数学の言葉で捉えようとする試みが始まっていました。その中心にいたのが、ユグノー迫害を逃れて英国へ亡命した数学者アブラハム・ド・モアブルです。彼は賭博や保険、統計的推論に関心をもち、独自の数学的世界を築いていきました。

　1733年、ド・モアブルは彼の代表作『The Doctrine of Chances』の研究の中で、コイン投げの成功回数を表す二項分布を解析し、その試行回数を無限に大きくした極限で、特定の曲線──のちに正規分布と呼ばれる形──が自然に姿を現すことに気づきました。彼にとってこの曲線は、無数の偶然の試行が積み重なったときに生まれる「偶然の合成が描く形」でした。

　一方、ガウスが目の前にしたのは天文学の観測誤差というまったく別の問題でした。望遠鏡の揺らぎや観測者の反応の遅れといった小さな要因が折り重なって生じる誤差の累積が、どのような確率分布を描くのか──その探究の先に、ド・モアブルと同じ数学的曲線を見出したのです。ガウスにとってそれは「誤差の積み重ねが描く形」でした。

　このように、目的も背景も異なりながら、二人の数学者が見つめていた先には共通の姿がありました。　偶然の集積と誤差の集積、そのどちらにも潜む静かな対称性。

　その対称性こそが、のちに「正規分布」と呼ばれて世界中の科学・工学・社会科学に広がっていく普遍的な法則の原型だったのです。

5. 誤差から宇宙の秩序へ

　19世紀に入ると、ガウスが見いだした誤差の数学は、天文学を超えて別の大きな世界へ広がっていきました。オーストリアの物理学者ルートヴィヒ・ボルツマンは、気体を無数の分子の集まりとして捉える「統計的な視点」を導入し、熱やエネルギーのふるまいを確率の言葉で説明しようとしました。そして、スコットランドの理論物理学者ジェームズ・クラーク・マクスウェルは、気体分子の速度がどのように分布するかを数学的に追究し、その分布がまさにガウスが導いた正規分布の形に従うことを示しました。

　このマクスウェル＝ボルツマンの速度分布は、のちに統計物理学と呼ばれる分野の基礎となり、気体の振る舞いを分子レベルから説明する革命的な理論へと発展していきます。つまり、星の位置の誤差を説明するために生まれた数学的な曲線が、やがて気体分子の運動という、まったく別の自然現象をも記述する原理として姿を現したのです。ここに、正規分布が「偶然の数学」を越えて「自然法則の数学」へと変貌していく瞬間があります。

　ガウスが信じていたのは、「無秩序の中にも見えない秩序が潜んでいる」という思想でした。観測の誤差、自然のゆらぎ、人間の行動、経済の変動──それらは互いに無関係で予測不能に見えても、無数の小さな要因が集まれば、しだいに同じ曲線へと姿をそろえていく。

　ガウスの方程式は、まるで静かにこう語りかけているようです。

「真理は、無数の誤差の中央にある。」

6. おわりに──ゆらぎの中に真理をみる眼

　晩年、ガウスは数学という営みそのものを「科学の中で最も純粋な探究である」と述べ、人間の持つ思考の力を深く信じていました。しかし、もし彼にもうひとつ名言を与えるなら、こう言ってもよいかもしれません。

　> 「誤差は敵ではない。真理へ近づくための道標である。」

　コイン投げの偶然に法則を見いだしたド・モアブル。
　天体観測の誤差の奥に静かな秩序を見つけたガウス。
　彼らが探究したものは、偶然の背後に潜む必然を捉えようとする人類の知の歩みそのものです。
　正規分布というひとつの滑らかな曲線は、誕生から300年を経た今もなお、私たちが不確実な世界の中で「何がもっとも確からしいのか」を考えるための羅針盤として、静かに息づき続けています。