最小自乗法を“回帰”と呼ぶ理由

2009.10.27    余談

前回、損益分岐点の中で最小自乗法について触れているが、この最小自乗法は回帰直線とも呼ばれている。

以前、私はこの最小自乗法がなぜ“回帰”という名称がつけられているのか不思議でならなかった。

調べるとそこには興味深い話が存在していた。


遺伝学の大家であるダーウィンの弟子、ゴルトンは「親の背の高さは子供に遺伝する」と言う問題に対して実証的に取り組んだ。

何千組の親子を調査してxy座標軸上にプロットした。(散布図を描いた)
(x軸に親の背、y軸に子供の背を取る。子供は成長の止まった成人とし両方男子とした。)
そして、x軸を微小区間に分割し、その区間毎の平均値をつなぎ直線にした。

当初、ゴルトンは背の高さは遺伝すると考えており、180cmの親からは子供の平均は180cm、160cmなら160cmで、y=xなると思っていた。

しかし実際は y=ax+b で 0<a<1 であった。a=1ではなかったのである。

要するに背の高い親の子供はそれよりも低く平均値に帰る。
逆に低い親の子供は親より高く、これも平均値に帰る。ことが判明したのである。

よく考えてみると、もしこの逆であれば人類は「おおびと」と「こびと」に分かれてしまっていた筈である。
そのようなことが起きないように遺伝的に組み込まれているのだと言える。


このようないわくから、この直線を平均値に回帰する直線「xに対するyの回帰直線」と呼ばれるようになったのである。


ゴルトンの話の回帰直線は任意で引く直線であるが、
実務で最小自乗法を使用するときは、最小自乗法の正規方程式(一般式)
�@Σy=Σax+nb �AΣyx=Σax・x+Σbx を使う。
この2式にデータ値(xy)からΣx,Σy,Σx・x,Σxyを求めて代入して連立方程式からaとbを解きy=ax+bの直線を確定する。


最小自乗法の正規方程式の求め方も興味深い内容なのだが、紙幅の関係で今回は以上にする。