toddler’s diary

以前は研究にあまり関係ない雑談・2023年4月から本を通じた自分の振り返りやってます

Jagdish K. Patel, Campbell B. Read "Handbook of the Normal Distribution, Second Edition" 1996

ここに書くまでもないが、ガウス分布あるいは正規分布と呼ばれる分布は連続確率分布のもっともメジャーな分布で、そのシンプルな構造は奇跡的とも思えます。たいていの問題はガウス分布でことたりますし、そうでない場合も、ガウス分布からの摂動として高次展開することで、ガウス分布と同じような扱いができたりします。

 

正直学生から電総研に入る頃はガウス分布なんてありきたりな分布はつまらないと思っていました。それでノンパラメトリックな分布推定なんかの話を好んで使っていましたが、理論をやろうとすれば中心極限定理のお世話にならないことはほとんどないですし、ICA では非ガウス性を取り出す手法ではあるものの上に書いたような高次展開(エッジワース展開やグラムシャリエ展開)でガウス的な数式展開をやることになりました。

 

この本は以前に書いた、離散的な GA に連続な latent variable を考えるプロビットモデルのような問題をやったときに、2次元ガウス積分を考える必要があった時に買ったと思います。この本が直接役に立ったわけではないと思いますし、その GA の話も塩漬けにしてしまったので、日の目をみることはない話ですが、ガウス分布について多くのことを知ることができました。

 

博士論文辺りで一生懸命やったガウス混合分布も、EM アルゴリズムの形にしてしまえば、結局のところガウスの推定に帰着させています。今振り返ると、私の仕事のほとんどは難しそうに見える問題をガウスのような単純な場合にいかに帰着さえるかという工夫が多かったように思います。自分に限らず研究の多くはそういう側面があるかもしれませんが。