我ながら研究は結構流行に流されやすいなあと思います。
もともとニューラルネットワークもよくわからないまま甘利研に進みました。まあ学部生レベルでそんなに最先端分野に詳しい人なんてほんの一握りなんだと思います。たいていはメディアとかで取り上げられてそこに興味を持つというのがほとんどで、今思うと、メディアで目立つことと学問的に重要なのとは違うことも往々にしてあるのでそこは気をつけた方がよいと思います。
さて、Michael Jordan の Hierarchical Mixtures of Experts の話を日本で開かれた国際会議 (IJCNN 名古屋?)で聞いた時には、混合分布とか EM アルゴリズムについて何も知りませんでした。これまでの研究人生、だいたい情報を拾うのが遅くて(近くの人に教えてもらうというパターンがほとんど)、それでちょっと恥ずかしいという思いになって、結構一生懸命勉強すると、少しわかった気になって、論文だったり解説記事を書くということを繰り返してきたように思います。
混合分布と EM アルゴリズムについては、確か最初に読んだ日本語解説は宮川雅巳先生が書かれた解説記事でした。宮川先生とは残念ながら面識はありませんが、その後統計の勉強をしていくときに頻繁にお名前を目にする先生です。
英語ではこの本が鉄板というのは誰から得た情報だったか忘れてしまいましたが、この本をはじめとしたいろいろな本で勉強しました。もう少し後だと McLachlan の本が有名ですがそれもいつか取り上げようと思います。
EM アルゴリズムの幾何学は、まだ情報幾何学を勉強中に思いついたのですが、甘利先生なんかにもっとずっと先の仕事をされてしまったので、私は解説論文書くくらいでした。
その後オランダ滞在中のメインテーマも混合分布の汎化バイアスの解析で、これは博士論文のメイントピックとなりました。