情報理論と統計学との関係性もまた微妙な感じがします。情報理論はデジタルで離散的な確率変数、統計学はどちらかといえば実数値を対象とすることが多く、その違いが数学的な道具立てやアプローチの違いとなって、分野的にも分かれています。
離散系のグラフィカルモデルやその拡張の話で高畠さんといくつか仕事をさせてもらいました。とはいっても、私の貢献はほとんどないのですが、高畠さんは情報理論や離散系に軸がある感じなので、連続系の仕事をやってきた私が参考文献などを少し補うという感じでしょうか。
Koller の本は高畠さんが一時期一人輪講をされていました。これも洋書にありがちな分厚い本で、なかなか全部は読み切れませんが、グラフィカルモデルの構造学習の話を調べるという主な動機がありました。
企業との共同研究なんかだと、ベイジアンネットワークをデータから学習させるとろくなものは出てこないという印象なので、基本的にはベイジアンネットワークは人が作るものという考えに落ち着いていますが、逆に言えばちゃんとベイジアンネットワークをデータから作るという観点では研究要素はたくさん残されているようにも思います。
