toddler’s diary

以前は研究にあまり関係ない雑談・2023年4月から本を通じた自分の振り返りやってます

樺島祥介「学習と情報の平均場理論」岩波書店 2002

以前朱鷺の杜で「樺島君とゆかいな仲間たち」の記事を書いたことがありますが,かの樺島さん(現東大)の著書です.

 

私が修士で連想記憶の計算をちまちまやっていたころ,ニューラルネットの解析では統計物理の強力手法であるレプリカ法を使った解析が黒船のように押し寄せてきていろんな問題を蹂躙していました.

 

日本だとその代表格が樺島さんで,その後私の知っている人たちで言えば岡田真人さん(現東大),田中利幸さん(現京大)なんかを中心にニューラルネットのみならず情報理論など機械学習関連で圧倒的な成果を残されています.これらの方々とはスパースモデリングでもお世話になり,その力を近くでまざまざと見せつけられていました.

 

レプリカ法自身は数学的な裏付けが甘いというように言われることもありますが,私からすると魔法のような方法で,よく思いついたなと感心するしかありません. 産総研になって少し後,樺島さん(当時東工大)と田中和之さん(東北大)を招いて「平均場近似虎の穴」を企画したりしてかなり勉強したのですが結局自分で自由自在に扱うまでには至りませんでした.

 

話を修士の時代に戻すと,当時甘利研の助手であった倉田耕治さん(現琉球大)や甘利先生とこの辺りの計算は追っていて,鞍点法を使ってランダム対称結合のネットワークの平衡状態の数とかを計算するとかはやったのですが,連想記憶になるとフーリエ変換して鞍点をとったときに複素数とかが出てきてよくわからなくなった記憶があります.

 

倉田さんには修士時代にがっつりお世話になり,式根島に連れて行っていただいたり,日常でもいろいろ面白いお話を聞かせていただきました.昔どこかに書いた酢豚奴隷の話も倉田さんから聞いた話のパクリです.

 

樺島さんのこの本は薄い本ですが,深遠なレプリカ法や平均場近似の入口を垣間見させてくれると同時に,私の修士時代を思い起こさせてくれる本です.