この本の第1版は 1973 年の原著版を見た記憶がありますが、1990年代の機械学習の話とかも入った最新版です。 まず、この本の第3著者である David Stork 先生とはちょっとだけかかわりがあります。まだ藤木さんが産総研にいたころ、村田さん・日野さんと早稲…

電総研に入ってすぐの夏に甘利先生から旅費をだしていただき蓼科の脳のワークショップに参加しました。このワークショップは脳科学や工学系をはじめいろいろな研究者が集まる学際的なものでした。脳科学と機械学習というのは近いようでなかなか難しい関係性…

カーネル本を書いたときにサポートベクターマシンは双対問題に変換して解くというような説明の仕方が主流で、実際そのような説明を書きました。現代流の説明では、どう最適化するかはまあパッケージがやってくれるので、中身について知りたければもっと別の…

この本は電総研のころに情報数理研究室で梅山さん、栗田さん、関田さんたちと輪読した記憶があります。それまでほとんど知らなかったロバスト統計に初めて触れた本で、その後 SVM とか U-divergence とかを知っていく中で、ロバスト統計との関連性を意識する…

大学で習った最初のプログラミング言語は Fortran で、以前にも書いた紙カードを使ってプログラミングしたのが最初でした。Fortran の基礎はどういう教材で勉強したのか全く忘れてしまいましたが、その後、算法通論で伊理先生の授業があったときの教科書がこ…

数学系の学生にあるあるだと思いますが、２０歳を過ぎると「あー、ガロアの死んだ歳を超えてしまった」という謎の嘆きを口走って、自分の凡庸さを改めて自覚することになります。 この本はガロアの史実も交えつつ少し脚色も加えたお話です。ただし数学者らし…

中野先生は計数の中でも計測分野だったので、数理の私は直接の接点はあまりありません。講義も受けた記憶はありません。 ただ、修士の時は連想記憶の研究をしていたので、アソシアトロンという名前は知っていましたが、相関ベースの連想記憶はほとんど甘利先…

大阪大学の連携大学院（数学科）には梅山さんを引き継いで年に1回特別講義のような形で何年かやらせていただきました。 数学科だと特に学生さんはかっちりした定義・定理証明という感じで話さないとピンとこないんだなということを学びました。まあそれを徹…

線形計画法は今野先生が東工大から計数に来て講義されていました。 若気の至りで、なんかわかりやすいけど研究としてはあんまり面白くないなあなどと不遜なことを思っていました。 その後卒論で伊理・杉原研に進むと、ちょうどカーマーカー法が特許になると…

マルコフ連鎖モンテカルロ法(MCMC)については以前にフランスで開かれた Mixture workshop でやたら流行っていたというのを書いたと思いますが、その後ちゃんと勉強したのはこの本でした。 いろいろな人が書いていますが、主に読んだのは最初の方の MCMC の解…

計数の計算数理工学では、チューリングマシンなどの計算原理や計算量理論なんかの概要を勉強しました。この本はそのときに参考にした本です。あと、ゲーデルの完全性・不完全性定理なんかもその枠でやっていたような記憶があります。 もともとプログラミング…

この本のきっかけとなったのが，甘利-金谷論争と呼ばれる問題です． 問題自体は単純で y = a x のような線形関係でどの推定量がベストなのかというものです．通常は y が観測値でノイズがのるという設定ですが，x にもノイズがのるとすると，セミパラメトリ…

たぶん小学校一年生のころお習字を習っていました。ただし、夏休みかなんかで休みになるのをちゃんと聞いておらず、行ってやっていなかったのでなんか割と早くやめてしまったような気がします。全然違いますが、小学校高学年で入っていた野球部は、逆に学校…

高校時代になんとなく耳にする物理学の分野として相対論と量子論の二つがあると思います。相対論の知名度は言わずもがなですが、量子力学については高校の同級生からなんか不確定性原理っていうのがあってみたいな話を聞いてなんとなく知っていたというよう…

浅井さんは甘利研の先輩で、電総研では音声研究室で HMM とかを使った話をされていました。遺伝子も音声と同じく系列データということで次第に当時まだ流行り始めていたバイオインフォマティクスをやって、学位を取られていました。私が学位を取ろうと思った…

この本は修士のときに輪講した本ですが、明らかに私にはレベルが高すぎました。その後、情報幾何とかを勉強した後でも、なかなか大変な内容かなと思います。 いきなり最初の方でドラムのコホモロジーとチェックのコホモロジーの同型性の証明とかあってびびり…

子供のころから本の虫でしたが、自分で作文したり話したりするのは当時から今まで一貫して苦手な作業です。母語である日本語ですら苦手なので、英語は言わずもがなという感じです。 ただし、研究者である以上日本語も英語も、そして作文もコミュニケーション…

江沢洋先生のコラムなどをまとめた本で，どこかの本屋でたまたま見かけて面白そうだったので，後から研究費で買いました．江沢先生はいろいろなところに書かれていて，私のような物理素人でも目にする機会は多いのですが，物理学の中でどのような位置づけの…

最近はそうでもない気もしますが、この本が出版されたころはプレゼンの仕方についての情報が SNS なんかでもたくさん出回っていました。私もこの本を読んで、なんかデザインがかっこいいプレゼンを作ろうとがんばろうとしたことがあります。 でも結局あまり…

計数３年～４年になる頃に、小さな計算機室のようなところに PC が数台導入されて、学部生はそこでたむろすることが多かったです。やることといえば PC のゲームで、NetHack にみんなではまっていました。その元祖の Rogue にはまったのはむしろ電総研に入っ…

計数で代数数理工学を勉強していた時に買った本です。 もはや半世紀以上経っている本なので、「現代」風ではないかもしれませんが、今でも立派に教科書として成立するのが数学という分野の確固としたところだと思います。 代数の入口である、群・環・体の基…

人工知能学会で、ひそかに書いているこのブログも少しばかり知られてしまったようですが、まあマイペースで書いていきます。それより、だんだん思い入れのある本が減ってきて、まだ読んでない本に突入して、依然として毎日更新できるのかがちょっと不安です…

頻度主義かベイズかというのは統計学の一大論争である（or であった）という話はよく聞きますが、統計コミュニティとの接点が薄かったこともあり、直接その論争を目にすることはあまりありませんでした。 頻度主義が完全に客観的かというと、i.i.d. の仮定と…

この本はカーネル法とガウス過程回帰の関係性や Leave-one-out CV の導出について参考になった本です。特に、（カーネル本には書いていませんが）ガウス過程の RKHS ノルム期待値は発散するというのはちょっと面白い話です。例によって Grace Wahba 先生とは…

若いころからとんでもない能力を発揮する人たちというのが時々登場します。 この本の著者の David Mackay というのはそのような人の一人で、自分より年下の研究者でこんなすごい人がいるというのは若手の研究者にとっては結構挫折に近い気持ちを抱かせます。…

明日から人工知能学会の全国大会ということで今日は人工知能の本。 人工知能には高校のころから興味があったので、大学に入ってからこの岩波のシリーズを買って読んでいました。ほかの本もいずれ取り上げると思いますが、白井先生・辻井先生が書いていたとい…

今日は一般書モードです。 この本は、以前に書いた小学校５・６年の担任をしてくださった佐藤先生が授業で朗読してくださった本で、とても面白くて自分でも購入しました。 昔の小学校は時間に余裕があったのか、先生の雑談とか勉強でない時間がいっぱいあり…

我ながら研究は結構流行に流されやすいなあと思います。 もともとニューラルネットワークもよくわからないまま甘利研に進みました。まあ学部生レベルでそんなに最先端分野に詳しい人なんてほんの一握りなんだと思います。たいていはメディアとかで取り上げら…

電総研に入ってしばらくして遺伝的アルゴリズムいわゆる GA のブームがやってきました．電総研同期入所の伊庭斉志さん，秋山泰さんのほか，佐藤泰介や，亡くなられた田中勝さんなんかといっしょに勉強会をやりましたが，なぜうまくいくかという議論になると…

これまでも何度か村田研がらみの話を書いてきました。 村田さんが旧南雲研から吉澤先生や池田和司さんとともに甘利研に移られたのは私が修士を出た後だったので、直接の接点はほとんどありませんでした。 ただ、私の正則化でノイズ加える話とかウォッチをし…