1990年代の半ばに登場したサポートベクターマシン(SVM)ですが，日本語でちゃんと書かれた本としてはこの本が最初だと思うので，かなり遅かったということになります．ただ，そのころにはいろいろな情報源から知ることができました． 私が最初に SVM を知った…

プログラミング言語の R はもともと S という AT&T で開発された言語だというのは有名な事実だと思いますが，私が最初に S に触れたのは確か計数の演習か何かで当時栗木先生だったかが紹介してくださったときでした．ただし，まだその時は本格的に使うという…

電総研に入って多変量解析の勉強を始めてしばらくして，この本に出合ってやっと多変量解析の全体像がつかめました．今となっては古い本ですが，本の構成や書いてある内容は今でも通用する内容だと思います． まず，目次の後にフローチャートがあって，解析の…

突然研究とは関係のない本の登場です。 子供の頃の思い出を書くのに流石に研究書縛りだときついということで、たぶん最も繰り返して読んだ本の最上位に来そうなこの本を持ってきました。 これは中高一緒だった同級生に中２の頃勧めてもらって読んだ本です。…

計数の修士では統計学輪講という単位がありましたが、私はその時間帯にバイトを入れていたのでその単位は取りませんでした。今となってはおそらくすごいメンバーで構成されていたと思われますが、当時は統計学にはさらさら興味がなかったので、特に気にする…

今日は IBIS の話を書きます． IBIS を立ち上げた山西さんには，修士の就活で NEC の見学等もさせていただいてからお世話になっています．当時から代数幾何符号やMDLなどを研究されていました． この本の異常検知は基本的に山西さんの NEC 時代の異常検知の…

一昨日は昔の本を優先にと書いたそばから裏切って最近の本を取り上げます． 岡田真人さんが代表の文科省の新学術領域「スパースモデリング」を通じて，いろいろな分野のサイエンティストの方々と知り合いになることができました． もともと岡田さんは倉田さ…

今でもまだ多くの人は高校時代まであまり本格的に触れることの少ない確率論ですが，私もちゃんとは勉強していませんでした．教養でも数学と言えば線形代数と微分積分ということで，確率論というのが数学の中でどう位置づけられるのかよくわかっていませんで…

ここまでなんとか毎日続けられています． 本とあまり関係のない内容も多いですが，本をきっかけにして私の中の古い記憶を呼び覚ますというのは結構よい企画だったかもしれません． オフィスには無数の本があるので産総研をやめるまでに終わるかどうかといっ…

私の最近の研究の多くは，早稲田の村田さんや統数研の日野さん，村田研の学生さんたちといっしょにやらせていただいています．村田さんに気を使ってもらって「赤穂会」という名前をつけていただいて，コロナ前までは月に1回程度朝から夕方までがっつり議論す…

甘利研では夏に勉強合宿と遊び合宿という二つの合宿がありました。 勉強合宿は前に書いたことがありますが、博士課程の学生さんが一つのテーマでがっつりセミナーをしたり、著名な先生を招待してこちらもがっつりセミナーをしてもらうという企画でした。 韓…

久々に大学時代に使っていた本から。 以前に線形代数の教科書は紹介しましたが、高校時代に大学での数学にほとんど触れてこなかった私には教科書だけではハードルが高く、見た目易しそうなこの本で問題を解くことでなんとか理解しました。 いまどきは「○○勉…

強化学習はディープラーニングの力を得てすごく成長した技術です． 現在はこの有名な本も改訂版が出て，和訳も出ているようですが，私の手元にあるのは初版（といっても 2000 年の third printing）です． 強化学習は時系列的な要素を持つ機械学習において最…

カーネル本を書くときに参考にしたたくさんの本のうち最も重要だったのが斎藤先生のこの本です。 この本を通じて私の中途半端な再生核ヒルベルト空間の基礎知識がかなり補われました。残念ながら私ごときには面識を得る機会はなかなかありませんが、いつかご…

機械学習の汎化能力についての研究はちょうど修士の頃に流行りの話題でした． 統計学ではもっと前からその問題はわかっていたと思いますが，機械学習のコミュニティでは第2次ニューロブームのときに認知され始めた話題だと思います．それ以前のニューラルネ…

今日はコンピュータやプログラムの自分史について書きます． 高校生になってパソコンとかに興味をもったものの，実際に自分の PC を買ったのは大学に入ってからです． NEC の PC8801mkII という 8bit 機で，当時 16bit 機の PC9801 が出たばかりというタイミ…

以前にも書いたと思いますが，電総研に入って数年してからはじまった RWCP という通産省のプロジェクトで多くの人たちと知り合いました． この本の著者の Kanerva さんも RWCP に参画していました．彼の代表的な仕事である Sparse distributed memory に関す…

ベイズ統計学については以前に Christian Robert の Bayesian Choice を取り上げましたが，日本語の本でベイズ統計について勉強するのに一番よかったと思うのがこの松原先生の本です．残念ながら松原先生とは面識はありません（というか多くの有名な統計学者…

機械学習や統計では線形代数がいたるところで使われていますが，普通の線形代数の教科書ではさらっと扱われるようなことが重要だったりすることがあります． その一つはベクトルや行列にかかわる関数の微分です．例えば重回帰分析を導出する際に，二乗誤差を…

この本はいろいろな意味で私を混乱させています． 著者の乾先生は川人・乾ペアとしてすごく有名で，阪口先生は計数の先輩ですし，岩波書店から出ているというのもほんの信頼性を増しています． また，自由エネルギー原理というのが何やらものすごく流行って…

当時の計数工学科には 解析・線形・代数・位相・確率・計算という６つの数理工学という授業があり，伊理先生か韓先生が線形数理工学の担当でした（以前韓先生が情報理論の講義をされたと書きましたが，このあたり記憶が不明瞭です）． 伊理先生は小さい字で…

私が電総研に入った年，栗田さんはカナダＮＲＣに滞在されており，麻生さんは通産省に出向ということで，メンバーが少なめなスタートでした． そんな中，私は，室長の大津さんのD論をまとめた電総研の研究報告を勉強して，ほとんど前提知識のなかった多変量…

2000 年頃は流行りに乗って独立成分分析(ICA)に興味をもってやっていました． すでに甘利先生や村田さん池田思朗さんなんかが本質的な仕事をいろいろやられていて，自分がやれることはあまり残っていなかったのですが，西森さんとシュティーフェル多様体やフ…

もともと室田先生が書かれた「離散凸解析」の解説本としてご本人が執筆されたものです．元本をもっていないのでわかりませんが，数学的にはこちらの解説本で私としては十分な感じがします．卒論で離散数学を少しだけかじったし，機械学習でも劣モジュラとか…

私は作文というものにあまりよい思い出はありません。 子供のころから今に至るまで作文で賞をもらったことは一度もありません。 本を読むのは好きでしたが、自分で文章を書くのはものすごく苦手で、それは基本的に今でも変わりません。 さすがにこの歳になる…

言わずと知れた情報理論の古典的かつ絶対的な教科書。 この日記を書いていて思うのは、学生の時って全然勉強してなかったなということです。統計も情報理論も基本的なことをほとんど何も知りませんでした。 計数での情報理論の授業は確か韓太舜先生（当時専…

昔はよく本の輪読というのをやりました。 この本は当時目新しかったウェーブレットの教科書で、亡くなられた田中勝さんやまだ電総研に入所されたばかりの本村さんとかといっしょに輪読しました。 田中さんは本当に最新の研究に対する嗅覚がすごくて、その辺…

渡辺澄夫さん（現東工大）による WAIC (Widely Applicable Information Criterion) は、機械学習や統計学において最も重要なモデル選択の問題に対する最も偉大な成果と言ってよいと思います。この本では WAIC について詳しく知ることができるすばらしい本で…

1995 年の夏に３か月ほどですがオランダの研究所に滞在しました。 当時通産省のリアルワールドコンピューティングプログラム(RWCP)に参加していた Bert Kappen (ちなみに正式には Bert = Hilbert) から大津さんに招聘研究員の枠があるというオファーがあって…

昨日書いた樺島さんの師匠である篠本先生の本で時系列的にはこちらが先です． バブルもはじけ，第２次ニューロブームもそろそろ終わりという時期に書かれた本で，シミュレーテッドアニーリングの話とかボルツマンマシンなど当時流行っていた話題を思い出しま…