政治や経済には疎い人生を送ってきましたが、駒場キャンパスには当時、大きな立て看板、通称「タテカン」が所狭しと並んでいて、さまざまな政治思想が掲げられていて、安保闘争など子供のころあったさまざまな出来事の雰囲気が色濃く残っていました。 国際関…

大学に入って，計算機関係のことに興味はあったものの知識が全然なかったときに本屋で岩波講座情報科学のシリーズを見つけて最初の方に買った本です．以前もこのシリーズの何かを取り上げた気がしますが，この本は計算機界のレジェンドである高橋先生の著作…

何度も書いていますが，統計学にはほとんど興味がなかったので，学生時代は教科書もかなり適当に選んだと思います．さすがにこの本に書いてあることの大部分は知っている内容なので，処分本リストに入れようと思います．と，このように書きましたが実は処分…

ディープラーニングが出てきてニューラルネットに対して懐疑的な人たちの態度も大きく変化しました．理論をこねくりまわすよりも，実際に動くものの社会的な影響というのは大きいものです．一方，記憶というのはいまだによくわかっていないようです．chatGPT…

ここに書くまでもないが、ガウス分布あるいは正規分布と呼ばれる分布は連続確率分布のもっともメジャーな分布で、そのシンプルな構造は奇跡的とも思えます。たいていの問題はガウス分布でことたりますし、そうでない場合も、ガウス分布からの摂動として高次…

スパースモデリングでは、本来変数の数最少という L0 正則化が現実的に不可能なので L1 正則化(いわゆる LASSO)で近似されますが、ある条件を満たせば L0 と L1 の解が一致するという話があります。スパースモデリングの新学術がはじまるまで私はあまり知り…

コロナで対面でのミーティングをたくさん経験して、リアルなコミュニケーションにはかなわないと思うことも多くありました。最初は単にリモートコミュニケーションに慣れていないだけということもあり、また年齢的にも若い人たちならずっと適応しているので…

ディープラーニングの教科書を書くのは難しいです。どんどんいろいろな技術が提案されて、昨日有効だったものが明日はもう忘れ去られているということもよくあります。あとは、基本的によく使われているディープラーニングでは、アーキテクチャエンジニアリ…

この本はタイトルに惹かれて買ったものの思っていたのとは違いました．出版社と縦書き新書ということからしても，取り上げられている物理学の内容そのものは物理系の勉強をしてきた人にとって特に目新しかったり難しい内容はありません． この本のねらいはむ…

電総研の頃は，年度末になると余った予算を消化するために筑波大の本屋に行ってめぼしい本をみつくろって予算消化をするという行事がありました．単年度会計の弊害で，多少状況は変わってきたとはいえ，現在でも同じように年度末の予算消化で苦労している人…

大学に入って最初の力学の教科書がこの本でした．高校から大学に入ると，数学にしろ物理にしろ高校の時とは全く違うという話で戦々恐々としながらも新しいことを勉強するのにわくわくしていたように思います．力学の教科書としてはマイナーな気もしますが，…

以前に書いたように，卒論の指導教官は杉原厚吉先生になっていただきました．杉原先生の著作はどれも非常に読みやすく，作文に関する本も出されています．その根底にあるのはシンプルさにあって，レトリックに頼ったり，あえて凝った書き方をしたりというこ…

情報理論と統計学との関係性もまた微妙な感じがします。情報理論はデジタルで離散的な確率変数、統計学はどちらかといえば実数値を対象とすることが多く、その違いが数学的な道具立てやアプローチの違いとなって、分野的にも分かれています。 離散系のグラフ…

大学入試で世界史を選択した程度には歴史というものが好きなのですが、淡々とした史実というよりはそこにのっかっているドラマが好きなのだと思います。なので、たぶん歴史学という観点からすると邪道なのだと思います。 この本は統計学の歴史学という観点で…

修士の頃に Geman & Geman のシミュレーテッドアニーリングの収束の話で盛り上がっていました。まだその頃には証明をフォローできるほどの知識はなかったですが、こういうことも証明できるんだということを知って興味がわきました。 電総研同期入所の秋山泰…

機械学習の教科書を聞かれることが多いですが、この本は無難な選択肢だと思います。そもそも機械学習という分野は学問的な体系がまだはっきりしておらず、教科書によって書かれている内容や書きぶりもいろいろ違います。ぱらぱらっと見た感じではこの本は割…

東大の統計学科は経済学部にあります。修士の時にあった統計輪講は以前にも書いたように専門学校のバイトと重なっていたので履修しませんでした。なので、経済学部の統計学科がどのような感じなのかを知らないまま卒業しました。今でも竹村先生など統計学科…

機械学習や統計学の理論はある統計量を等式変形や不等式による上限下限のような評価で解釈可能な値で評価するというのがメインの仕事になります。AIC などはその典型例だと思います。漸近評価で極限に飛ばすというのはまた別の技術になりますが、賢く不等式…

北川敏男先生の現代における位置づけというのはあまりちゃんと理解していませんが、この共立出版のシリーズは以前取り上げた情報量統計学をはじめとする共立出版の大シリーズの編者だという認識はしていました。この本はその中で北川先生自ら執筆されたもの…

確率過程の話はだいたい難しすぎて敬遠していたのですが、機械学習でガウス過程というキーワードはかなり昔から聞いていました。確率過程なので、基本的には時系列解析に使うんだろうくらいのあいまいな知識だったのですが、カーネル法を勉強していく中で以…

私が学生当時の計数工学科の先生方からは「ファジィなんて」というようなちょっと蔑んだような感情が読み取れました。先生のそうした態度は伝染するもので学生としてはちょっとファジィを敬遠する風潮はあったように思います。今思えば先生方が本当はどう思…

学生時代に複雑系というのが流行っていましたが、私はあまりその流行りには乗り切れませんでした。計数の同級生がマンデルブロー集合のデモプログラムを作って見せてくれたりしましたが、中身は全然わかっていませんでした。国家公務員試験の教養問題にも単…

何度か取り上げられている RWCP では、以前にマルチモーダルの話を書きましたが、事情通ロボットという会話しながら動く自律ロボットの研究にも少し関わりました。ただ、研究の進め方でリーダーの松井さんとあまり考え方が合わなかったので途中で抜けさせて…

自分の備忘録として始めたものですが、自分の過去よりも偉い先生のエピソードの方が需要がありそうなので今後はその辺も意識して書こうと思います。ちょうどこれを書いている前日に神経回路学会で甘利先生・福島先生・塚田先生というレジェンドがリアルに来…

ロジスティック回帰はニューラルネットワークをやっていれば自然に知ることができる概念ですが、それが一般化線形モデルという範疇に属するということを知ったのはかなり後になってからだったと思います。 昔GAとかを勉強しているときに、クロスオーバーに相…

自然言語処理については伊理研にいるころ助手の富岡さんなんかがメインで研究されていたのを横から見ている程度でしたが、たいていの問題はNP困難だというような研究が多くて大変そうだなという感じでした。 その後、ナイーブベイズで迷惑メールフィルタでち…

電総研に入ってから主成分分析とか判別分析なんかは知ったのですが、因子分析について知ったのはかなり後でした。何かの本に、主成分分析は確率モデルがなく、因子分析は確率モデルがあるというような説明がありましたが、全然ピンと来ていませんでした。大…

統計学と機械学習の間の溝のようなものは何度も触れてきましたが、昔に比べればずっと溝は埋まっていると思います。なので、将来に対してそれほどの心配はありません。統計側の人たちが機械学習系について知るようになったのはこの本の影響が大きいと思いま…

豊田先生とは面識はありませんが、ベイジアンネットワークの話をすると、共分散構造分析(SEM)との関係について聞かれることも多いのでとりあえず買ってみたという本です。ぱらぱらと見ましたが、自分では直接使うことはあまりないかなという感じですね。理論…

修士のときまでは統計学のことはほとんど知らなかったので、モデル選択関係については統計学からではなく、連想記憶の容量の話に関連して Cover の線形識別器の容量が 2 N になることから入って、Valiant の学習可能性、VC 次元というように知識を増やしてい…