toddler’s diary

以前は研究にあまり関係ない雑談・2023年4月から本を通じた自分の振り返りやってます

甘利俊一「脳・心・人工知能」(ブルーバックス) 講談社 2016

賞の話を書いた後でノーベル物理学賞が Hopfield と Hinton に贈られるというニュースが飛び込んできました.Hinton はともかくなんで Hopfield にという疑問は当然沸いていて,それなら甘利先生じゃないのという話は内外問わず議論にはなっているようです.…

赤池弘次ほか「赤池情報量規準AIC」共立出版 2007

この本は赤池先生の京都賞受賞を記念して出版された本で,室田先生・土谷先生が編著をされています.そのほか著者は甘利先生や北川先生,樺島さん,下平さんなど面識のある方々ばかりですが,肝心の赤池先生だけは統計サボっていた自分には面識がありません…

神保雅一(編)「データサンプリング」共立出版 2002

統数研に籍をおくようになってから、これまで交流のなかった統計学の先生方と知り合う機会も増えました。とはいえ、統計と機械学習の間の壁を感じることも多いです。この本は、そのような先生のうちの一人である神保先生が編集されて、著者のおひとりには三…

R. Baddeley, P. Hancock, P. Foldiak (eds) "Information Theory and the Brain" Cambridge Univ Press 2000

脳の働きを情報理論の立場から研究するというのが 1990 年代までは結構流行っていました。この本の Preface を読むと、小さいワークショップを開いてそれが本になったというような経緯のようです。著者のほとんどの人は知りませんが、ICA のときに西森さんと…

塚原仲晃「脳の可塑性と記憶」紀伊国屋書店 1987

この本が出たころはまだ学部の4年生で、修士で甘利研に進むことは決まっていたものの予備知識はほとんどありませんでした。そんな状況でも塚原先生が日航機123便の事故で亡くなられたという事実は大きなニュースとして伝わっていました。とはいえ、脳科…

G.J.McLachlan, K.E.Basford "Mixture models, inference and applications to clustering" Dekker 1988

自分にとっての確率密度の推定は、カーネル密度推定から入って混合分布のEMとかそういう流れで研究しました。カーネル密度推定は主に密度の二乗距離で理論展開し、混合分布は尤度(ダイバージェンス)というように同じような対象でも評価基準は結構違います…

清水泰隆「保険数理と統計的方法」共立出版 2018

公務員試験を数学職で受けると就職先としては厚生省の保険局というのがありましたが、もともと電総研に入るために受けたのでそちらの選択肢はありませんでした。 産総研になって保険会社との共同研究をやったりしましたが、医療系の共同研究はいろいろな面で…

M. Patriksson "Nonlinear programming and variational inequality problems, a unified approach" Kluwer 1999

この本をなんで買ったかすでに覚えていませんが、機械学習で変分ベイズとか出てきますし、大津さんの非線形多変量解析でも変分とか出てくるので、たぶんその関連性で買ったのかと思います。ちゃんと読んでませんが、問題自体が変分不等式問題というもので、…

D. Edmonds "Oxford Reverse Dictionary" Oxford Univ Press 1999

学校で習う英語は基本的には米語だと思いますが,ここでも何度も取り上げた中学のときに通っていた掘っ立て小屋の山北塾の山北先生は Oxford English Dictionary というのがあってそれは非常に分厚くてなんとかみたいなことを話していた記憶があります. Con…

H. Strasser "Mathematical Theory of Statistics" Walter de Gruyter 1985

この本は電総研に入って間もないころおそらく見計らい本にあって買ってしまったもので,当時の私には明らかにレベルが高すぎる本でずっと本棚の肥やしになっていましたが,改めて見てみると数十年経って少しわかるようになっているだけでなく,中身も結構面…

S.E.Umbaugh "Computer Vision and Image Processing, a practical approach using CVIPtools" Prentice Hall 1998

機械学習のメインターゲットは,今は画像と自然言語だと思いますが,自然言語の方は自分で手を動かせる気がしないので必然的に画像ということになりますが,それはそれで実用化されている部分が多すぎて自分ではやる気がしないです.なので自分メインの研究…

D. A. Roberts, S. Yaida "The principles of deep learning theory" Cambridge 2022

ここのところ集中講義とか原稿の締め切りとかが重なってこちらの更新をする余裕がありませんでした.基本的には一つのことにしか集中できないタイプなので,締め切りのある仕事が複数重なると二兎追うものは一兎をも得ずのような状態になってしまいます.も…

Lucien Le Cam ”Asymptotic methods in statistical decision theory" Springer 1986

電総研に入所した当時におそらく見計らいで買った本ですが,その分厚さを前にいまだに跳ね返されている本です.決定理論については修士の時に1年上の駒木さんが修論テーマで Wald の決定理論の研究をされていて研究室輪講とかでいまいちわからないながらも聞…

V. Chvatal "Linear programming" W H Freeman & Co 1983

線形計画法の教科書でまだ内点法の波が訪れていないときに書かれたもので,逆に論理がシンプルでわかりやすい本だと思います.といってもちゃんと読んだわけではないです.この本を買ったのは,情報幾何的次元圧縮の話を混合分布に拡張しようとしたときに,…

J. Kleinberg, E. Tardos 「アルゴリズムデザイン」共立出版 2008

ほぼ A4 サイズのハードカバーのこの本は,買ってはみたもののほとんど開くことはありませんでした.手元のはかりで測ってみると2キロ近い重さがありました.よい本だとは思いますが,このような本こそ電子書籍化して,この本よりはるかに軽いタブレットや …

金明哲,村上征勝,永田昌明,大津起夫,山西健司「言語と心理の統計」岩波書店 2003

統計科学のフロンティアシリーズの中の言語の統計の本です.最初の著者推定とかの話は今読んでもなかなか面白いのですが,機械翻訳の確率モデルの話は言語の話としては隔世の感があります.山西さんはテキストマイニングで相変わらず我が道行っています(NEC…

野水克己「現代微分幾何入門」裳華房 1981

出張が続いていたこともありますが、気づくとあっという間に半月も更新していないという状態です。別称「遺言ブログ」とも言われているこのブログも、何度か書いているようにもうだいたい書きたいことは書き尽くして、本の整理の目途もある程度経ったのでも…

市川伸一,伊東裕司,渡邊正孝,酒井邦嘉,安西祐一郎「記憶と学習」岩波書店 1994

中島さんや橋田さんがまだ電総研・産総研にいたころは認知科学というのは多少身近にありました.同じような問題を扱っていてもアプローチが全く違うのでなかなか一緒に研究するということはありませんでした. その後どうなっているのだろうと思って認知科学…

山崎弘郎「電子回路技術」東京大学出版会 1977

山崎先生の回路の講義はさぼってあまり出なかったこともあり,試験も受けたかどうか怪しい感じですが教科書はいまだに残っています. 今日は自由研究の話を書こうと思います.自由研究は小学校高学年と中学生の時に夏休みの宿題としてやって夏休み明けに展示…

J. Hale, H. Kocak "Dynamics and Bifurcations" Springer 1991

他人から見て私の最も代表的な仕事であるカーネル正準相関分析は結局ちゃんとした論文になっていませんが,学位論文のメインである混合分布モデルの分岐の話もオランダに行っているときに骨格はだいたいできていたものの,それが論文になるまでにかなりの時…

小西貞則,越智義道,大森裕浩「計算統計学の方法 ーブートストラップ・EMアルゴリズム・MCMC」朝倉書店 2008

機械学習の研究は深層学習は別として計算統計と被る部分は多いと思います.それで情報数理のときも一時期 computational statistics を購読していました.雑誌としては annals of statistics とか jasa とか royal statistical society B とかメジャーな統計…

G. シェイファー, V. ウォフク「ゲームとしての確率とファイナンス」岩波書店 2001

一時期話題になっていたゲーム理論的な確率論の話が知りたくてこの本を買って読んでみましたが,最初の方の歴史とかの話ですでに挫折気味になり,最初の方のなんかよくわからない話で完全に挫折しました.たぶんこの本はメインが文系の方向けの本なのだと思…

H.C.Tuckwell "Introduction to Theoretical Neurobiology" Vol I & II, Cambridge university press 1988

以前書いた神経情報科学サマースクールで神経スパイクのモデル化なんかを勉強したので買った本ですが,結局のところあまり読んでいません.神経活動のモデル化と知的な機能とのギャップが大きすぎてちょっと自分の興味がそこまで届かないということかと思い…

S.W.Ellacott, J.C.Mason, I.J.Anderson "Mathematics of Neural Networks" Kluwer 1997

この本は MANNA (Int. Conf. Mathematics of Neural Networks and Applications) という 1995 年の会議をベースに作られたもので,甘利先生とかも招待講演で入っています.Patrick Parks という人の逝去を記念もしているようですが,こちらは全くどんな研究…

A.G.Butkovskiy, L.M.Pustyl'nikov "Characteristics of Distributed-Parameter Systems" Kluwer 1993

本を通じて振り返るシリーズも1周年後は,前ほど毎日更新しようという意欲がなくなったので,結構空白日が空いていますが,間が空きすぎると今度は全く更新しなくなるのではという心配もあります. さて,タイトルから中身を想像するのが難しい本というのが…

J.O. Ramsay, B.W. Silverman "Functional Data Analysis" Springer 1997

関数データ解析という分野があって,たぶんその基本的な本がこの本なのだと思います.SVM が出てくるまでは関数の世界というのはよく知らない世界でした.大学の時の関数解析とかバナッハ空間とかヒルベルト空間とかなんだか脅しの効いた言葉が出てきてはじ…

矢島美寛,田中潮「時空間統計解析」共立出版 2019

残っている本は,買ったものの全く開いていない本か,知り合い過ぎてどうコメントを書くか悩む本か,いずれにしてもコメントに困る本ばかりです.時系列や確率過程は機械学習の弱点で,私も知らないことが多いので結構たくさん持っているのですが,実際の問…

J. Jacod, A.N. Shiryaev "Limit Theorems for Stochastic Processes" Springer 1987

この本は電総研に入って2年目くらいに買った本で見計らいで来ていたものだと思います.さすがに当時の私にはハードルが高過ぎましたし,情報数理でもこの本を輪読するほど理論に興味を持っている人はあまりいませんでした.同期で入った新田さんはマルチン…

N.N. Cencov "Statistical Decision Rules and Optimal Inference" AMS 1982

甘利研に入って初めて情報幾何というものがあることを知ったわけですが,勉強合宿とかで黒瀬さんとか中村佳正先生の難しい話を聞いている限りはほとんど理解できませんでした.甘利先生と議論されているやりとりを見ている状態は,まさに空中戦を地上から見…

林俊克「Excel で学ぶテキストマイニング入門」オーム社 2002

この本は私の書棚にある Excel に関する唯一の本かもしれません.研究で Excel を使ったことは一度もありませんが,地質関係の方々だと,Excel で分析というような話はしょっちゅう聞きますし,ガチの Excel 使いの方に下手なことを言うとまずいという話もあ…