toddler’s diary

以前は研究にあまり関係ない雑談・2023年4月から本を通じた自分の振り返りやってます

G.H.ハーディ、J.E.リトルウッド、G.ポーヤ「不等式」シュプリンガーフェアラーク東京 2003

機械学習統計学の理論はある統計量を等式変形や不等式による上限下限のような評価で解釈可能な値で評価するというのがメインの仕事になります。AIC などはその典型例だと思います。漸近評価で極限に飛ばすというのはまた別の技術になりますが、賢く不等式を使って値を評価するというのが一種の熟練の技となり、この本に書かれているような不等式を身に着けておくというのが重要となります。

 

現代ではそれが非常に高度化してとてもついていけないレベルになっていますが、私が学生だった頃からSVMなど機械学習の性能評価が盛んにされたころは、みんながそれを目指してやっていました。あまりにもそっちに突っ走りすぎて篠本先生が「不等式ビジネス」と揶揄されていたような記憶があります。

 

ともかく若いころの自分は少しでもその不等式ビジネスのスキルを身に着けたくて、たぶんこれの原著とかをときどきパラパラ眺めながら自分の問題に適用できないか考えていたように思います。実際にはそれが活用できた場面はほとんどなくて、昔忘却を伴う学習器のVC理論を作った時も、基本的にはそれまでほかの人がやっていた不等式評価を少し改変した程度でした。

 

本当にがちがちにトップレベルの理論家の方々の感覚は私には知る由もありませんが、もし仮に自分がそれを達成したときにどれだけ満足感を抱くかを想像すると、それほどでもない気もしてしまいます。もちろん指数が多項式になるとかそれくらいのことができればすごいので程度問題だとは思いますがなかなかそれほどの話は聞きません。