toddler’s diary

以前は研究にあまり関係ない雑談・2023年4月から本を通じた自分の振り返りやってます

A.J.C.Sharkey (ed) "Combining Artificial Neural Nets Ensemble and Modular Multi-net Systems", Springer 1999

ニューラルネットなどの学習器を組み合わせるという話は、最初に Jacobs & Jordan のmixture of experts が出てきて、その後アンサンブル学習なんかが出てきました。その辺の話を流行っていた当時にまとめたのがこの本で、Breiman とか Jacobs とか有名人が書いていますが、特にアンサンブル学習はこの後の進展が大きすぎて、さすがに内容は古いです。その上ニューラルネットに関してはディープで蓄積されたアーキテクチャエンジニアリングの数々の話はほとんどこの頃には出てきていません。

 

とはいえ、それは実用上の話で、理論研究をする対象としては大昔のモデルであろうと、シンプルであれば十分興味の対象となりますし、現実問題もクラシックでシンプルなモデルがはまるということは往々にしてあります。

 

自分自身最近の研究動向とか追いかけても追いかけてもついていけない感覚はありますが、昔取った杵柄が少数データとか個別の課題には結構はまることがあって、なんとか自分の存在意義を見出しているという状況です。ただ、企業共同研究なんかだと、どうしてもこちら側の立場が上っていう感じになりやすいので、自分が本当に役に立っているかどうかちょっと疑ってしまうように感じることもあります。忖度という概念がちまたで取り上げられていますが、研究の現場では忖度なんかするのもされるのもまっぴらごめんという気持ちです。