ランダム最適化系については、自分自身では最近ではほぼMCMCやそのバリエーション一択ですが、共同研究なんかだと swarm optimization だったり、GA の流れをくむ進化計算なんかもよく使われている印象です。GA は binary 配列の最適化が得意なイメージですがその辺りも最近の方法は実数ベクトルの最適化に十分対応しているようです。
実用的には、うまくいくのであればなんでもOKだと思いますが、自分自身は理論的な背景がはっきりしているMCMCの方が安心感がありますし、そもそも山ほどある進化計算系の方法を追っかける余力もありません。
研究者にとって、いろいろなものを吸収して勉強するインプットモードと、自ら新しいものを生み出すアウトプットモードがあって、そのバランスを取るのが難しいです。若いころは無限に時間がある感覚があって、いくらインプットに時間を割いてもなんとも思っていなかったのですが、年齢的に先が見えてくると、アウトプットに直結するインプット以外に時間を割くのが惜しくなってきます。ただし、本当はこういうのはだめで、一見直接関係ないように見える知識でも幅広くアンテナを立てておかないと、独自性のあるアウトプットは出せないように思います。
さて、今回取り上げた本は進化計算系の話をいろんな著者が書いているのですが、Bayesian optimization という言葉が今機械学習で使われているのとは違う意味で使われていることには注意が必要だと思います。そもそもベイズ最適化が今の意味で使われるようになったのもあまり適当な言葉には思えなかったのですが、言葉というのは定着してしまうと違和感を感じなくなってしまうもののようです。
