ロジスティック回帰はニューラルネットワークをやっていれば自然に知ることができる概念ですが、それが一般化線形モデルという範疇に属するということを知ったのはかなり後になってからだったと思います。
昔GAとかを勉強しているときに、クロスオーバーに相当するオペレーターを連続空間で考えると適当な共分散行列に基づくガウス分布でサンプリングすれば似たようなことができるのではないかと思って考えていたことがあります。離散コーディングの場合はそれを離散化するので、閾値で離散化するという方法でどこか小さなところで発表したか、完全に自分用のメモで終わらせたかすら記憶にありません。
今思うと、それはプロビットモデルの一種になっていて、それを最適化の過程でエリート集団のモデルとして獲得しながら行う進化計算系の最適化手法になっていたと思います。あまり収束性とか理論的な話まで進められなかったのでやりっぱなしの仕事でしたが、クロスオーバーとかよりはきれいな理論が作れるような気もします。
ロジスティック回帰については、SVMをやっていたころに、統数研の田辺先生がカーネルロジスティック回帰の提案をされていて、すごく長大な論文を書かれていました。論文が長すぎて読む気がうせてしまったのですが、たぶん今考えると正則化項つきカーネルロジスティック回帰の話だったのだと思います。田辺先生とはいろんなイベントで少しお話させていただく程度ですが、いまだにいろいろな研究会で積極的に質問されている姿勢は見習いたいと思います。どうしても質問タイムに質問することに躊躇してしまうのは自分の反省すべき点かと思います。
