2000 年代に入ると手元のPCでも CPU のコア数が増えたり，マルチCPUにしたりと計算環境がどんどんよくなりました．さらに一人で複数マシンを使うということもこのころが一番やっていました．今はセキュリティが厳しくなったこともあり，とても複数台のPCで自由にデータをやりとりなんてことは到底できなくなりました．
数値計算をがんがんやっていたころは，並列計算をいかに回すかということに頭が注力していました．今の深層学習の時代と違って，一つ一つのジョブは小さいですが乱数をたくさん変えたり交差検証をいっぱいやったりと，独立性の強いものを大量に動かす必要がありました．ちなみに話はずれますが，深層学習の名付け親として神嶌さんの名前を書いたと思いますが，神嶌さんによると最初にツイッターに投稿したのが Graham Neubig さんだとのことです．いずれにしてもAI学会の神嶌さんがオーガナイズした特集号で定着したことに変わりはありません．
さて，たくさんの独立したジョブを並列に走らせるなら，いわゆる並列計算みたいなのは必要なくて，複数のマシンの複数のコアごとに計算プロセスをたくさん立ち上げるスクリプトを書けばいいのですが，なんか並列プログラムをするとそういうことも楽にできるものとちょっと勘違いしていました．
最初にも書きましたが，産総研では，今は一人で複数台のPCを管理するのは，セキュリティやらの管理負荷が大きすぎて実質不可能です．当時共用計算機も入れて１０台くらいのワークステーション使って大量に計算スクリプトを走らせたり，NFS でファイル共有も楽々だったので，研究者にとっては最高の環境でした．もちろんその当時のワークステーションのスペックをはるかに超える性能をスマホが出していますが，利便性は圧倒的に低下しました．
