AI開発の減速が提案されているが、開発競争は止まらない

先日、オープンＡＩやアンソロピックでＡＩ開発をしていた元職員が、ＡＩ自身がＡＩを開発していく方向に進めば進むほどＡＩが人の指示を超えて暴走する（自己判断する）可能性が高まり、その結果として「ＡＩが人類を絶滅させる可能性がある」と警告をしていました。

元職員の発言が話題になると、ＡＩ企業のトップたちも同様の見解を示すようになり、アンソロピックのCEOであるアモディ氏は「６～１２カ月後にはＡＩがインターネット全体を乗っ取る能力を獲得するのではないかと懸念している。私たちはＡＩモデルの能力向上のペースを遅らせなければならないのではないだろうか」と発言していました。

この発言に対してオープンAIのCEOであるサム・アルトマンやスペースXのCEOであるイーロン・マスク氏も、アモディ氏の主張に賛同する声明を発表していました。

これらの話題によって、ＡＩブームが衰えてしまうのではないか（需要の拡大がしぼんでしまうのではないか）という懸念が株式市場に走り、ＡＩ関連銘柄が下がってしまう事態になっていました。

ただ、これは過剰な反応だと思っています。今回の騒動によってＡＩ需要が落ちるようなことはないと思っています。

問題となっているのは、最新のAI技術です。そこに安全性を確保する・規制を掛ける・制限をするという事であり、ＡＩ開発全体に規制を掛けるという趣向ではないです。やみくもに無計画・無秩序に開発を行うという事ではないという感じです。

そもそもＡＩ開発競争止めることは不可能です。なぜならば、それは国家間の覇権争いに直結するからです。現在のＡＩは単なる便利な存在ではないです。対話を楽しむチャットGPTから、自立して判断していくエージェントＡＩへと移行しています。軍事力にも直結しており、ＡＩで作戦の立案・行動・指示などが行われるようになってきています。

「通貨を握った国が覇権を取る」、「インターネットを牛耳った国（企業）が覇権を取る」、といった感じのように、今後は「ＡＩを支配した国が覇権を取る」という世界になっていきます。

軍事、経済などあらゆる分野において、ＡＩが導入されていき不可欠な存在となっていくからこそ、ＡＩで出遅れた国家は致命的です。特に、最先端のＡＩ技術を持っている国が今後も覇権を取り続ける事になります。

そんな中で、中国に出し抜かれることだけは避けなければいけない米国が、簡単に開発競争から降りることは難しいです。米国（先進国）だけで開発規制を行って開発スピードを減速しても、中国が従う可能性は低いでしょう。そして、中国だけがドンドンと先に進んでしまって、最先端のＡＩ技術を中国が持つようになると、米国の覇権に大きな危機が迫ります。

逆に言えば、強力なＡＩ機能を安全な状態でコントロールできるようになることが一番強い国家を生み出す要因にもなります。だからこそ、ＡＩ開発スピードが衰えていくのではなく、「誰が、最も強力なＡＩを事故を起こさずに軍事・経済システムへ組み込めるか」という競争へ移っていくのだと思います。

人は、便利な道具を手放すことなどできません。ＡＩという非常に便利な道具（知能）を手に入れた人類は、それを必ず有効活用しようとします。そして、その勢いは止めることはできないと思います。ＡＩ開発は今後も減速することなく続いていくと思います。