AI開発を停められる?

イーロン・マスク氏などが、チャットGPTの最新システム「GPT-4」より高度なAIについての訓練を、少なくとも6か月間、停止するよう求める署名活動に賛同しているそうです(「訓練」というのはAIにネット情報を読ませて学習させることを指していると思います)。

「人々の情報網をプロパガンダや嘘であふれさせてよいのか。」とあって笑っちゃいました。あんた(イーロン・マスク)のTwitter社はどうなの?大幅に人員削減して、プロパガンダや嘘を広まりやすくしたのは誰なのよ?

アップルが台頭する以前のマイクロソフト一人勝ちのような状態になるのを恐れてではないかとも思います。

実は今朝、AIエンジニアの知人とこの問題についてチャットしてました。AIエンジニアは「使えない人が不幸になり、社会が分断化する。悪用対策も追いついていない。技術の進歩で兵器開発が進むのと同様な状態。」と弊害を示した上で、「一度立ち止まるべきと感じている人は多いと思うが、取り決めても無視する人はいるから、規制は無理だろう。」との見解でした。
兵器開発を考えれば、「人」ではなく「国」レベルも考えるべきです。もしアメリカでAI開発がストップしたら、得するのはどこでしょう?

人類は核兵器さえ禁止できていません。AI開発をストップできる知恵があるなら、同じ知恵で核兵器禁止も可能になるでしょう。つまりそれくらいAI開発を停めることはできないと思います。個人でできることは、技術の進歩に取り残されないよう努力を惜しまないことでしょう。