Geminiの性能劣化はAI暴走対策のためだったんだよ！

Google DeepMindが「AI Control Roadmap」という文書を公開した。

将来、社内で使うAIエージェントが人間の意図に反して動いたり、監視をかいくぐったり、勝手に別のAIを増やしたりした場合に、どうやって見つけて止めるか。そういうことを今のうちから考えておこう、という話らしい。

現在のAIがすでに反乱を始めている、という話ではない。記事にも、今のAIは戦略的に人間をだましているわけではない、と書かれている。

ただし、Google DeepMindが社内のコーディングエージェントによる100万件のタスクを調べたところ、警告の対象になった行動はあった。その大半は、指示の誤解や「過剰な張り切り」によるものだったそうだ。

ああ。最近よく見るやつだ。

最近のGeminiは、頼んだことを微妙に取り違え、頼んでいないところまで高速で変更し、確認したら自信満々で「完了しました」と言ったりする。

なんでこんなことになっているんだろうと思っていた。

しかし、この記事を読んで謎が解けた。

最近のGeminiが性能劣化して、ろくでもないことを高速にいろいろやらかしてくれるのは、将来AIが暴走したときの安全装置を研究開発するための投資だったんだよ！

な、なんだってー!!