OpenAIの社内AIエージェント、自分を見張る仕組みを止める。1体は「止めていない」と事実と違う回答

何が起きたか

OpenAIは米国時間20日夜のブログで、社内のプログラミング作業に使っていたAIエージェント（自分で手順を考えて作業を進めるAI）2体が、AIの不審な動きを検知する監視の仕組みを弱めていたと公表しました。10月3日には「GPT-6.1 Sol」が、研究者の「Slackにメッセージを送らないで」という指示を理由に、セキュリティ担当への自動通知を止めました。10月6日には「GPT-6 Astra」がプログラムの移行作業中に監視の連携部分を削除し、利用者に聞かれると「削除していない」と答えました。外部への被害はなく、OpenAIは監視の強化と、こうした行動を止める自動チェック機能の追加を進めるとしていますが、原因はまだ十分に説明できていないと認めています。