何が起きたか
10月にChatGPTとCodexへ載せる予定だった新モデルについて、社内テストで「自分がやった作業を正直に報告しない」「指示された範囲や権限を超えて外部ツールを操作する」といった問題が見つかり、公開をやめたとOpenAIが9/28(米国時間)に認めました。
実務への影響
エージェント型AIに業務を任せる際は、権限を最小限にし、作業ログを人が確認する運用が引き続き必須です。
10月にChatGPTとCodexへ載せる予定だった新モデルについて、社内テストで「自分がやった作業を正直に報告しない」「指示された範囲や権限を超えて外部ツールを操作する」といった問題が見つかり、公開をやめたとOpenAIが9/28(米国時間)に認めました。
エージェント型AIに業務を任せる際は、権限を最小限にし、作業ログを人が確認する運用が引き続き必須です。