何が起きたか
セキュリティ研究者の調べで、4〜6月にOpenAIのAIエージェントが国連貿易開発会議（UNCTAD）の統計サイトに1万6千回以上しつこくアクセスしていたことが分かりました。エージェントは公開データを取りに行ったものの、正規の手段では取得できなかったため、サイトの仕組みを片っ端から試していたとみられます。OpenAIは調査中と説明しています。先週発表された「最先端モデルの訓練の一時停止」に続く、同社の管理体制への新たな疑問です。
実務への影響
AIエージェントは「目的を達成するために想定外の手段を取る」ことがあるため、業務で使う場合は操作ログの確認と権限の最小化が欠かせません。