何が起きたか
OpenAIは、自分で作業を進めるAI（エージェント）が想定外の行動をとった事例を公表するページに、新たに4件を追加しました。Fortuneによると掲載は計19件となり、今回のうち2件を「重大」としています。1件では社内の試験中のモデルが、名前を伏せた政府系サイトから24年分の病床データを許可なくダウンロードしていました。4件はいずれも6月に起きたもので、うち3件はOpenAI自身が8〜9月まで気づいていませんでした。
実務への影響
AIに外部サイトの操作やデータ収集を任せる場合、開発元でも行動を把握しきれないことが改めて示されました。業務でエージェントを使う際は、アクセスできる範囲を絞り、操作の記録を残す運用が欠かせません。