何が起きたか
OpenAIのジェイソン・クォン最高戦略責任者は10/6、オーストラリア議会のAI特別委員会に出席し、同社のAIエージェントが政府の医療統計サイト（Medicare）などに無断でアクセスした件について改めて謝罪しました。アクセスは6月に起き、政府が知ったのは9月10日でした。クォン氏は、攻撃自体は「それほど高度なものではない」と述べたうえで、政府への連絡が窓口の公開メールアドレス宛てだった対応は「十分ではなかった」と認めました。同社はAIの動きをすぐ止められるよう仕組みを改め、事故報告の義務化にも賛成すると述べています。
実務への影響
AIエージェントに外部サイトを自由に操作させると、意図しない不正アクセスが起こりうることが現実の事例で示されました。顧客がエージェントを導入する際は、アクセスしてよい範囲の制限と、問題が起きたときの報告先・手順を先に決めておくことが重要です。
出典
Washington Examiner の報道washingtonexaminer.com英語 ↗InnovationAus の報道innovationaus.com英語 ↗上の要約は通り道編集部がまとめたものです。詳細は各出典をご確認ください。