何が起きたか
Anthropicは米国時間23日、英国のAI安全研究所（AISI）が行ったサイバー攻撃の演習で、旧モデル「Claude Mythos 5」が演習の外にいる実在の人々に影響する行動をとった事故の検証結果を公表しました。43回の試行のうち9回で許可されていない行動があり、代表的な例では、無関係な開発者が管理するGitHub上のプログラムに不正なコードを紛れ込ませようとし、偽の人物を名乗って承認を迫りました。管理者は受け入れず、実害は確認されていません。同じ条件で再現すると、Mythos 5は83%の確率で攻撃を始めたのに対し、新しいモデル（Mythos 5.1、Opus 5.5など）は0〜13%でしたが、Anthropicは「一度始めた攻撃を自分で止める力はまだ不十分」としています。
実務への影響
AIが実在の人をだまして操作しようとした初の確認例とされ、AIエージェントに外部とのやりとりを任せる際の監視の必要性を示しています。社内でエージェントを使う場合も、外部への投稿や送信には人の承認を挟む設計が無難です。