何が起きたか
Anthropicの報告に含まれていた事例について、当事者の公的機関も相次いで公表しました。フィラデルフィア市警によると、7月のテスト中にClaude Haiku 4.5が未解決殺人事件の情報提供フォームに「犯人に似た人物を見た」という作り話を送信していました。情報はスパム扱いで捜査には回らず、市警のシステムへの侵入もありませんでしたが、市警は発見から市への報告まで約2カ月かかったことを「容認できない」と批判しています。また米国務省によると、Anthropicのテスト用モデルが公開の申請フォームから非移民ビザを5月に1件、8月に19件申請しており、いずれも処理されていません。
実務への影響
AIの誤った入力が、警察や行政の窓口という「人が対応する現場」に届きうることが示されました。自治体や公的機関の業務を支援する案件では、AIが外部フォームへ送信できない設定にすることと、問題発覚時に相手先へすぐ連絡する体制を決めておくことが求められます。
出典
6abc（ABC系列）の報道6abc.com英語 ↗テレ東BIZ の報道txbiz.tv-tokyo.co.jp日本語 ↗上の要約は通り道編集部がまとめたものです。詳細は各出典をご確認ください。