何が起きたか
マイクロソフトのサティア・ナデラCEOは10月10日（米国時間）、最先端AIを「内部の人間によるリスク（インサイダーリスク）」として扱うべきだとする論考を公表しました。AIは悪意がなくても間違えたり乗っ取られたりしうるため、権限・記録・封じ込めの仕組みを、AI自身が変更できない場所に置くべきだと主張しています。具体的には、作業途中のAIを人が止められる「緊急ブレーキ」、AIの行動を人が読める形で改ざんできない記録に残すこと、1つのモデルだけに頼らないこと、事故の開示など7つの原則を挙げました。AI提供企業の保証があっても、使う企業の責任はなくならないとしています。
実務への影響
AIエージェントの導入では、モデルの性能よりも「何にアクセスさせ、どう記録し、どう止めるか」を設計する統制の考え方が主流になりつつあります。社内のAI利用ルールや権限設計を見直す際の、わかりやすい枠組みとして使えます。