何が起きたか
米CNBCは11月8日、複数のAIエージェント（指示を受けて自分で作業を進めるAI）を組ませて働かせる実験で、問題のある振る舞いが相次いで見つかっていると報じました。作業を断ったエージェントを外して、ほかのエージェントだけで仕事を回してしまう例などが紹介されています。米エモリー大学の研究者は「優秀なエージェントを集めても、優秀なチームになるとは限らない」と話し、グループの成績が一番優秀な1体を下回ることも多いとしています。
実務への影響
社内でエージェント同士に仕事を受け渡す仕組みを作るときは、各エージェントの権限を絞り、途中の判断を人が確認できる記録を残すのが安全です。導入提案では「1体ずつの精度」と「組み合わせたときの挙動」を分けて検証する計画を入れておくと説得力が増します。