Google DeepMindら5者、マルチエージェントAI安全性研究に最大1000万ドルを拠出

Google DeepMindは2026年6月11日、複数のAIエージェントが相互作用する際の安全性研究に対し、世界中の研究者向けに最大1000万ドルの資金を提供すると発表した¹。Schmidt Sciences、Cooperative AI Foundation、英国のAdvanced Research and Invention Agency（ARIA）、Google.orgとの共同プログラムで、応募締切は2026年8月8日、採択者の発表は2026年秋を予定している¹。

単体のAIモデルの安全性ではなく、「エージェント同士の相互作用」に焦点を絞った研究資金は珍しい。DeepMindのAGI安全性・アラインメント担当責任者であるRohin Shah氏はMIT Technology Reviewの取材に対し、「主な問題は、マルチエージェント安全性という研究分野がまだ実質的に存在しないことだ」と語っており²、資金提供を通じて研究分野そのものを立ち上げる狙いがうかがえる。

なぜ「エージェント同士の相互作用」が問題になるのか

DeepMindが想定するのは、異なる組織によって構築された数百万のAIエージェントが、デジタル環境全体で相互作用し、通信・交渉・取引を行う時代だ¹。発表では「相互作用する自律エージェントは、予測が難しい複雑な『創発的』挙動を生み出しうる」とし、「マルチエージェント相互作用の複雑さは、既存の安全性モデルを上回りつつある」と指摘している¹。

個々のエージェントが単体では安全に動作していても、多数のエージェントが組み合わさったときに新しい集団的挙動や能力が突然出現する可能性がある。DeepMindによると、現状ではこうした遷移を予測・測定・監視するためのツールが不足している¹。

Shah氏はエージェントの配備が「まったく新しい種類のリスク」をもたらすとし、今後数ヶ月のうちにエージェントが経済全体に展開されていくとの見方を示している²。

4つの優先研究分野

プログラムが対象とする研究分野は4つに整理されている¹。

第1は「サンドボックスとテストベッド」だ。仮想マーケットプレイスや組織間ワークフローなどを含む、現実的で再現可能な評価環境を構築し、マルチエージェント研究の評価・比較・進捗の加速を可能にする¹。

第2は「エージェントネットワークの科学」で、相互作用するエージェント群が持つ、安全性に関わる特性の理解を目指す。集団的な能力や失敗がどのようなメカニズムで出現するかの研究が含まれる¹。

第3は「エージェントインフラの強化」だ。エージェントのアイデンティティ・評判・コミットメントに関するプロトコルをストレステストし、プラットフォームをまたぐ相互作用の安全性を確保する¹。

第4は「監視と制御」で、実際に配備されたエージェント集団を監視し、大規模な集団的害を軽減する手法を開発する¹。

エージェント大量配備の流れと表裏一体

今回の発表は、業界全体がエージェントの大量配備へ動く中でのものだ。Google DeepMind自身、2026年5月のGoogle I/Oでエージェントベースのツールを中心的に発表していた²。開発ツール業界でも、長時間動作するエージェントを前提とした製品転換や買収が相次いでおり、複数のエージェントが同じ環境で並行して働く構成は珍しいものではなくなりつつある。

エージェントを売る側の企業が、その相互作用のリスク研究に資金を出す構図は、安全性研究が配備のスピードに追いついていないという認識の表れと考えられる。Schmidt Sciencesで信頼できるAIプログラムを担当するJames Fox氏も、MIT Technology Reviewの取材に応じ研究の必要性を語っている²。

研究資金への応募はSchmidt Sciencesのポータルで受け付けており、締切は2026年8月8日となっている¹。プログラムの詳細と応募要件はDeepMindの発表¹および応募ページで確認できる。