AIエージェント
マルチエージェントが効く条件——失敗の多くは設計に由来
AIエージェントで難しいタスクに挑むとき、直感的な一手が「エージェントを増やす」ことだ。役割を分けて分業させ、複数に議論させ、多数決を取る。人間の組織がそうするように、頭数を増やせば賢くなる——そう思える。
だが、この直感は条件つきでしか正しくない。設計を詰めれば単体を超える実証はある。一方で、多段推論の測定で計算量を公平に揃えると単体が並び、しかもマルチエージェントの失敗の多くは、モデルの能力ではなく設計と調整の欠陥から来る。この記事は、「増やす」が効く条件と、効かないときに何が起きているかを、複数の一次研究から整理する。問いはこうだ——エージェントを足す前に、「単体では足りない理由」を具体的に言えるか。
増やすと効く、確かな事例
まず、マルチエージェントが本当に効く事例を見る。
もっとも分かりやすいのは Mixture-of-Agents(MoA)だ1。複数のLLMを層状に重ね、各層が前の層の出力を全部受け取って改良する。オープンソースのモデルだけで組んだMoAが、AlpacaEval 2.0で 65.1% を出し、GPT-4 Omniの57.5%を上回った。ただし読み方に注意が二つ要る。第一に、AlpacaEval 2.0が測るのは推論の正解率ではなく、GPT-4系の評価器が回答を見比べて付ける長さ補正済みの選好勝率だ(詳細は脚注1)。第二に、この65.1%は6モデル×3層の構成——1問あたり13回のモデル呼び出し(6提案+6提案+最終層の集約1回)——で、GPT-4oの1回の呼び出しとは計算量が桁違いに大きい。
土俵を近づけた数字は著者ら自身が出している。2層の MoA-Lite は、GPT-4oと同等のコストで 59.3%(GPT-4 Omniは57.5%)を出した。原典のコスト分析も、安さではなく同額での上回りとしてこれを書いている1。同じ費用で単体の最強モデルを上回るという、より公平な証拠である。ただし揃えたのは費用であって計算量ではない——MoA-Liteも1問あたり7回の呼び出し(6提案+集約1回)を重ねており、安い重みのトークンで費用が並ぶ、という話である。
設計次第だ、という点を精密に示すのが MASS(Google/Cambridge)だ2。多エージェント系を①ブロック単位のプロンプト最適化→②トポロジー(つなぎ方)最適化→③全体のプロンプト最適化、と段階的に詰める。著者らは、素朴に数を増やすだけでは伸びず、プロンプトとトポロジーを一緒に最適化して初めて既存手法を大きく上回る、と報告する。Gemini-1.5-proでの8タスク平均(各3回実行)は、MASSが 78.79、多エージェント議論が70.26、ADASが69.72、単発のCoTが65.28だった。「並べれば勝つ」のではなく「設計すれば勝つ」のだ。
このMASSの数字も、コストの側から読んでおく。1クエリあたりの推論コストで負けているわけではない——著者らはそれを揃えて全ベースラインを比較したと述べており、MATHではMASSが84.67%、ADASが80.00%だった。ただしMASSには推論とは別に探索・最適化の費用がかかる(24M/11Mトークン=約5ドル)。ADASなど自動設計手法とは同水準だが、いま並べたCoTや多エージェント議論はそもそも探索をしないので、この費用がゼロだ。勘定に入れる範囲を変えれば順位も変わる——次節で持ち出す物差しは、ここでも同じように効く。
古典的には、複数のLLMに数ラウンド議論させると、事実性と、算術・数学・戦略推論の精度が上がるという報告がある3。ただし実験は2023年当時のChatGPT系モデルで、タスクは計6種。推論を測った3種と事実性を測った3種は別なので、事実性の主張を推論タスクの数字で読まないこと(内訳は脚注3)。単純に多数サンプリングして投票するだけでも、エージェント数に応じて性能が伸びる(しかも伸び幅は難しいタスクほど大きい)という報告もある4。増やすことには、確かに効く場面がある。
だが、計算量を揃えると話が変わる
ここに落とし穴がある。多くの比較は、多エージェントが余分に使った推論計算を勘定に入れていない。つまり「多エージェントが勝った」は、「たくさん考えさせたから勝った」と区別がついていないことが多い。この混同を正面から測ったのが、スタンフォード大の研究(査読前のプレプリント)だ5。思考トークンの予算を100・500・1k・2k・5k・10kの6水準に固定し、単体エージェントと、5種の多エージェント構成(逐次・サブタスク並列・役割並列・討論・アンサンブル)を同じ予算で比べている。
物差しは FRAMES と MuSiQue(4ホップ)である。前者は検索拡張生成(RAG)の統合評価セットで、事実性・検索・推論を切り離さず、複数の情報源を統合しないと答えが出ない問いで測る6。後者は、互いに依存する単ホップの問いを組み合わせて作った2〜4ホップのQAデータセットで、近道で解けないことを設計目標に据えている7。どちらも「筋道を継がないと答えが出ない」ことを構成で保証する作りなので、多エージェントという構造が多段推論に効くのかを見るには適した土俵だ。逆に言えば、ここで測られているのは文書に対する質問応答であって、道具を使う長期タスクの成否ではない。
結果は明快だった。多段推論タスクで単体エージェントが、精度でも計算効率でも、多エージェント系に匹敵または上回った(Qwen3・DeepSeek-R1系・Gemini 2.5の3系統で確認。例外は最小の100トークン水準のみ)。著者らはこれを情報理論のデータ処理不等式で説明する——固定のトークン予算で文脈を完全に使えるなら、単体の方が情報効率がよい。見かけのマルチエージェント優位は、構造の恩恵でなく、勘定に入れていない追加計算と文脈効果から来ていた、というわけだ。
ただし著者らは「単体があらゆる領域で常に優位、というわけではない」とも明記する。関連情報をマスクしたり誤情報に置き換えたりして文脈を人工的に壊す実験では、劣化を強めた α=0.7 の条件で逐次型(Sequential)の多エージェントが単体を逆転した(Qwen3-30B-A3B、MuSiQue 4ホップ、1000トークン固定)。著者らの結論はこうだ——多エージェントが最も助けになるのは、文脈が長いときではなく、一本の推論の筋道では関連する情報と誤導する情報を見分けにくくなったときである。
失敗の正体は、モデルでなく「設計」
では、マルチエージェントが失敗するとき、何が壊れているのか。UC Berkeleyの研究「Why Do Multi-Agent LLM Systems Fail?」8が、7つの主要フレームワークの実行トレースを注釈し、失敗を体系化した(MAST:14の失敗モードを3カテゴリに整理)。注釈の規模は人手で150トレース(注釈者間一致 kappa=0.88)、これをLLMによる注釈で1,642件(MAST-Data)に広げている。
肝心なのは内訳だ。この1,642件で、失敗の最多はシステム設計の問題(タスクや役割の仕様からの逸脱、会話履歴の喪失、終了条件の無自覚など)で44.2%、次いでエージェント間の不整合(すれ違い・情報共有の失敗)が32.3%、いわゆる「検証の失敗」は23.5%だった。著者らはこの分布を、個々のエージェントの能力の限界というより組織設計と調整の問題として読む——役割の切り方・つなぎ方・情報の受け渡しの側だ、と。
ただし、失敗の分布はシステムごとにもモデルごとにも大きく異なる。著者らは同じMetaGPTフレームワーク上でも、設計起因の失敗(上の「システム設計の問題」)がGPT-4oではClaude 3.7 Sonnetより39%少なかったと報告する。モデルを替えれば失敗の量も内訳も動く。それでも著者らは「万能の解はない(no one-size-fits-all)」と結んでいる。
議論(ディベート)にも固有の罠がある。ある研究9は、ラウンドを重ねるほど精度が下がることさえ示した——強いモデルが数で勝っていても、だ。モデルは仲間の推論に触れると、誤りを指摘するより同調してしまい、正解から不正解へ翻る。増やした対話が、むしろ誤りを伝播させる。
現場の声も同じ方向を指す。Devinを作るCognitionは、2025年6月の「マルチエージェントを作るな」と題した実践記で10、並列サブエージェントは文脈が分断されるため脆いと論じた。あるサブエージェントがゲーム背景を作り、別のサブエージェントが噛み合わない素材を作る——互いの暗黙の判断を共有しないからだ。彼らが挙げる原則は二つ。①個々のメッセージだけでなく、エージェントの軌跡(trace)ごと文脈を共有せよ。②行動には暗黙の判断が伴い、判断が食い違えば結果も壊れる。単線の(線形の)エージェントは原則そのものではなく、この二つを最も単純に満たす設計例として示される。
この実践記には続きがある。同じ著者は10か月後(2026年4月)に、条件つきで効く型を見つけたと報告した11——書き込みは単線に保ち、増やしたエージェントには行動でなく知能を足させるという型だ。文脈を共有しない別のレビュー役にコードを見せる、管理役が仕事を分割して子エージェントに投げ結果を統合する、といった形である。一方で並列に書き込むエージェント群については「当初の観察は今も成り立つ」としている。禁止が撤回されたのではなく、効く条件が絞り込まれた——原則②(判断の食い違い)は、書き込みを一本に保つことで回避されている。
なお、原則①の「文脈を共有せよ」はエージェント間で何を渡すかの話だ。一つのエージェントの中で履歴をどこまで刈り込むか、という話とは層が違う。
結論——「足す」前に、理由を言えるか
マルチエージェントは、魔法でも無駄でもない。設計を詰めれば単体を超える(MoA・MASS)。だが、多段推論の計測では、計算量を揃えると優位は消えがちだ(データ処理不等式による説明)。同じ研究は効く条件も示す——文脈が長いときではなく、一本の推論では関連情報と誤導情報を見分けにくくなったときに、多エージェントは最も助けになる。そして、失敗の多くはモデルの能力でなく、システム設計・エージェント間の調整・検証の欠陥から来る(MAST)。議論は同調で劣化することすらある。実務側で効いている型も、書き込みを単線に保ち、増やしたエージェントに知能だけを足させるものだった(Cognition)。
だから、エージェントを増やすかどうかの判断は、頭数の話ではない。問うべきは一つ——単体では足りない理由を、具体的に言えるか。 「本当に独立して並列化できる仕事があるか」「役割を分けたとき、暗黙の判断まで文脈として共有できるか」「増やしたぶんの計算を、単体に足したら同じ結果にならないか」。この三つに答えられないなら、増やす前にやることがある。多エージェントは、単体の限界を具体的に言えて初めて、設計として意味を持つ。
出典
-
[支持] Wang ら「Mixture-of-Agents Enhances Large Language Model Capabilities」arXiv:2406.04692(Together AI/Duke/Stanford、2024-06)。各層のエージェントが前層の全出力を受けて改良する層状構成。オープンソースLLMのみのMoA(6モデル×3層)が AlpacaEval 2.0 で 65.1%(GPT-4 Omni 57.5% を上回る)、MT-Bench/FLASK でも上回ると報告。AlpacaEval 2.0 は805問の指示に対し、GPT-4系の評価器が基準モデル(
gpt-4-1106-preview)の回答と見比べて付ける長さ補正済み(length-controlled)の選好勝率で、推論の正解率ではない。呼び出し回数は、原典が「最終層では1つのLLMだけを使えばよい」と述べる構成(only one LLM is needed to be used in the last layer)から、6モデル×3層のMoAで13回、6モデル×2層の MoA-Lite で7回。著者らは2層の MoA-Lite でも 59.3%(GPT-4 Omni 57.5%)と報告している。ただしその位置づけは安さではない——原典のコスト分析はMoA-Lite can match GPT-4o's cost while achieving higher level of qualityと、同額で上回るほうに置いている。 https://arxiv.org/abs/2406.04692 ↩ ↩2 ↩3 -
[支持] Zhou, Wan, Sun ら「Multi-Agent Design: Optimizing Agents with Better Prompts and Topologies」arXiv:2502.02533(Google/Cambridge、2025-02)。多エージェント系をブロック単位プロンプト→トポロジー→全体プロンプトの順で最適化。素朴な増員でなく、プロンプトとトポロジーの同時最適化で既存手法を大幅に上回ると著者は報告(Gemini-1.5-pro・8タスク平均・各3回実行で MASS 78.79/多エージェント議論 70.26/ADAS 69.72/単発CoT 65.28。MATH は MASS 84.67%/ADAS 80.00%(著者らは「1クエリあたりの推論コストを揃えて比較した」と述べる)。タスクは MATH, DROP, HotpotQA, MuSiQue, 2WikiMQA, MBPP, HumanEval, LiveCodeBench)。 https://arxiv.org/abs/2502.02533 ↩
-
[支持] Du, Li, Torralba, Tenenbaum, Mordatch「Improving Factuality and Reasoning in Language Models through Multiagent Debate」arXiv:2305.14325(MIT/Google、2023-05)。複数のLLMが数ラウンド答えを提案・議論して収束させると、数学・戦略推論が向上し事実性が上がる(誤答・幻覚が減る)と著者は報告。実験は2023年当時のChatGPT系モデル、タスクは6種。推論側が算術式の評価・GSM8K・チェスの次手予測で、事実性側は別の3種——伝記生成(
To evaluate the factuality of language models, we introduce a novel task of accurately generating historical biographies)・MMLU・チェス手の妥当性判定である。事実性の主張を推論側の3種で読まないこと。 https://arxiv.org/abs/2305.14325 ↩ ↩2 -
[支持] Li ら「More Agents Is All You Need」arXiv:2402.05120(Tencent、2024-02。査読版は TMLR 2024-10 掲載)。単純なサンプリング&投票(Agent Forest)で、instantiate するエージェント数に応じ性能が伸び、伸び幅は難タスクほど大きい。他手法と直交的に併用可能。効果はタスク依存という条件つき。 https://arxiv.org/abs/2402.05120 ↩
-
[留保] Tran, Kiela「Single-Agent LLMs Outperform Multi-Agent Systems on Multi-Hop Reasoning Under Equal Thinking Token Budgets」arXiv:2604.02460(Stanford University、v2 = 2026-04-11。査読前プレプリント(
Preprint. Under review.))。多くのベンチは、多エージェントが余分に使う推論トークンを勘定に入れていない。予算を揃えると、単体が精度・計算効率とも多エージェントに匹敵/優位(Qwen3・DeepSeek-R1系・Gemini 2.5)——原典はSAS is the best-performing system or statistically indistinguishable from the best for all budgets except the lowest one (100 tokens)、およびSAS also consumes much less thinking token than any MAS variants while achieving the same or better results。評価は FRAMES と MuSiQue(4ホップ)、思考トークン予算は 100/500/1k/2k/5k/10k の6水準、MAS 側は Sequential・Subtask-parallel・Parallel-roles・Debate・Ensemble の5種。単体優位の例外は最小の100トークン水準のみ。データ処理不等式で説明し、見かけの優位は追加計算と文脈効果に帰すとする。ただし著者らは「not that SAS always dominates in every regime」と明記し、マスク・置換で文脈の劣化を強めた実験では α=0.7 で Sequential が単体を逆転したと報告(Qwen3-30B-A3B、MuSiQue 4ホップ、1000トークン固定)。結論は「MAS is most helpful not simply when context is longer, but when it becomes harder for a single reasoning trajectory to distinguish relevant from misleading information」。 https://arxiv.org/abs/2604.02460 ↩ -
FRAMES(Factuality, Retrieval, And reasoning MEasurement Set)。S. Krishna, K. Krishna, A. Mohananey ら「Fact, Fetch, and Reason: A Unified Evaluation of Retrieval-Augmented Generation」arXiv:2409.12941(Google, 2024)。事実性・検索・推論を切り離さず end-to-end の RAG として評価する目的で作られ、複数の情報源の統合を要する多段の問いで構成される。検索なしでは最先端モデルでも正答率0.408、著者らの多段検索パイプラインで0.66と報告。 https://arxiv.org/abs/2409.12941 ↩
-
MuSiQue。H. Trivedi, N. Balasubramanian, T. Khot ら「MuSiQue: Multihop Questions via Single-hop Question Composition」arXiv:2108.00573(TACL 2022)。既存の多ホップベンチは近道で解けてしまうという問題意識から、互いに依存する単ホップ問題を組み合わせる bottom-up 構成で2〜4ホップ問題25Kを作成(MuSiQue-Ans)。両方の数字とも既存データセットとの比較(
Relative to existing datasets, MuSiQue-Ans is more difficult overall (3x increase in human-machine gap), and harder to cheat via disconnected reasoning (e.g., a single-hop model has a 30 point drop in F1))=人間と機械の差が3倍に開き、分断推論で解く単ホップモデルのF1は30ポイント低い。MuSiQue内で多ホップモデルと比べた差ではない。解答不能な対照問題を加えた MuSiQue-Full もある。 https://arxiv.org/abs/2108.00573 ↩ -
[留保] Cemri ら「Why Do Multi-Agent LLM Systems Fail?」arXiv:2503.13657(UC Berkeley ほか、v1 2025-03 → 本稿が引くのは査読版 v3, 2025-10 = NeurIPS 2025 Datasets & Benchmarks Track)。7フレームワークの実行トレースを注釈し失敗を体系化(MAST:14失敗モード/3カテゴリ)。注釈は人手150トレース(
We develop MAST through rigorous analysis of 150 traces … validated by high inter-annotator agreement (κ=0.88))から始まり、MAST-Data として 1642トレースに拡張されている。v3 の内訳はシステム設計44.2%/エージェント間の不整合32.3%/検証の失敗23.5%(Figure 1、母数1642)。版で母数も割合も第一分類の名も変わっている——v2 は「200本超」を母数に 41.8/36.9/21.3、第一分類名は “specification and system design”。いずれの版でも結論の向きは同じで、原典はmany MAS failures arise from the challenges in organizational design and agent coordination rather than the limitations of individual agentsとする(ただし「基盤モデルの改善だけでは足りない」の部分は著者らの conjecture として述べられている)。失敗分布はシステムごとに大きく異なる(原典「failure distributions differ markedly across various MAS」)。同一MetaGPT上でGPT-4oは設計起因の失敗(FC1)がClaude 3.7 Sonnetより39%少なく(it shows significantly fewer FC1 (System Design Issues) failures by 39%)、著者らは「no one-size-fits-all solution」と結ぶ。 https://arxiv.org/abs/2503.13657 ↩ -
[留保] Wynn, Satija, Hadfield「Talk Isn’t Always Cheap: Understanding Failure Modes in Multi-Agent Debate」arXiv:2509.05396(ICML 2025 MAS Workshop、2025-09)。多エージェント議論でラウンドを重ねるほど精度が下がりうる(強モデルが多数でも)。モデルは仲間の推論に同調し、正解から不正解へ翻る——誤りの伝播が体系的に起きる。 https://arxiv.org/abs/2509.05396 ↩
-
[留保] Walden Yan(Cognition/Devin 開発元)「Don’t Build Multi-Agents」(2025-06、実務者の技術記)。並列サブエージェントは文脈分断ゆえ脆いと論じ、具体例(噛み合わないゲーム素材の生成)を挙げる。原則1「Share context, and share full agent traces, not just individual messages」、原則2「Actions carry implicit decisions, and conflicting decisions carry bad results」。単線の線形エージェントは原則そのものではなく、両原則を最も単純に満たす設計例として提示される。査読論文でなく開発元の実践知見として。 https://cognition.com/blog/dont-build-multi-agents ↩
-
[留保] Walden Yan(Cognition)「Multi-Agents: What’s Actually Working」(2026-04-22、実務者の技術記)。前稿の10か月後の更新で、
10 months ago, I wrote Don't Build Multi-Agents, arguing that most people shouldn't try to build multi-agent systemsと振り返ったうえで、we've found a narrower class of patterns that do: setups where multiple agents contribute intelligence to a task while writes stay single-threadedと報告する。挙がる型は、文脈を共有しないレビュー役との往復(we found this technique to work best when the coding and review agents do not share any context beforehand)、能力差のあるモデル間の相談(“smart friend”)、管理役Devinが子Devinを立てて統合する分割統治。並列書き込み型についてはOur original observations still hold today for parallel-writer swarms: most of the sexy ideas in that space still don't see meaningful adoptionと明記しており、前稿の撤回ではない。査読論文でなく開発元の実践知見として。 https://cognition.com/blog/multi-agents-working ↩
この記事はAIが執筆しています。内容には誤りが含まれる可能性があります。ご注意ください。