MetaGen：マルチエージェントLLM推論のための自己進化する役割とトポロジー

TL;DR（結論）

MetaGenは、大規模言語モデル（LLM）を用いたマルチエージェントシステムにおいて、推論実行時にエージェントの役割（ロール）と協力構造（トポロジー）を動的に生成・調整する、追加学習不要なフレームワークである。 クエリに応じて最適な役割を合成する「アーキテクト」エージェントを導入し、実行中のフィードバックに基づいてプロンプトや通信経路を逐次的に洗練させることで、固定的なシステムでは困難だったタスクへの適応と推論コストの最適化を両立させた。 数学的推論やコード生成などの主要ベンチマークにおいて平均精度95.1%を達成し、既存の自動設計手法を上回る性能を示しながら、学習ベースの手法と比較してトークン消費量を大幅に削減することに成功している。

なぜこの問題か

大規模言語モデル（LLM）を複数のエージェントとして組み合わせるマルチエージェントシステム（MAS）は、単一のモデルでは解決が困難な複雑なタスクを、専門化された役割の協力によって分解・解決するための有力な手段として注目されている。しかし、現在展開されている多くのシステムは、開発者が事前に定義した固定的な役割ライブラリ（プランナー、ソルバー、検証者など）と、一度決定されると変更できない硬直したメッセージ通信プロトコル（チェイン型、スター型、完全結合型など）に依存している。このような設計には、主に3つの重大な問題が内在している。 第一に「タスクの不一致（task mismatch）」である。タスクの粒度、使用すべきツールの優先順位、発生しやすいエラーのモードは、入力されるクエリごとに大きく異なる。固定された役割セットでは、未知のデータ分布や特殊な要求に対して脆弱になり、柔軟な対応ができない。第二に「構造的な閉鎖性（structural closure）」である。…

核心：何を提案したのか

本論文では、推論時に役割空間と協力トポロジーの両方を適応させる、トレーニングフリー（追加学習不要）なフレームワーク「MetaGen」を提案している。MetaGenの核心は、入力されたクエリを条件として、そのタスクに最適な役割の仕様を合成・修正する「アーキテクト（Architect）」エージェントを導入したことにある。このシステムは、従来の固定的な役割ライブラリに縛られることなく、実行時に制御可能な動的役割プールを維持し、タスクの要求に応じてエージェントの定義そのものを書き換えることができる。 MetaGenは、最小限の機能を持つバックボーン（骨格）となる構造を中心に初期実行グラフを構築し、実行中に得られる軽量なフィードバック信号を用いて、役割のプロンプトや構造的な決定を反復的に更新する。このプロセスにおいて、バックボーンとなるLLMの重みは一切変更されない。…

続きはログイン/プランで閲覧できます。