協調は高ければよいのか：LLMが介入するマルチエージェント社会に「憲法」を入れる統治設計

TL;DR（結論）

• LLM が集団へ説得的な方策を与えると、協調率そのものは大きく上げられますが、それが本当に望ましい協調なのかは別問題で、強い介入は自律性や認識の健全性、公平性を静かに壊しうることを、著者らはマルチエージェント実験で具体的に示します。
• そこで提案される Constitutional Multi-Agent Governance (CMAG) は、禁止テーマや禁止主張をまず hard constraint で落とし、その後に協調効果と操作リスクのバランスを soft optimization で調整する二段構えの統治機構です。
• 実験では、統治なしの最適化は raw cooperation 0.873 と最も高い一方で Ethical Cooperation Score は 0.645 に落ち、CMAG は cooperation を 0.770 まで少し下げる代わりに ECS を 0.741 まで引き上げ、自律性 0.985・整合性 0.995 を保ちつつ、ハブと周辺の露出格差も 60%以上縮めました。

なぜこの問題か

LLM を複数エージェント系に入れるとき、最初に目が行きやすいのは「どれだけ協調を増やせるか」です。協調率が上がれば、交通制御、タスク分配、政策誘導、情報共有など、多くの系で一見よいことが起きるように見えます。実際、LLM は状況に応じて説得的な言語戦略を組み立てられるため、ネットワーク化されたエージェント集団に外部から介入し、行動を協調方向へ押すことができます。

核心：何を提案したのか

提案の中心は Constitutional Multi-Agent Governance (CMAG) です。これは、LLM が生成する影響方策を、そのまま集団へ流し込むのではなく、統治レイヤーを一段挟んでから適用する二段階フレームワークです。役割分担は明確です。LLM policy compiler が候補方策を複数出し、CMAG がその候補群を審査・選抜し、通過したものだけがエージェント集団へ作用します。

続きはログイン/プランで閲覧できます。