微分可能な社会的選択：学習メカニズム、意思決定、およびアライメントにおける手法と未解決問題

TL;DR（結論）

社会的選択理論は、従来の政治学や経済学の枠を超え、現代の機械学習システムにおける基礎的な構成要素へと進化しています。オークション、資源配分、大規模言語モデルのアライメントといった現代のシステムは、多様な選好やインセンティブを集合的な決定へと統合するプロセスを内包していますが、従来の公理的な手法では、現代の複雑で大規模なデータ分布に十分に対応できないという課題がありました。これに対し、投票ルールやインセンティブ設計を微分可能なニューラルアーキテクチャとしてパラメータ化し、データから最適化する「微分可能な社会的選択」という新たなパラダイムが登場しています。 このアプローチでは、損失関数が暗黙の集計ルールとして機能し、匿名性や実現可能性といった社会的選択の公理が、ネットワークの構造的なバイアスや制約として組み込まれます。本レビューでは、オークション、投票、参加型予算編成、流動民主主義、AIアライメント、逆メカニズム学習の6つの領域を統合し、古典的な不可能性定理や公理的なトレードオフが、学習の目的関数や最適化のダイナミクスの中にどのように再配置されるかを明らかにしています。 さらに、インセンティブの保証、分布の変化に対する堅牢性、学習されたメカニズムの監査可能性、多元的な選好集計など、36個の具体的な未解決問題を提示し、新しい研究アジェンダを定義しています。

なぜこの問題か

社会的選択は、選挙、公共財の提供、オークション、委員会による決定といった集合的な意思決定を扱う学問であり、20世紀の大部分において公理的な枠組みとして扱われてきました。メカニズムは、戦略耐性、パレート効率性、匿名性、あるいは収益の最適化といった規範的な要求事項から、閉じた形式のオブジェクトとして導出されてきました。この古典的なプログラムは、アロウの定理やギバード・サタスウェイトの定理、マイヤーソンの最適オークション理論といった基礎的な知見や不可能性の結果をもたらしました。しかし、これらの結果は同時に、公理的なアプローチの本質的な限界を露呈させています。多くの望ましい特性は互いに相容れず、保証は通常、最悪の場合を想定しており、現実世界のデータの統計的分布には依存しません。また、得られるメカニズムは、実践においてしばしば違反される強い合理性や計算の容易性の仮定に依存しています。 現代のシステム導入は、これらの限界をさらに増幅させています。…

核心：何を提案したのか

本研究が提案する核心的な概念は「微分可能な社会的選択」という新しいパラダイムです。これは、社会的選択のメカニズムを静的な論理的産物としてではなく、データから最適化されるパラメータ化された微分可能な関数として扱うアプローチです。このパラダイムでは、投票ルール、オークション、配分メカニズムをトレーニング可能なオブジェクトとして定義し、明示的な構造的および規範的な制約の下で最適化を行いま…

続きはログイン/プランで閲覧できます。