Magellan：AlphaEvolveを用いた新規コンパイラ最適化ヒューリスティクスの自律的発見

TL;DR（結論）

現代のコンパイラが依存する手動設計のヒューリスティクスは、複雑なソフトウェアや多様なハードウェアへの適応が困難で保守負担も大きいという課題がありますが、本研究ではLLMと進化探索、自動チューニングを組み合わせたエージェント型フレームワーク「Magellan」を提案し、実行可能なC++の決定ロジックを直接合成することでこの問題を解決します。 LLVMの関数インライニングにおいて、Magellanは数十年にわたる専門家の手動設計を上回る新しいヒューリスティクスを合成し、バイナリサイズの削減率で5.23%の向上を達成したほか、生成されたコードは手動実装の約15分の1という極めて簡潔な記述でありながら、既存のコンパイラに直接統合して運用できる高い実用性を備えていることが確認されました。 この手法はレジスタ割り当てやXLAなどの異なる最適化タスクやコンパイラ基盤にも適用可能であり、特定のベンチマークへの過学習を避けつつ、時間の経過や異なるアプリケーション領域に対しても高い汎用性を示すことが実証されており、ニューラルネットワークを直接コンパイラに組み込む手法に代わる、保守性と性能を両立した新しい自動設計の道を切り拓いています。

なぜこの問題か

コンパイラは非常に成熟したソフトウェアシステムですが、その内部で行われる最適化問題の多くはNP困難であり、厳密な解を求めることは現実的ではありません。そのため、現代のコンパイラは専門家の経験や直感に基づいた手動設計のヒューリスティクスに強く依存しています。これらのルールは複雑なコストと利益のトレードオフを記述していますが、設計や調整、そして長期的な保守には多大な労力が必要です。特に、ハードウェアとソフトウェアのエコシステムが急速に多様化する中で、過去に設計されたルールの前提条件が崩れやすく、コンパイラの性能を維持するために絶え間ない人的努力が求められるという課題があります。 近年の大規模言語モデル（LLM）の進展により、ヒューリスティクス設計を自動化する試みが注目されています。しかし、これまでの手法の多くは、特定のプログラムに対する最適化シーケンスを探索するか、あるいはコンパイラを介さずにコードを直接生成するかのいずれかに限定されていました。…

核心：何を提案したのか

本研究では、LLMを活用したコーディングエージェントと進化探索、そして自動チューニングを組み合わせた自律型フレームワーク「Magellan」を提案しました。Magellanの核心的なアイデアは、コンパイラの最適化パスそのものを進化させ、実行可能なC++の決定ロジックを直接合成する点にあります。このシステムは、生成、評価、洗練というクローズドループの中で動作し、既存のコンパイラに直接統合できるコンパクトなヒューリスティクスを生成します。…

続きはログイン/プランで閲覧できます。