タスクフリーな適応的メタブラックボックス最適化

TL;DR（結論）

従来のメタブラックボックス最適化（MetaBBO）は、未知のタスクに汎化させるために事前に大量の手動設計された学習タスクを必要とするという大きな制約がありましたが、本研究で提案された「ABOM」は、ターゲットとなるタスクの最適化プロセスで生成されるデータのみを用いてオンラインでパラメータを適応させることで、この制約を根本から解消します。 進化計算の主要な操作である選択、交叉、変異を注意機構（Attention Mechanism）を用いた微分可能な関数として定義し、生成された個体群をエリートアーカイブに近づけるように自己更新を行うクローズドループの学習メカニズムを導入することで、事前のメタ学習を一切行わない「ゼロショット最適化」を実現しました。 合成ベンチマークおよび無人航空機の経路計画問題を用いた検証により、提案手法は高次元の問題においても既存の高度なアルゴリズムを凌駕する性能を達成しただけでなく、注意行列の可視化を通じて自然選択や遺伝的再結合といった探索パターンの統計的な解釈性を提供することが確認されています。

なぜこの問題か

ブラックボックス最適化（BBO）は、関数の内部構造や勾配情報が未知であり、高価な評価値のみが利用可能な状況で最適な解を探索するための不可欠な技術です。この技術は、ニューロエボリューション、ハイパーパラメータ調整、ニューラルアーキテクチャ探索、プロンプトエンジニアリングなど、現代の機械学習における極めて広範な領域で応用されています。従来、これらの問題には遺伝的アルゴリズムや粒子群最適化といった進化計算アルゴリズムが用いられてきましたが、これらは手動で設計されたヒューリスティックなオペレータに依存しており、新しいタスクに対しては多大な専門知識と手動でのパラメータ調整が必要になるという課題がありました。 「ノーフリーランチ（NFL）」定理が示す通り、すべての問題領域において普遍的に他を凌駕する最適化アルゴリズムは存在しません。この限界を克服するために、メタ学習を用いて最適化戦略を自動的に構成するメタブラックボックス最適化（MetaBBO）が登場しました。しかし、既存のMetaBBO手法の多くは、ターゲットとなるタスクに汎化させるためのメタ戦略を学習するために、事前に手動で設計された膨大な学習タスクの分布を必要とします。…

核心：何を提案したのか

本研究では、手動で設計された学習タスクを一切必要とせず、ターゲットとなるタスクから自己生成されたデータのみを用いてパラメータを適応させる「適応的メタブラックボックス最適化モデル（ABOM）」を提案しています。ABOMの最大の特徴は、進化計算の主要なオペレータである「選択」「交叉」「変異」を、注意機構（Attention Mechanism）を用いた微分可能な関数としてパラメータ化したエンドツーエンドのフレームワークである点にあります。…

続きはログイン/プランで閲覧できます。