Innovator-VL：科学的発見のためのマルチモーダル大規模言語モデル

TL;DR（結論）

Innovator-VLは、科学的ドメインにおける高度な理解と推論を実現するために開発された、透明性の高いマルチモーダル大規模言語モデル（MLLM）であり、科学的タスクでの卓越した性能と一般的な視覚タスクでの汎用性を高い次元で両立させています。 膨大なドメイン特化データに依存する従来の傾向とは一線を画し、500万件未満の厳選された科学学習サンプルを用いた効率的な学習戦略と、エンドツーエンドで再現可能なトレーニングパイプラインを公開することで、科学的知能の構築における新たな基準を提示しました。 視覚エンコーダにRICE-ViT、言語モデルにQwen3-8Bを採用し、強化学習を含む4段階の洗練された学習プロセスを経ることで、数学、物理、化学などの専門分野において、同等サイズの既存モデルを凌駕する推論能力と知識統合能力を実証しています。

なぜこの問題か

近年のマルチモーダル大規模言語モデル（MLLM）は、モデルパラメータの拡大や大規模なデータの活用、そして学習手法の改善によって目覚ましい発展を遂げてきました。視覚的な質疑応答や画像キャプションの生成、文書理解といった一般的なタスクでは高い能力が示されていますが、科学的ドメインにおけるタスクは依然として大きな課題であり、未開拓の領域として残されています。科学的な問題の解決には、精密な視覚的理解、厳密な多段階の論理推論、そして異なるモダリティにまたがる高度な専門知識の統合が必要とされるため、一般的なマルチモーダルタスクよりも大幅に要求水準が高いのが実情です。科学的タスクにおける強力なパフォーマンスは、体系的な推論能力と知識集約型の問題解決能力を反映するものであり、人工汎用知能（AGI）や科学的汎用知能（SGI）の構築に向けた重要なマイルストーンと見なされています。 しかし、既存のオープンソースMLLMの多くは、科学的タスクにおいて一般的なベンチマークほどの成果を上げられておらず、科学的推論の要件と現在のモデル能力の間には顕著な隔たりが存在します。…

核心：何を提案したのか

本研究では、多様な科学的ドメインにおけるマルチモーダルな理解と推論を促進するために設計された「Innovator-VL」を提案しています。Innovator-VLは、大規模なドメイン特化データや不透明な学習プロセスに依存する従来の手法とは対照的に、データの効率性、再現性、そしてバランスの取れた汎化性能を重視した、原則に基づいた透明な学習フレームワークを採用しています。このモデルの最大の特徴は、完全に透明でエンドツーエンドで再現可能なトレーニングパイプラインを提供している点にあります。これには、データの収集、クリーニング、前処理から、教師あり微調整（SFT）、強化学習（RL）、そして評価に至るまでの全ステージが含まれており、詳細な最適化手法やハイパーパラメータのレシピも公開されています。…

続きはログイン/プランで閲覧できます。