C3Box：CLIPベースのクラス増分学習ツールボックス

TL;DR（結論）

従来の深層学習は静的なデータ分布を前提としており、新しいクラスを順次学習する際に過去の知識を失う「破滅的忘却」が大きな課題となっていました。近年、CLIPのような事前学習済みモデルを活用したクラス増分学習（CIL）が注目されていますが、既存の手法は実装コードが分散しており、実験設定や評価指標が統一されていないため、公平な比較や再現が困難という問題がありました。 本研究では、CLIPを基盤としたクラス増分学習のためのモジュール化された包括的なPythonツールボックスである「C3Box」を提案し、伝統的な手法から最新のCLIP専用手法までを統合しました。C3Boxは、JSON形式の設定ファイルと標準化された実行パイプラインを採用することで、低いエンジニアリング負荷で再現性の高い実験を可能にし、研究者が新しい手法を容易に統合できる環境を提供します。 17種類の代表的な手法を10種類のベンチマークデータセットで検証した結果、CLIPベースの手法が従来のCIL手法を上回る性能を示すことが確認され、本ツールボックスが信頼性の高い評価プラットフォームであることが示されました。このツールボックスは、主要なOSをサポートし、広く普及しているオープンソースライブラリのみに依存しているため、コミュニティ全体での活用と継続的な発展が期待されます。

なぜこの問題か

現実世界のシナリオは本質的に動的であり、データは連続的に進化するストリームとして発生しますが、従来の深層学習システムは静的なデータ分布に最適化されるように設計されています。このようなシステムが新しいクラスを順次学習しようとすると、新しい情報を収容するために以前の知識を上書きしてしまい、過去に学んだ内容を急激に失う「破滅的忘却」という現象が発生します。この課題を解決するために、過去の知識を保持しながら新しいクラスを継続的に学習することを可能にするクラス増分学習（CIL）の研究が進められてきました。 近年、Vision Transformer（ViT）やCLIPといった強力な事前学習済みモデル（PTM）の登場により、CILの研究の焦点は、ランダムに初期化された重みから学習を開始する従来のアプローチから、PTMが持つ高い汎用性と意味的な整合性を活用する方向へと大きくシフトしています。特にCLIPは、視覚的な概念と自然言語を共有の埋め込み空間で整列させることで、動的なシナリオに適応しながら破滅的忘却を効果的に軽減できる強力な出発点を提供しています。…

核心：何を提案したのか

本研究では、CLIPベースのクラス増分学習を標準化し、簡素化するために設計されたモジュール式の包括的なツールボックスである「C3Box」を提案しました。C3Boxは、PyCILやPILOTといった既存の洗練されたアーキテクチャを継承しつつ、CLIPを中心とした統合的なフレームワークを提供します。…

続きはログイン/プランで閲覧できます。