GCFX：モデルレベルにおける深層グラフモデルの生成的反事実説明

TL;DR（結論）

深層グラフ学習モデルの意思決定プロセスを全体的に把握するため、モデルレベルの反事実説明手法であるGCFXが提案されました。この手法は、ベクトル量子化を用いた生成モデルVQ-CFXによって高品質な反事実候補を生成し、要約アルゴリズムGCFSによって代表的かつ多様な説明セットを選択する二段構えの構成をとっています。実験の結果、従来の手法と比較して反事実としての妥当性と網羅性が高く、かつモデルへの問い合わせコストを低く抑えながら、信頼性の高いグローバルな洞察を提供できることが確認されました。

なぜこの問題か

深層グラフ学習（DGL）は、グラフ構造を持つ複雑なデータのトポロジーや属性情報を自動的に学習する技術として、薬物分子の発見や金融取引の分析、推薦システムなど幅広い分野で成果を上げています。特にメッセージパッシング機構を採用したグラフニューラルネットワーク（GNN）は、グラフの特性評価において優れた性能を発揮しています。しかし、これらのモデルは膨大なパラメータを持つ複雑な内部構造を有しており、ユーザーにとっては予測結果のみが提示される「ブラックボックス」として機能しています。この不透明さは、モデルが潜在的なバイアスや機密情報に基づいて不当な判断を下すリスクを孕んでおり、公平性やプライバシーが重視される重要なアプリケーションへの導入を妨げる要因となっています。 モデルの信頼性を確保するためには、正確な予測だけでなく、人間が理解できる形での説明を提供することが不可欠です。既存のグラフモデルの説明技術は、個別のサンプルに対する「インスタンスレベルの説明」と、モデル全体の挙動を明らかにする「モデルレベルの説明」に大別されます。…

核心：何を提案したのか

本論文では、深層グラフ生成に基づくモデルレベルの反事実説明手法「GCFX（Global Counterfactual Explainer）」を提案しています。この手法の核心は、生成ネットワークを用いて入力データの潜在的な分布と、それに対応する反事実的な分布の両方を学習することにあります。GCFXは、特定のラベルに関連付けられたすべての入力サンプルを説明対象とし、それらの予測を反転させるための最小限の変更を加えた、代表的な反事実例のセットを特定することを目指します。これにより、個別の事例に閉じることなく、モデルがどのような基準でクラスを分類しているのかという全体像を提示することが可能になります。 GCFXは大きく分けて2つのフェーズで構成されています。第一フェーズでは、VQ-CFXと呼ばれる変分自己符号化器（VAE）を拡張した生成モデルを用いて、各サンプルに対する局所的な近似反事実グラフを生成します。…

続きはログイン/プランで閲覧できます。