1単語で検索順位を操る：ニューラルテキストランキングに対する最小限の敵対的攻撃

TL;DR（結論）

ニューラルランキングモデル（NRM）は、クエリに関連する特定の1単語を挿入または置換するだけで、検索順位を大幅に操作される脆弱性があることが明らかになりました。 本研究では「クエリセンター」という概念を導入し、ヒューリスティックな手法や勾配を用いた手法によって、わずか1トークンの変更で最大91%の攻撃成功率を達成しています。 特に検索順位の中間に位置する文書が最も攻撃に対して脆弱である「ゴルディロックス・ゾーン」の存在が確認され、既存のランキングモデルの堅牢性に重大な課題を投げかけています。

なぜこの問題か

現代の情報検索システムにおいて、BERTやT5といった大規模なトランスフォーマーアーキテクチャに基づくニューラルランキングモデル（NRM）は、検索精度の向上に不可欠な存在となっています。これらのモデルは、クエリと文書の間の深い意味的関係を捉える能力に長けており、従来のキーワードマッチング手法を大きく上回る性能を発揮します。しかし、近年の研究により、これらの高度なモデルは、人間には意味が変わらない程度の微小なテキスト修正に対して非常に脆弱であることが示されてきました。既存の敵対的攻撃手法の多くは、複数の単語を操作したり、ターゲットとなるモデルを模倣する代理モデルを訓練したりする必要がありました。このような手法は、大量のテキスト編集を伴うため、攻撃の痕跡が残りやすく、また実行のための計算コストも高いという欠点があります。 本研究が焦点を当てているのは、より「最小限」の視点からの脆弱性調査です。具体的には、文書内のわずか1単語を操作するだけで、強力なニューラルランカーにおけるターゲット文書の順位を意図的に引き上げることができるかどうかを検証しています。…

核心：何を提案したのか

本研究の核心は、1単語の挿入または置換という極めて限定的な操作によって、ターゲット文書のランキングスコアを最大化させる「1単語敵対的攻撃フレームワーク」の提案にあります。このフレームワークを支える最も重要な概念が「クエリセンター」です。クエリセンターとは、ユーザーが入力したクエリ全体の意味的な意図を、たった1つの単語で最もよく代表するトークンのことを指します。具体的には、与えられた意味埋め込み空間において、クエリに含まれる全単語のベクトルの重心（平均ベクトル）を計算し、その重心に最も近い距離にあるトークンを語彙の中から選択します。このプロセスにより、クエリの核心的な意味を凝縮した1単語を特定することが可能になります。 このクエリセンターを特定するために、本研究では「カウンタフィット埋め込み」と呼ばれる特殊なベクトル空間を利用しています。…

続きはログイン/プランで閲覧できます。