思考転移：思考連鎖推論モデルに対する間接的な標的型ポイズニング攻撃

要約

大規模言語モデル（LLM）の推論能力を高めるChain-of-Thought（CoT）学習に対し、新たな攻撃手法「Thought-Transfer」が提案された。これは訓練データの推論過程（CoTトレース）のみを操作し、質問や回答を変更しない「クリーンラベル」攻撃であり、訓練に含まれない全く異なるドメインのタスクに対しても標的型の挙動を誘発できる。

全文は有料プランで閲覧できます。