DiscoverLLM：意図の実行から発見へと導く大規模言語モデルの学習フレームワーク

TL;DR（結論）

ユーザーが自身の望みを完全には言語化できていない「未形成の意図」を持つ状況において、従来の大規模言語モデルは具体的な質問を繰り返すだけであり、ユーザーが答えを持っていない場合には効果的に機能しないという課題がありました。本研究で提案されたDISCOVERLLMは、ユーザーの潜在的な意図を階層構造としてモデル化し、対話を通じて選択肢を提示することで、ユーザーが自身の望みを段階的に発見し具体化していくプロセスを支援する新しい学習フレームワークです。検証の結果、この手法を用いたモデルは従来の基準と比較してタスクの達成度を10パーセント向上させ、対話の長さを最大40パーセント短縮することに成功しており、75名の被験者を対象としたユーザー調査でも高い満足度と効率性が確認されました。

なぜこの問題か

現在の大規模言語モデルは、複雑な指示に従って高品質な出力を生成する能力に長けていますが、そこには「ユーザーが最初から明確な意図を持っている」という暗黙の前提が存在しています。しかし、現実の創作活動や設計、あるいはオープンエンドな問題解決においては、ユーザー自身が何を求めているのかを正確に把握していない「未形成の意図」を抱えていることが一般的です。例えば、「教訓についての個人的なエッセイを書いてほしい」という曖昧な依頼をするユーザーは、具体的なトーンや構成についての明確な答えを自分の中に持っていない場合があります。このような状況で、モデルが「どのようなトーンを希望しますか？」といった明確化のための質問を繰り返しても、ユーザーは答えに窮してしまい、対話は停滞してしまいます。 従来の対話手法やベンチマークは、ユーザーが既に持っている情報を引き出す「意図の抽出」に焦点を当ててきましたが、意図そのものがまだ形成されていない場合には、このアプローチは無力です。認知科学の研究によれば、人間は可能な解決策を探索し、具体的な試案や成果物を目にすることで初めて、自分の真のニーズを発見していくという「共進化」のプロセスを辿ることが知られています。…

核心：何を提案したのか

本論文が提案するDISCOVERLLMは、大規模言語モデルがユーザーの意図を単に実行するのではなく、対話を通じてその意図を発見し洗練させることを支援するための汎用的な学習フレームワークです。この提案の核心は、ユーザーの認知状態を「意図の階層構造」として表現する革新的なユーザーシミュレーターを導入した点にあります。このシミュレーター内では、ユーザーの意図は抽象的なレベルから具体的なレベルへと枝分かれするツリー構造として定義されています。例えば、「詩を書きたい」という抽象的な親ノードから、「動物についての詩」「ハイクの形式」「家の中で眠る猫」といった具体的な子ノードへと階層が深まっていくイメージです。…

続きはログイン/プランで閲覧できます。