ヒントにお金を払え、答えではなく：コスト効率の良い推論のためのLLMシェパディング

要約

大規模言語モデル（LLM）は高性能だが高コストであり、小規模モデル（SLM）は低コストだが精度が劣るという課題に対し、LLMに短い「ヒント」だけを生成させ、それをSLMに渡す「LLM Shepherding」という手法を提案する。

全文は有料プランで閲覧できます。