順序に縛られない思考：拡散言語モデルにおける出力順序と推論順序の乖離

要約

自己回帰型モデルは左から右への生成順序に縛られるため、結論を先に述べる形式では推論が困難になる課題があります。本研究は、全トークンを並列に洗練する拡散言語モデル（MDLM）が、出力順序に依存せず推論を行う「順序の堅牢性」を持つことを示しました。実験では、回答を先に求める設定でもMDLMは高い精度を維持しました。

全文は有料プランで閲覧できます。