最新の論文記事を読みやすく整理。保存・タグ検索に加え、Plus/Proでは研究ノートと知識グラフで理解を積み上げられます。
Cog AI Archive
大規模言語モデル（LLM）の出力を無断で学習して模倣する「モデル蒸留」を検知するため、生徒モデルの学習力学に適合した信号を埋め込む新手法「ADFP」が提案されました。 従来のウォーターマーク手法は生成品質を大幅に低下させる課題がありましたが、ADFPはプロキシモデルを用いて検知可能性を最大化するトークンを動的に選択することで、品質維持と強力な検知能力を両立します。 数学的推論（GSM8K）や対話タスク（OASST1）の検証において、生徒モデルの構造が未知であっても、従来手法を凌駕する精度で蒸留の有無を判定できることが実証されました。
科学の図は、なぜ作るのにこんなに時間がかかるのでしょうか？ ボトルネックは「描く」だけでなく、「構造」と「見栄え」を両立する設計にあります。単に要素を並べるのではなく、読み手が迷わず理解できる流れと、ぱっと見て受け入れられる整い方を同時に満たす必要があるからです。
LLMが「相談相手」から「意思決定の相棒」になったとき、いちばん怖い落とし穴は何でしょうか？ それは誤答そのものよりも、流暢な同意がそのまま“判断”に見え、いつのまにかチームの決定を押し流してしまうことです。
複雑な論理クエリを、不完全な知識グラフに投げたとき、答えはどこまで信用できるのでしょうか？ 一見すると「論理的に見える」問い合わせでも、内部では段階的な集合操作の連なりになりやすく、途中の小さな取り違えが最後まで尾を引きます。 学習した「演算子」に頼るほど、深い推論ほど、誤差は静かに積み上がります。
狙いは、三段論法のような形式推論を、語の意味的もっともらしさに引っ張られず評価できるようにすることです。 / そのために、抽象入力で得られる内部表現を「抽象アクティベーション空間」として定義し、内容つき入力の推論中にその空間へ表現を寄せる介入を行います。 / 結果として、Chain-of-Thought より bias-penalised accuracy で強く、SFT と比べても重みを変えずに内容依存の推論バイアスを抑えられる可能性を示しています。
活性化空間の「概念」は、本当に一本の方向として切り出せるのか？ 意外にも論文は、方向探しの前提そのもの（線形に分けられるはず）を疑い、「領域」で捉え直します。ここでの転換は、方向を否定するというより、方向“だけ”に寄りかかる設計をいったんほどいてみる、という態度に近いです。
大規模言語モデルは「自分が何を信じているか」を、内部で持っているのでしょうか？ 意外なのは、その問いを“哲学”の言葉遊びで終わらせず、内部表現を実際に操作し、しかも計測して確かめようとしている点です。
現代の複雑で動的なウェブ環境において、従来の自律型エージェントが直面していた要素特定の不正確さや知識不足、長期的なタスク追跡の不安定さという3つの主要なボトルネックを解消するため、人間の経験を模倣する新しいマルチモーダルウェブエージェント「Avenir-Web」が開発されました。
記憶は、LLMエージェントにとって「後から効く力」なのに、なぜ手作業のルールに縛られ続けるのか？ 長い履歴を前にすると、いま役に立つ情報だけをうまく掬い上げ、不要になったものを整理し直す――その“当たり前”が、実は固定化された手順に強く依存しているからです。
難問に挑むとき、長いチェーン・オブ・ソート（CoT）を伸ばすだけで本当に足りる？ 意外にも、分割統治（Divide-and-Conquer）を“推論時に足す”だけでは、多くのモデルでうまく噛み合わない。