RLAnything：完全に動的なRLシステムで環境・方策・報酬モデルを構築する
自然言語で動くエージェントは、なぜ「最後の正解・不正解」だけでは育ちにくいのか？ 答えは、長い軌跡を進むほど“途中の学びの手がかり”が痩せていくからです。 この記事では、環境・方策・報酬モデルを閉ループで鍛え合う「RLAnything」が何を狙い、どう効いたのかを、読み物としてほどきます。
Cog AI Archive
最新の記事
相反する目的に対する報酬なしアライメント
大規模言語モデルを「安全にしつつ、役にも立つ」ように整えるには、結局どこで折り合いをつけるべき？ 実はその折り合いは、目的を足し算した瞬間に崩れやすい——学習が不安定になり、トレードオフも悪化しうる。 この記事では、報酬モデルなしで“衝突する目的”をさばく提案「RACO」が何を変えるのかを、筋道立てて追いかけます。
CLM-Bench: 知識編集における大規模言語モデルの言語間不整合のベンチマークと分析
大規模言語モデルの知識編集において、既存の多言語評価枠組みが英語中心の翻訳データに依存し、文化的な固有性や真の知識分布を反映できていないという問題を解決するため、中国語を起点とした文化配慮型の新しいベンチマーク「CLM-Bench」を提案しました。
17%のギャップ：AI支援型サーベイ論文における認識的減衰の定量化
AI分野のサーベイ論文50本（引用総数5,514件）を調査した結果、デジタルオブジェクトとして特定できない「ファントム引用」が17.0%存在し、科学的根拠の連鎖が大規模に損なわれている実態が判明した。 この引用の劣化は、純粋な捏造（5.
オンデバイス大規模言語モデルのためのクラスタリング駆動型メモリ圧縮
スマートフォンなどのオンデバイス環境で動作する大規模言語モデル（LLM）において、限られたコンテキスト窓を有効活用しながらユーザーの過去の対話履歴をパーソナライズに利用するための、新しいクラスタリング駆動型メモリ圧縮手法が提案されました。
微調整された言語モデルにおける機密情報の意図しない記憶
大規模言語モデル（LLM）を特定のデータセットで微調整する際、学習の目的（ターゲット）には含まれず、入力データにのみ存在する個人識別情報（PII）が意図せず記憶され、外部からの攻撃によって抽出可能になるリスクを、合成データと実世界の医療データを用いて体系的に明らかにした。
D-ModelsとE-Models：大規模言語モデルのサンプリング挙動における多様性と安定性のトレードオフ
大規模言語モデル（LLM）の次トークン予測確率（$P{token}$）とタスク目標分布（$P{task}$）の整合性を分析した結果、挙動の異なる2つのモデル群（D-ModelsとE-Models）の存在が明らかになりました。 Qwen-2.5やLlama-3.
LLM対停止性問題：プログラム停止予測の再考
大規模言語モデル（LLM）は、計算機科学の難問である「停止問題」の予測において、専門的な検証ツールに匹敵する極めて高い性能を示した。特にGPT-5やClaude Sonnet-4.5は、国際的なソフトウェア検証コンペティション（SV-Comp 2025）のトップクラスのツールに次ぐスコアを記録し、その推論能力の高さが証明された。 一方で、プログラムが終了しないことの数学的な証明となる「証拠（ウィットネス）」の生成には依然として課題があり、コードの長さや複雑さが増すにつれて予測精度が低下する傾向も確認された。 信頼性を高めるために導入された「テストタイム・スケーリング（TTS）」による合意形成アルゴリズムは、モデルの不確実性を適切に管理し、誤判定によるペナルティを回避してスコアを劇的に向上させる有効な手段であることが明らかになった。
ALRM: ロボット操作のためのエージェント型LLM
ALRMは、大規模言語モデル（LLM）をロボット操作の計画と実行に統合する新しいエージェント型フレームワークであり、ReAct形式の推論ループを用いることで、実行結果の振り返りと計画の動的な修正を可能にしました。
1トークンで十分：シンクトークンによる拡散言語モデルの改善
拡散言語モデル（DLM）において、注意機構の計算過程で不要な情報を逃がす「シンク（掃き出し口）」となるトークンの位置がステップごとに不規則に変動する「移動シンク現象」が、生成の不安定性や性能低下の主要因であることを特定しました。