アンサンブル逆問題：応用と手法
TL;DR本研究は、観測データから真の分布を推定する「アンサンブル逆問題（EIP）」を定義し、非反復的な推論手法を提案しています。提案手法は、観測セット全体の情報を活用する新しい条件付き生成モデルを用いて、事後分布のサンプリングを行います。
Cog AI Archive
最新の記事
人気記事ピックアップ
RedSage: サイバーセキュリティに特化した汎用LLM
TL;DRRedSageは、プライバシーリスクを回避しつつ多様なセキュリティ業務を支援するために開発された、オープンソースのサイバーセキュリティ特化型LLMである。118億トークンの専門データによる事前学習と、エージェントベースのパイプラインで生成された26.6万件の指示データによる調整を経て、既存モデルを上回る性能を実現した。
LogitsからLatentsへ：LLMアンラーニングのための対照的表現シェーピング
TL;DRLLMのアンラーニングにおいて、従来の手法は予測空間での調整に留まり、忘却対象の概念が内部表現に残存する問題があった。本研究では、対照的表現正則化手法「CLReg」を提案する。CLRegは忘却対象の特徴を特定し、保持すべき知識から分離することで、表現空間での絡み合いを解消し、より効果的なアンラーニングを実現する。
CAR-bench：実世界の不確実性下におけるLLMエージェントの一貫性と限界認識を評価するベンチマーク
TL;DRCAR-benchは、車載音声アシスタントのような実世界の不確実な状況下で、LLMエージェントの一貫性と能力認識を評価する新しいベンチマークである。ナビゲーションや車両制御など58のツールを備え、曖昧な指示の明確化や、不可能な要求への対応能力（幻覚の回避）をテストする。
「より良い」プロンプトが逆効果になる時：LLMアプリのための評価主導型反復プロセス
TL;DRLLMアプリ開発における評価主導型ワークフロー（定義、テスト、診断、修正）と、推奨評価セットであるMVESを提案する研究である。実験では、一般的に「改良された」とされるプロンプトが、特定のタスク（抽出やRAG準拠）の性能を低下させるトレードオフが確認された。
SymbXRL：モバイルネットワーク向け深層強化学習の意思決定を記号AIで解明する
TL;DRSymbXRLは、モバイルネットワーク管理における深層強化学習（DRL）エージェントの意思決定を、人間が理解可能な形で説明する新しい技術である。記号AIを用いて概念やルールを直感的に表現し、論理的推論と組み合わせることでブラックボックス性を解消する。
マルチモーダル大規模言語モデルにおける「忘却」を視覚情報で導く新手法ViKeR
TL;DRマルチモーダル大規模言語モデル（MLLM）が特定の画像に関する個人情報を漏らさないようにする「アンラーニング（忘却）」に関する研究である。既存手法がすべての回答トークンを一律に扱うのに対し、本手法「ViKeR」は視覚情報を活用して重要なトークンを特定し、優先的に学習プロセスを調整する。
TBDFiltering: 階層的クラスタリングを用いた効率的な学習データ選別手法
TL;DR本研究は、大規模言語モデルの学習データ選別を効率化する「TBDFiltering」を提案しています。テキスト埋め込みに基づく階層的クラスタリングを活用し、LLMへの問い合わせを適応的に選択することで、全データの品質を推定します。
MEIDNet: マルチモーダル生成AIによる材料の逆設計フレームワーク
TL;DRMEIDNetは、材料の構造情報と特性を対照学習で共同学習するマルチモーダルな逆設計フレームワークである。等変グラフニューラルネットワーク（EGNN）を用いて構造をエンコードし、生成的な逆設計と組み合わせることで、目標特性を満たす材料の探索を加速させる。
Transformer推論のためのレート歪み最適化
TL;DRTransformerの推論を複数デバイスで効率的に行うため、中間表現を圧縮するレート歪みベースのフレームワークを提案した研究である。ビットレートと精度のトレードオフを学習するこの手法は、言語ベンチマークにおいて、より複雑なベースライン手法を上回る圧縮率と精度を達成した。
異種コンピューティング：AIエージェント推論の未来を支える鍵
TL;DRAIエージェントの推論は、計算能力だけでなくメモリ容量や帯域幅のボトルネックを露呈させている。本研究は「演算強度（OI）」と「容量フットプリント（CF）」という2つの指標を導入し、従来のルーフライン分析では見逃されていたメモリ容量の壁などの領域を解明する。
保存済みの記事がまだありません。
読み込み中…