arXiv雑要約
AI - 2026/08/04 公開
LLMにおける嗜好の多様性に対するグループバイアス除去型連合学習によるパーソナライズされた報酬モデリングの再考 [cs.NI, cs.PF, cs.LG, cs.AI]目的：LLMのパーソナライズされた報酬モデリングの改善
- LLMの性能向上には，人間の嗜好との整合が不可欠であり，報酬モデリングが重要な役割を果たす。
- ユーザーの嗜好データは機密性が高く，中央集権的な学習が困難であるという課題が存在する。
- 嗜好の多様性に対応しつつ，効果的なパーソナライズを実現するための新たな手法を開発する。
- 連合学習において，グループ間の嗜好のバランスが取れている場合，単一のFedAvgモデルが，個別に学習されたモデルよりも優れた性能を示す。
- この現象は，共有初期化の平坦性に起因し，多様な表現を学習し，相反する嗜好の影響を打ち消す効果がある。
- 提案手法FedGDは，嗜好の偏りを解消するグループバイアス除去型クライアントサンプリングにより，適応性の高い初期化を実現する。
エージェントAIの安全性確保：個別行動チェックから行動軌跡保証へ [eess.SY, cs.SY, cs.AI, cs.CR, cs.MA]目的：エージェントAIの安全性確保に関する課題と対策
- AIエージェントの活用が拡大する中で，安全性確保は不可欠である。
- 個々の行動の正しさは全体の安全性とは異なり，システムレベルでの制約遵守が課題。
- AIアーキテクチャ，プロトコル，ランタイムにおける検証可能な安全性確保を目指す。
- AIエージェントの安全性は，単一の課題ではなく，エージェントスタック全体に及ぶ複雑な問題である。
- 特に，一連の許容可能な行動が，システム全体の制約に違反する可能性があるという行動封じ込めが重要課題。
- サプライチェーンの完全性，起源，説明責任，およびエンドツーエンドの可視性も，未解決の課題である。
敵対的自己対戦の競争的要素は法的推論を改善するか？統制された否定的な結果 [cs.AI, cs.CL, cs.LG]目的：法的推論における敵対的自己対戦の競争的要素の効果の検証
- 法的推論の自動化は，法曹界の効率化やアクセス向上に貢献しうる重要な課題である。
- 敵対的自己対戦は有望な手法だが，競争的要素が実際に有効性を高めるか不明確である。
- 本研究は，敵対的自己対戦における競争的要素が，法的推論能力の向上に寄与するかどうかを検証する。
- 敵対的自己対戦の競争的要素は，法的推論能力の向上に有意な効果をもたらさなかった。
- 複数の実験（ブートストラップ比較，二重シードによる再現性検証，ケースペア比較，ブラインドテストなど）の結果，競争的要素の有無に差は見られなかった。
- 初期に観測された優位性は，サンプルサイズの不足による偶然の結果であり，より多くのデータで反転した。
Meganeura：VulkanとMetalによるポータブルなGPUトレーニングと推論 [cs.HC, cs.RO, cs.LG, cs.DC, cs.PL]目的：消費者向けGPUにおける両フェーズをサポートするコンパクトなネイティブコンパイラの実現
- GPUを用いた機械学習は，高性能な計算能力を必要とし，様々な分野で活用が進んでいる。
- 既存のフレームワークは，プラットフォーム依存性が高く，異なる環境への移植が困難な場合がある。
- GPU上でトレーニングから推論までを統一的に実行できる，ポータブルなコンパイラを開発し，その性能を検証する。
- Meganeuraは，VulkanとMetalを用いて，NVIDIA，AMD，Apple Silicon，IntelのGPUで動作することを確認した。
- 厳密なf32精度で，20のGPU参照最小遅延セル中12でMeganeuraが勝利し，平均的なトレーニングのギャップは1.8倍だった。
- コンパイル時間はtorch.compileと比較して大幅に短縮され，バイナリサイズもコンパクトに抑えられた。
濃霧下における視覚知覚の強化：多クラスの霧密度モデリングによるアプローチ [cs.CL, cs.CV, cs.AI]目的：濃霧下でのロバストな視覚知覚の実現
- 自動運転技術の発展には，悪天候下での安定した知覚能力が不可欠である。
- 濃霧などの視界不良環境下では，既存の知覚システムの性能が著しく低下する。
- 霧密度に応じたモデルを構築することで，悪天候下での知覚性能の向上を目指す。
- 霧密度ごとに異なる知覚モデルを訓練することで，濃霧条件下での性能向上が確認された。
- 特に，非常に濃い霧の場合，再現率は0.076から0.232へと15.6%ポイント改善された。
- 汎用モデルではなく，複数の専門モデルを用いることが，自動運転における視覚知覚のロバスト性を高める効果が示唆された。
言語モデルにおける文脈内アルゴリズム推論の測定：厳密なベイズ最適基準との比較 [cs.RO, cs.LG, cs.AI]目的：言語モデルにおける文脈内アルゴリズム推論能力の評価
- 大規模言語モデルの発展は目覚ましいが，真の推論能力の検証が課題となっている。
- 既存のベンチマークは正解の帰納推論がないため，アルゴリズム推論とパターン認識の区別が困難である。
- 厳密なベイズ最適基準を用いて，言語モデルのアルゴリズム推論能力を定量的に評価すること。
- F-ICLベンチマークは，チューリング完全機械Fを用いて，長さ13以下の15億個のプログラムを網羅的に列挙し，ベイズ最適解を計算する。
- 多くのモデルは高い正答率を示すものの，その分布はベイズ最適解から大きく乖離しており，低次のプレフィックス統計によって説明できる。
- 追加データによって解決済みの問題が未解決になる現象が確認され，従来のベイズ理論では説明できない結果が得られた。
AIモデルのセマンティックアライメント：概念の崩壊，チェックポイントのダイナミクス，そしてクロスリンガル転移 [cs.CL, cs.LG]目的：AIモデルにおけるセマンティックアライメントの評価
- 言語モデルの性能評価は，AI開発において不可欠であり，モデルの理解度を測る上で重要である。
- 既存のベンチマークは容易に飽和状態に達し，モデルが学習データに過剰適合する問題がある。
- モデルの概念構造を理解し，言語を超えた理解度を検証するための新たな評価手法を確立すること。
- トポロジー的手法を用いることで，高次元の埋め込み空間と低次元の解釈可能な基準との厳密な比較が可能となった。
- この多角的なアライメントテストにより，モデルの適応状況を追跡し，フレーズの理解を多言語間で評価できるようになった。
- 本研究は，モデルのセマンティック構造を特徴づけることで，より深い洞察を提供し，言語モデルの解釈可能性を高める。
より多くの特権情報がより良いか？自己蒸留による推論構造から問題解決構造へ [cs.AI]目的：自己蒸留における問題空間誘導の有効性
- 複雑な問題解決には高度な推論能力が不可欠であり，その自動化は重要である。
- 従来の自己蒸留では，推論時に利用できない参照解に依存した教師信号が課題となる。
- 問題空間に基づいた誘導により，推論時の制約下でも有効な知識伝達を目指す。
- 提案手法PS-OPSDは，3つの数学的推論ベンチマークで既存手法を上回る精度を達成した。
- 誘導の関連性と経路の一貫性が，性能向上に貢献していることが示唆された。
- 特権情報の表現方法が，自己蒸留の設計において重要な要素であることが明らかになった。
潜在思考の信用：潜在的推論のための複数回答信用割り当て [cs.AI]目的：潜在的推論における思考レベルの報酬推定と最適化
- 言語モデルの推論能力向上は，高度な問題解決に不可欠である。複雑なタスクの遂行を可能にする。
- 潜在的推論では，思考過程が内部表現で行われるため，報酬の割り当てが困難である。最終的な回答のみでは，思考の質を正確に評価できない。
- 潜在思考の信用（LTC）により，思考レベルでの正確な報酬推定と，それに基づくモデルの最適化を目指す。
- LTCは，複数回の回答生成を通じて思考レベルでの期待報酬を推定し，報酬推定誤差を低減する。
- 数学的推論とSTEM多肢選択問題において，既存手法を上回る平均正答率を達成した。
- 思考レベルの優位性に基づいた最適化により，高信用度の潜在的思考の再現性が向上する。
HindSearch：探索拡張強化学習のための軌跡レベルの事後批判 [cs.LG, cs.AI, cs.IR]目的：探索拡張LMエージェントの学習における性能向上
- 大規模言語モデルを強化学習に活用する研究が盛んであり，その性能向上が求められている。
- 従来の強化学習では，失敗した軌跡からの情報を十分に活用できていないという課題がある。
- 失敗した軌跡に対する事後批判を通じて，より効率的な学習を目指す。
- HindSearchは，Qwen2.5-3B-Instructを用いて7つのベンチマークテストで平均EM 39.4%を達成し，既存の探索RLベースラインを上回った。
- 事後批判（正解へのアクセス）を削除すると性能が大幅に低下し，事後批判が性能向上の主要因であることが示された。
- 事後自己蒸留により，失敗軌跡から得られる情報を活用し，エージェントの探索行動を改善する。
PICTURE：大規模言語モデルにおける他者理解能力の向上 – 登場人物の知識不足を隠すのではなく明らかにする [cs.CL, cs.AI]目的：大規模言語モデルにおける他者理解能力の向上
- 自然言語処理において，人間のような他者理解能力のシミュレーションは長年の課題である。
- 既存手法ではイベント隠蔽が用いられるが，厳格な出力形式制約により性能劣化が生じる。
- イベント隠蔽を行わずに自由形式の説明を生成することで，この性能劣化を解消することを目指す。
- PICTUREは，推論過程において登場人物の知識不足を明示的に生成する新しいプロンプト手法である。
- 実験結果から，PICTUREは虚偽信念課題において既存手法を平均7.3%上回る性能を示した。
- 大規模言語モデルは，知識不足が明示されることで，無関係なイベントへの応答を抑制できることが示された。
潜在的市場体制のバイアス監査によるボラティリティ予測 [cs.LG]目的：ボラティリティ予測の信頼性に関する市場体制別のバイアス評価
- リスク管理において，ボラティリティ予測の正確性は極めて重要である。
- 既存の評価指標は全体的な精度しか示さず，特定の市場体制での予測失敗を見過ごしがちである。
- 潜在的市場体制を特定し，予測のバイアスとテールリスクの過小評価を評価することで，より信頼性の高い予測を目指す。
- 従来の評価指標では見過ごされていた，市場体制に依存した予測バイアスが確認された。
- 競争力のある平均精度を持つモデルであっても，特定の市場体制において深刻なテールリスクの過小評価が見られた。
- ボラティリティ予測の評価は，平均誤差だけでなく，予測が信頼性を失う市場体制の特定が重要である。
オフィス業務での追加学習がソフトウェアエンジニアリングを向上させる：ドメイン横断的転移の行動的説明 [cs.RO, cs.AI, cs.SE]目的：長期的なタスク遂行能力の向上
- 複雑なタスク遂行には，一貫した状態と目標の維持が不可欠である。
- 既存のモデルは，長期的なタスクにおける目標指向型の実行に課題を抱えている。
- オフィス業務での追加学習が，異なるドメインでの知識応用に変化をもたらすことを検証する。
- オフィス業務での追加学習により，ソフトウェアエンジニアリングのベンチマークテスト（SWE-Bench Pro）の正答率が5.8ポイント向上した。
- 軌道分析の結果，オフィス業務とソフトウェアリポジトリの両方で，目標選択，状態構築，目的維持，完了検証といった目標指向型実行の4つの行動が改善された。
- SWE-Bench Proの集計統計は，情報収集，実装，検証における関連する変化を示した。
線形多時間スケール保持によるメモリ効率の良い視覚言語ブリッジ [cs.ET, cs.CV, cs.AI]目的：視覚言語モデルのメモリ効率向上
- 視覚言語モデルは画像処理において高い計算コストが課題となっている。
- 従来のAttention機構はメモリ消費量が大きく，高解像度画像の処理が困難である。
- 本研究は，効率的なメモリ管理により長文脈の視覚情報を扱えるモデルの構築を目指す。
- 提案手法LIA-MTRは，16,000トークンにわたる文脈を正確にルーティングできることが確認された。
- LIA-MTRは，11.2GBのVRAMで262,144パッチの画像を処理可能であり，従来のMHAと比較して大幅なメモリ効率の改善が見られた。
- MMEベンチマークにおいて，LIA-MTRは産業標準のMLPベースラインを上回り，特に物体永続性において10%の絶対的な改善が示された。
熱的確率的プログラム [cs.ET, cs.LG]目的：エネルギー効率の良い確率的サンプリングのための熱力学的ハードウェアへの確率的プログラムのマッピング
- 確率的モデリングは，不確実性を含む問題を扱う上で不可欠であり，多様な分野で応用されている。
- 従来の確率的プログラムの計算は，計算コストが高く，エネルギー消費が大きいという課題がある。
- 本研究は，熱力学的ハードウェアを活用することで，確率的プログラムの計算効率と省エネルギー化を実現することを目指す。
- 確率的プログラムを，ハードウェアネイティブなエネルギーベースモデルに近似的に変換する方法を提案。
- 各要素のエラーが累積する方法を解析し，コンテキストマッチングと軌跡レベルのREINFORCEによる訓練改良を導入することで残差誤差を低減。
- 市場シミュレーター，生態モデル，EBMのギブスサンプリング，ベイズ設計ループなど，複数のアプリケーションで有効性を示した。
ミニマックスと事後一致によるオンラインアルゴリズム [cs.LG, cs.DS]目的：オンラインアルゴリズムにおける競争率の解析手法
- オンラインアルゴリズムは，データが逐次的に与えられる状況での意思決定において重要である。
- 従来の競争率解析は問題に依存性が高く，汎用性に欠ける点が課題であった。
- ミニマックス原理と事後一致を用いることで，より普遍的な解析フレームワークを構築し，競争率を評価する。
- 事後一致の原理に基づき，複数のオンラインフラクショナル問題に対して最適またはほぼ最適の保証が得られることが示された。
- 集合被覆，負荷分散，マッチングなど，古典的な問題における既存の結果を改善または再現することに成功した。
- 本手法は，オンラインベイズ設計と最悪ケースの競争率保証を結びつける再利用可能な経路を提供する。
記憶が更新されても行動は変わらない：パーソナライズされたエージェント応答における暗黙的な陳腐化依存性の修復 [cs.AI]目的：パーソナライズされたエージェント応答における暗黙的な陳腐化依存性の修復
- ユーザーの状況に合わせた応答は重要だが，記憶の不整合が課題となる。
- エージェントは，ユーザーの古い状態を認識しながらも，その情報に基づいて行動してしまう場合がある。
- エージェントが古い状態を検出し，それを新しい情報で更新するメカニズムを開発する。
- 提示手法は，STALEベンチマークにおいて既存手法より高いVTAスコアを達成した。
- 特に，暗黙的なポリシー適応（IPA）と前提への耐性（PR）において改善が見られた。
- HorizonBenchにおいても，現在のユーザー選好の精度が向上したが，その効果は主にドラフト側の監査によるものであることが示された。
SMM Transformer：マルチモーダルタスクのためのスパイクニューラルネットワークの活用 [cs.NE, cs.MM]目的：マルチモーダルTransformerにおけるスパイクニューラルネットワークの活用
- 近年，脳の動作原理に即したスパイクニューラルネットワークが注目されている。低消費電力での推論が期待される。
- 深層スパイクネットワークの学習は不安定になりやすく，既存のTransformerとの統合が困難であった。
- スパイクベースの通信に適した新しいモジュールを開発し，安定した学習と効率的な推論を実現することを目指す。
- 提案手法SMM Transformerは，画像とマルチモーダルベンチマークにおいて，従来のANNベースラインと同等の精度を達成した。
- SMSAモジュールは，アテンションモジュールの演算レベルでの消費エネルギーを最大97%削減できることが示された。
- モデル全体のプロファイリングからも，一貫した効率の向上が確認された。
次元ではなくノルム：言語モデルの勾配を用いない重み摂動における重要な要素 [cs.CL, cs.LG]目的：言語モデルの勾配を用いない重み摂動における性能に影響を与える要素の特定
- 大規模言語モデルのファインチューニングは計算コストが高い。効率的な手法が求められている。
- 勾配を用いない重み摂動は，全重みを探索するため効率性に課題がある。
- 重み摂動が機能する根源的な要因を解明し，効率的な重み摂動手法を確立する。
- 固定されたパイプライン内で実験を行った結果，摂動の次元や基底は性能に影響を与えないことが判明した。
- 性能差は摂動のノルムに起因しており，その有効範囲はモデルやスケールに関わらず一定範囲に収まることが示された。
- 設計の焦点は，どの部分空間を摂動するかから，どの程度の強さで摂動するかへと変化する。
QWRF-Net：整流化フローを用いた量子・ウェーブレットフレームワークによる短期降水予測 [cs.LG, cs.AI]目的：短期降水予測の精度向上
- 都市型洪水や急流洪水など，高影響気象災害への早期警戒に，短期降水予測が不可欠である。
- レーダー降水データは多スケール構造を持つが，予測時間が長くなるにつれて精度が低下し，降水コアの維持が困難である。
- 潜伏特徴をウェーブレットサブバンドに分解し，量子に着想を得た変調を行うことで，降水表現の精度を向上させる。
- QWRF-Netは，KNMIレーダーとSEVIRベンチマークにおいて，全体的に良好な性能を示した。
- 特に，中～高降水閾値，極端なイベント，および降水コアの維持において，一貫した改善が見られた。
- ウェーブレット分解，サブバンド変調，フローベース生成が，フレームワーク内の相補的な利点をもたらすことが示された。
RING：継続的な大規模知識注入のための検索内包生成 [cs.CL, cs.CL, cs.AI]目的：大規模知識の注入
- 大規模言語モデルの知識更新は，その性能向上に不可欠である。
- 従来の検索拡張生成は，遅延と運用コストが大きい。
- 外部検索モジュールを不要にし，効率的な知識注入を実現する。
- RINGは，知識専門家と強化学習によるパラメトリック検索を組み合わせることで，外部検索器なしで大規模知識を注入する。
- 二重因果注意機構と段階的な学習により，新しい知識の注入と検索能力の獲得を同時に行う。
- News-2025ベンチマークにおいて，検索ベースのRAGや他のパラメトリック注入手法を精度と効率の両面で上回る。
GraphIR：LLMによるニューラルアーキテクチャ進化のためのアーキテクチャレベル探索状態 [cs.CL, cs.LG]目的：LLMガイド型ニューラルアーキテクチャ進化における探索状態の表現
- ニューラルネットワークの自動設計は，高性能なモデルを効率的に開発するために重要である。
- 従来のコードレベルの柔軟性では，効果的な変異に必要なアーキテクチャ状態を捉えられない。
- アーキテクチャを意識した中間表現により，LLMとニューラルアーキテクチャの効率的な進化を可能にする。
- GraphIRは，テンソルフロー，編集可能なモジュール，互換性制約を捉えたアーキテクチャ状態を提案する。
- 構築したNAS-Dependencyベンチマークにおいて，GraphIRは依存関係の特定と伝播において高い性能を示した。
- CLRSを含む6つのベンチマークで，GraphIRは最高の探索性能を達成し，NAS効率も良好であった。
サラミ攻撃：OpenClawに対するステルス的な共謀メモリ汚染 [cs.RO, cs.AI]目的：LLMエージェントの長期記憶に対する共謀的なメモリ汚染攻撃の構築
- LLMエージェントの能力向上に必須だが，長期記憶は攻撃対象となりうる。
- 既存研究は単独の悪意あるレコードに焦点を当て，複数の記憶の組み合わせによる脅威を見過ごしている。
- 一見無害な記憶の集合が，エージェントの行動を悪用する問題を解決する。
- MemCollusionは，個別に無害に見えるメモリ断片を組み合わせ，有害な行動を誘発する。
- MoltLabを用いて現実的なシナリオを再現し，OpenClaw上でMemCollusionを評価した結果，高い攻撃成功率とメモリ保存率を示した。
- 記憶の希釈や防御機構下でも有効であることが確認された。
要件引き出しインタビューにおけるAI支援スクリプト管理 [cs.SE, cs.AI]目的：要件引き出しインタビューにおけるAI支援スクリプト管理の有効性
- 要件定義は，システム開発の成功に不可欠であり，その品質が最終成果物を左右する。
- インタビュー担当者は，話題の網羅性，傾聴，適応的な質問をリアルタイムで両立する必要がある。
- AI支援により，インタビューの質を向上させ，より詳細な要件を抽出することを目指す。
- AI支援スクリプトは，トレーニングのみのスクリプトよりも高い評価を得た(100点満点中92.8点 vs 74.8点)。
- AI支援インタビューでは，話題数は減少したが，スクリプト化された質問のカバー率と，話題あたりのフォローアップ質問数が増加した。
- AI支援は，より洗練された目標モデルの作成に貢献し，参加者は話題追跡機能に有用性を感じた。
StreamTalk：キーポーズアンカリングを用いたストリーミング共同発話ジェスチャー生成 [cs.CV, cs.AI, cs.GR]目的：リアルタイム共同発話ジェスチャー生成のための手法
- 人間らしいコミュニケーションにおいて，ジェスチャーは言語と並んで重要な役割を担う。
- 既存のストリーミング手法では，誤差が蓄積し，長期間のシーケンスでドリフトが発生しやすい。
- 前方拘束の欠如を克服し，ドリフトを抑制する手法を開発すること。
- StreamTalkは，生成・検索・洗練の周期的なサイクルを持つ閉ループフレームワークである。
- 提案手法は，キーポーズをアンカーとして利用することで，ドリフトを効果的に抑制することに成功した。
- BEAT2データセットにおいて，最先端の性能を達成し，76 FPSでリアルタイムに動作する。
CRAFT：視覚言語モデルのためのビデオトークン再帰的適応融合による圧縮 [cs.CV, cs.AI]目的：ビデオトークンの圧縮手法
- 動画理解において，視覚言語モデルは大量の視覚トークンを処理する必要があり，計算コストが増大する。
- 既存の圧縮手法は，適応性の低さか，学習コストの高さという課題がある。
- 効率性と適応性の両立を目指し，動画の冗長性を考慮した圧縮手法を提案する。
- CRAFTは，パラメータ不要なトークン選択と学習可能なトークン融合を分離することで，効率的な圧縮を実現した。
- CRAFTは，バックボーンの平均精度を約97%維持しながら，約8倍の圧縮率を達成した。
- CRAFTは，複数のビデオベンチマークにおいて，既存の最先端のトークン圧縮手法を上回る性能を示した。
GISAgentBench：GISタスクにおけるLLMエージェントの評価のための実務家が作成したベンチマーク [cs.AI]目的：GISタスクにおけるLLMエージェントの性能評価
- 都市計画，災害対応，環境モニタリング等の意思決定を支援する地理情報システム(GIS)の重要性が高まっている。
- GISにおける多段階空間分析ワークフローは，手間と時間がかかり，誤りが発生しやすいという課題がある。
- 現実的なGISワークフローにおけるLLMエージェントの性能を厳密に評価するためのベンチマークの提供。
- GIS Stack Exchangeから収集した349のGISタスクからなるGISAgentBenchを構築した。
- 各タスクには，実行可能な参照軌跡と正確な正解出力が付属しており，厳密な評価が可能である。
- 6つのLLMモデルの評価結果から，現実的なGISワークフローは依然として困難であることが示唆された。
スパイクHTR：手書き文字認識のためのスパイクニューラルTransformer [cs.NE]目的：手書き文字認識のためのスパイクニューラルネットワークTransformer
- 手書き文字認識は，デジタル化された文書の利用を促進する上で重要な技術である。
- 既存の手書き文字認識モデルは，計算資源の非効率性や，スパイクニューラルネットワークとの相性問題がある。
- 本研究では，計算効率と認識精度を両立する新たなスパイクニューラルネットワークモデルを提案する。
- 提案手法Spike-HTRは，少ないスパイクステップ数と位置処理で高い認識性能を発揮する。
- IAM，LAM，READ2016のデータセットにおいて，それぞれ3.5/5.4，2.3/2.5，4.2/3.9の検証/テストCERを達成した。
- 言語モデルや辞書なしで，ターゲットデータのみを用いて学習およびデコードが可能である。
大規模HPCシステムにおけるハードウェアエラー予測手法の評価 [cs.LG]目的：大規模HPCシステムにおけるハードウェアエラーの予測可能性
- HPCシステムの信頼性向上は，科学計算の発展に不可欠である。
- ハードウェアエラーの早期予測は困難であり，システム運用に大きな課題がある。
- エラーの種類に応じた予測手法の有効性を評価し，予測の限界を明らかにする。
- 定期的に発生し構造が安定したエラーは，LSTMやTransformerなどのモデルで高精度に予測可能である。
- しかし，発生頻度が低く，突発的なエラーの予測は依然として難しい。
- 本研究は，HPCシステムのハードウェアエラー分析における予測の有効性を判断するための指針を提供する。
ハイブリッドアテンション言語モデルに対する効率的な木構造推測 [cs.NI, cs.DC, cs.CL, cs.LG]目的：ハイブリッドアテンション言語モデルにおける木構造推測の効率化
- 大規模言語モデルの利用拡大に伴い，推論コストの削減が重要となっている。
- ハイブリッドアテンションモデルはメモリボトルネックがあり，高速化が課題である。
- 木構造推測による高速化を実現するにあたり，メモリ効率が鍵となる。
- Boleは，ハイブリッドアテンションLLM向けに効率的な木構造推測を可能にするカーネル・ランタイム共同設計である。
- 線形アテンションの再帰構造を閉形式の木構造に変換し，並列検証により線形アテンションの木構造検証を最大7.7倍高速化する。
- 推測状態更新をトークンレベルの因子として無損失に符号化し，必要な状態のみを再構築することで，一時的なメモリ使用量を大幅に削減する。
SyncPlan: 明示的同期と適応的修正による長期的LLM連携 [cs.RO, cs.AI]目的：長期的なLLM連携のための計画，実行，修正の枠組み
- LLMエージェント連携は，複雑なタスクを効率的に解決するために重要である。
- 従来の連携手法は，環境変化への適応性と効率性の間でトレードオフが存在する。
- SyncPlanは，同期と修正により，環境変化に対応しつつ効率的な連携を実現する。
- SyncPlanは，中央集権的なLLMコーディネーターにより，エージェントごとの行動チェーンを一度の計画で生成する。
- 実行時には，待機プリミティブとデッドロック検出により，エージェント間の依存関係を強制し，計画の鮮度検出器が計画の再計画をトリガーする。
- OvercookedとHonor of Kings環境での実験で，SyncPlanは高いタスク成功率と，既存手法と比較して大幅な高速化を実現した。
LongCat Sparse Attention：ストリーミング対応階層型クロスレイヤーインデックスによる高速化 [cs.AI, cs.CL, cs.DC, cs.LG]目的：長文脈モデリングの効率化
- 大規模言語モデルの性能向上には，長文脈の処理能力が不可欠である。
- 既存のスパースアテンションは，インデックス作成の計算コストが高いという課題がある。
- ハードウェアとの協調設計により，インデックス作成の効率を向上させる。
- LongCat Sparse Attention (LSA)は，フルアテンションと同等の性能を，汎用ベンチマークと長文脈ベンチマークの両方で実現している。
- LSAは，最大100万トークンの文脈長での学習をサポートし，LongCat-2.0 (1.6T-A48B)の開発を可能にしている。
- LongCat-Flash-Lite-Sparse (69B-A3B)をオープンソース化し，さらなる研究を促進する。
セグメンテーション基盤モデルのための少数の概念プロンプト学習：視覚的根拠付けによるアプローチ [cs.CV, cs.AI]目的：セグメンテーション基盤モデルにおける少数の概念プロンプト学習
- 医療画像解析における自動セグメンテーションの精度向上は，診断・治療の効率化に不可欠である。
- 既存のプロンプタブルセグメンテーション基盤モデルは，臨床タスクにおいて期待される性能を発揮できていない。
- 視覚的根拠付けによる概念プロンプト学習で，画像とマスクペアから学習し性能を回復させる。
- 提案手法FS-CPLは，超音波や内視鏡検査の4つの公開ベンチマークにおいて，従来のテキストプロンプトと比較して最大でDice係数を0.62向上させた。
- FS-CPLは，SAM3とMedical SAM3の両方の性能を向上させ，バックボーンに依存しない汎用性を示した。
- 視覚的概念プロンプトは，ドメイン固有の事前学習と相補的な効果を発揮することが示された。
FAUによるImageCLEF 2026タスクにおけるマルチモーダル推論：堅牢な候補スコアリングと簡潔な多言語画像質問応答 [cs.CV, cs.LG]目的：マルチモーダル推論システムの開発と評価
- 画像とテキストの理解を組み合わせるマルチモーダル推論は，教育・科学分野における情報処理の基盤となる。
- 複雑な図表や数式を含む画像に対する質問応答は，既存のモデルでは信頼性が低い場合がある。
- 推論時のスコアリング，アンサンブル，プロンプティング等の工夫により，モデルの性能を最大限に引き出す。
- Visual MCQにおいて，直接的な候補ラベルのスコアリングとスコア融合により高い精度を達成した。
- Visual OpenQAにおいて，画像強調，簡潔な回答プロンプティング，決定論的デコーディング，後処理により，優れた結果を得た。
- モデル固有の学習なしに，Visual MCQで3位，Visual OpenQAで1位の成績を収めた。
ランキング前割り当て：汎用LLMのためのデカップルドトークン圧縮 [cs.AI, cs.SD]目的：汎用LLMにおけるトークン圧縮手法
- マルチモーダルLLMの性能向上には，効率的なトークン圧縮が不可欠である。
- 既存手法では，各モダリティへの容量配分とトークン選択が同時に決定される。
- モダリティごとに予算を事前に割り当て，公平なトークン選択を実現する。
- Macerは，精度を維持しつつ，トークンコストを大幅に削減できる。
- Qwen2.5-Omni-7Bにおいて，25%のトークン保持率で，フルトークンの性能の98.7%を維持した。
- OmniVinci-9Bでは，既存手法と比較して最大12.9ポイントの性能向上が見られた。
スタイルが勝り，本質が負ける：アイデア創出におけるLLMを評価者とする現状の診断 [cs.CL, cs.AI]目的：LLM（大規模言語モデル）を評価者としたアイデア評価におけるスタイルの影響の診断と軽減
- 科学的アイデアの評価は，研究の進歩と質の向上に不可欠である。
- LLMを評価者とする場合，科学的根拠よりも表面的なスタイルに影響される可能性が指摘されている。
- LLMによるアイデア評価におけるスタイルの偏りを特定し，軽減することを目指す。
- SciStyleBenchにより，LLMは依然として記述スタイルに敏感であり，科学的本質の識別が困難であることが示された。
- SciStyleExtractorを用いることで，スタイルの偏り指標(SBI)が0.566から0.501に低下し，本質認識率(SRR)と有利勝率(AWR)がそれぞれ向上した。
- これらの結果は，科学的アイデアの堅牢な評価には，スタイルへの不変性と科学的本質への感度の両方が必要であることを示唆する。
TCPO：ターンレベルの信用方針最適化 [cs.AI]目的：検証者誘導型強化学習におけるターンレベルの信用配分手法
- 大規模言語モデルの推論能力向上は，自然言語処理の重要な課題である。
- 従来の検証者スコアは，現在の出力の質しか評価できず，改善軌跡への貢献度を示す信用配分が不十分である。
- ターンごとの貢献度を正確に評価し，より効率的な多ターン推論を実現すること。
- TCPOは，スコアから信用への変換として信用配分を定式化し，参照ベースの比較を通じてターンレベルの優位性を構築する。
- 数学的推論，コード生成，AppWorldエージェントタスクにおいて，TCPOは既存の最良手法を上回る，または同等の性能を示す。
- Qwen3-4BおよびDeepSeek-R1-Distill-Llama-8Bで最良のPass@8を達成し，成功までのターン数を削減，多ターンエージェントの性能向上に貢献する。
射影的入射と順序付き根の法則による鋭い根の非集中化 [cs.NI, cs.HC, cs.LG]目的：区分的にLipschitz関数に対するオンライン最適化における根の非集中化問題の解決
- オンライン最適化は，機械学習や制御理論など，様々な分野で重要な役割を担う。
- 根の集中は，オンライン最適化の性能を低下させる主要な問題点の一つである。
- 根の非集中化に関する厳密な理論的限界を確立し，実用的なアルゴリズムの設計を支援する。
- 同質特徴曲線と係数分布において，最悪の場合の区間ヒット定数は，射影的入射速度に依存することが示された。
- 立方体支持係数の場合，この速度は射影的Lipschitz定数と同等であり，次元に依存しない明確な特徴付けが得られた。
- 単項式の場合，根の順序付き分布の密度が有界であれば，区間ヒット定数が有限となる条件が導かれた。
想起すべきものを学習：文脈蒸留によるテスト時学習 [cs.CL, cs.AI, cs.LG]目的：長文脈モデリングにおける情報保持戦略
- 長文脈モデリングは自然言語処理の重要な課題であり，その性能は様々な応用分野に影響する。
- 既存のテスト時学習手法は，再構成やオンライン適応に焦点を当てており，将来的な情報の有用性を考慮していない。
- 将来の予測に重要な文脈情報を効率的に記憶するためのメカニズムを開発する。
- 提案手法であるTTCDは，長文脈の教師モデルを用いて，短期モデルの重みを監督することで，将来的に有用な情報を選択的に記憶する。
- IP-TTCDは，既存のMLPパラメータを高速重みとして利用する効率的な実装であり，ゼロから学習した場合でも優れた性能を示す。
- 事前学習済みモデルにIP-TTCDを適用することで，軽量なアーキテクチャ拡張のみで長文脈処理能力を獲得できる。
長文コンテキスト基盤モデルにおけるスパース注意選択性の理解：反事実的評価による検証 [cs.CL, cs.LG]目的：長文コンテキスト基盤モデルにおけるスパース注意選択性のメカニズム解明
- 長文処理能力は，大規模言語モデルの重要な性能指標であり，応用範囲の拡大に不可欠である。
- スパース注意機構は計算効率を高める一方で，情報損失や性能低下を引き起こす可能性がある。
- スパース注意による影響を定量的に評価し，モデルの挙動をより深く理解することを目的とする。
- ブロックスパースフラッシュ注意(BSFA)において，ブロックの削除がモデルの出力決定に影響を与えることが確認された。
- 正解と誤解のブロックは，フィラーブロックよりも高い影響力を維持する傾向がある（信号集中）。
- 圧縮率の上昇に伴い，スパース注意による影響が増幅する傾向が見られたが，一部では逆転も確認された。
運動空間における生成ブラウン橋拡散による心筋ひずみ分析の向上 [cs.CV, cs.LG]目的：心筋ひずみ分析の精度向上
- 心臓機能評価において，心筋ひずみ分析は重要な役割を担う。
- 既存手法は，手動調整が必要で精度が低いか，高価な撮像が必要である。
- 標準的な心臓MRI画像から高精度なひずみ値を生成する手法を開発する。
- 提案手法は，既存の学習ベースのアプローチと比較して，運動予測とひずみ分析の精度を大幅に向上させる。
- 生成モデルを活用することで，ルーチンな心臓MRIシーケンスから高品質な運動由来のひずみ値を合成できる。
- 本研究は，臨床現場での心臓機能評価に貢献する，費用対効果の高いAIツールの開発につながる可能性がある。
強化学習による漸進的なエージェントスキル生成 [cs.LG, cs.CL]目的：エージェントスキルの高品質な生成
- 多様な情報源を活用したスキル生成は，エージェントの性能向上に不可欠である。
- 既存手法は特定情報源に依存し汎用性に欠ける。学習ベースの手法は課題が残る。
- スキル生成の評価指標が不明確であり，報酬設計が難しいという問題を解決する。
- 提案手法Skill-αは，スキル生成を編集プロセスとして捉え，各編集を評価する。
- ロールバック報酬を用いることで，編集の効果を客観的に評価することが可能となる。
- CL-Benchとtau2-benchにおいて，既存手法を3.3点，6.7点それぞれ上回る性能を示した。
記憶が権威となる時：記憶固定化境界における権威崩壊のベンチマーク [cs.AI]目的：LLMエージェントにおける権威崩壊の評価
- LLMエージェントの適応能力向上の鍵は，過去の経験を効果的に再利用することにある。
- 記憶固定化の過程で，情報の出所が失われ，権威が誤って拡大される問題が存在する。
- 記憶固定化における権威の保持メカニズムを評価し，権威崩壊を抑制する方法を探る。
- 49回の評価設定中，48回で権威崩壊が確認された。つまり，多くのシステムで権威の保持が課題となっている。
- 権威メタデータなしの記憶は，50.3%という高い割合で不正な行動を引き起こすことが示された。
- 自動的に予測・保持された権威ラベルにより，不正な行動の発生率を0.0%まで大幅に低減することができた。
GABench：グラフ分析タスクにおけるLLMエージェントの評価のための包括的ベンチマーク [cs.AI]目的：LLMエージェントのグラフ分析能力の包括的な評価
- グラフ構造は現実世界の複雑な関係性を表現でき，様々な分野で不可欠である。
- 既存のグラフベンチマークはタスクとグラフの種類が限られ，LLMエージェントの能力を十分に評価できない。
- 包括的なベンチマークを提供し，LLMエージェントのグラフ分析能力の限界を明らかにする。
- GABenchは，3種類のグラフと4つのグラフ分析タスクカテゴリを網羅し，84個の実行可能なツールを提供する。
- 実験の結果，既存のLLMエージェントは複雑なグラフ分析タスクで苦戦しており，ハーネスの選択が性能に大きく影響することが示された。
- グラフ分析においては，ツールの質が量よりも重要であることが明らかになった。
ProtoAct：ウェットラボのプロトコルをロボットの実行可能な行動へ [cs.HC, cs.RO, cs.AI]目的：ウェットラボのプロトコルをロボットが実行可能な行動シーケンスへの変換
- 生物学研究の自動化は，実験の効率化と再現性の向上に不可欠である。
- プロトコルは専門家向けに書かれており，ロボットが解釈できる詳細な手順が欠如している。
- プロトコルの曖昧さを解消し，ロボットが理解できる形式に変換すること。
- ProtoActは，プロトコルを状態に応じた行動シーケンスに変換するフレームワークである。
- ProtoActは，異なる大規模言語モデルで効果的に実行可能であることが確認された。
- 変換されたサブタスクは，シミュレーションと実機ロボットの両方で成功裡に実行された。
ベックマン輸送モデル：自律フローからワンステップ写像へ [cs.LG]目的：二つの分布間の正確な写像
- 確率モデルの生成における分布間の写像は，データ解析や機械学習において不可欠である。
- 既存の方法では，低次元多様体上の分布間の写像において，一貫性の欠如や効率性の問題が存在する。
- ベックマン輸送問題におけるフラックス制約の動的な意味を明らかにし，写像を効率的に学習すること。
- 時間非依存な速度場（自律フロー）を利用することで，低次元多様体上の特異なターゲット分布への正確な写像が可能となる。
- このフローに関連するワンステップ生成写像は，単純な保存則の唯一の解である。
- 本理論は既存手法における不整合を修正し，ImageNet 256x256での有効性を示す。
プレイヤー中心のボールアクション検出のためのエンティティ認識シーケンス変換 [cs.CV, cs.AI]目的：プレイヤー中心のボールアクション検出におけるイベント検出とアクター属性の明確化
- スポーツ映像解析は，高度な技術を必要とし，競技理解や戦術分析に不可欠である。
- 既存手法では，プレイヤー個々の動きや相互作用を正確に捉えることが難しい場合がある。
- プレイヤーをエンティティとして明示的にモデル化することで，検出精度を向上させる。
- 提案手法ME-DSTは，FOOTPASSデータセットにおいてMicro F1スコア0.778を達成した。
- これは，既存のTAAD+DSTベースラインを10.3パーセントポイント上回る結果である。
- エンティティ軸の維持とロールIDのエンコードが，性能向上に重要な役割を果たすことが示された。
生成AIリテラシーの再考：K-12教員教育のための統合的，発達的，弁証法的枠組み [cs.IR, cs.CL, cs.HC, cs.CY, cs.AI, cs.ET, cs.HC]目的：K-12教員教育における生成AIリテラシーの育成のための枠組み
- 教育現場でのAI活用が急速に進む中で，教員のAIリテラシー向上が喫緊の課題となっている。
- 既存のAIリテラシー枠組みは，大規模言語モデルの普及に対応できておらず，倫理的側面が不十分である。
- 生成AIの教育利用における課題を克服し，教員の能力開発を支援する包括的な枠組みを提示する。
- 本研究では，RAIL-Edフレームワークを提案する。これは，技術的流暢性，批判的評価，人間とAIの協調など6つの柱から構成される。
- RAIL-Edは統合的，発達的，弁証的であり，各柱の欠如は教育上の失敗につながる。また，教員養成課程におけるレベルに応じた成熟度を規定する。
- 倫理，公平性，主体性を重視することで，RAIL-Edはカリキュラム設計，教員教育，政策策定の理論的基盤を提供する。
単回使用トークンを超えて：再現耐性のあるLLMエージェントアクションのための持続的な認可状態 [cs.AI]目的：LLMエージェントアクションにおける再現攻撃への耐性
- LLMエージェントの利用拡大に伴い，認可システムの安全性確保が重要になっている。
- 単回使用トークンだけでは，エージェントの再計画や再試行により認可が繰り返し実行される問題がある。
- トークンに依存しない認可インスタンスの実行予算超過を防ぐ，持続的な認可状態の必要性を示す。
- LLMエージェントの動作において，単回使用トークンだけでは再現攻撃を防げないことが示された。
- CapLeaseという認可消費レイヤーが，認可状態の持続性を保証し，重複実行を防止することが確認された。
- 再現耐性のあるエージェント実行には，トークン表現だけでなく，持続的な認可状態がシステム要件であることが明らかになった。
メタ分析合成のためのエージェント的ハーネスを用いた実行可能な分析知識表現の構築 [cs.AI]目的：メタ分析合成における実行可能な計算に必要な分析知識の表現
- 科学的分析において，知識ベースのアプローチの重要性が増しているため。
- 構造化された証拠だけでは，実行可能な計算に必要な分析知識を表現できないという課題がある。
- 既存の自動化手法における意思決定の不透明性を解消し，検証可能な知識表現を構築する。
- 提案手法であるEAKRは，構造化された証拠をメタ分析の実行可能な形式に変換するために必要な知識を機械可読な形式で表現することに成功した。
- MetaSynDecは58の合成ユニット全てに対してEAKRを構築し，そのうち57ユニットは統計的実行に進むことができた。
- EAKRは，参照分析オブジェクトとの完全な忠実度と正確な証拠セットの一致を実現し，LLM直接生成と比較して有意に高い一致率を示した。