arXiv雑要約
AI - 2026/03/17 公開
ニューロモーフィックコンピューティング：時間，空間，エネルギーのスケーリングに関する理論的フレームワーク [cs.CL, cs.PF, cs.NE, cs.AR, cs.DC]目的：ニューロモーフィックコンピューティングのアルゴリズムとアーキテクチャの分析のための計算フレームワーク
- 従来のコンピューティングの限界から，低消費電力な次世代アーキテクチャへの期待が高まっている。
- ニューロモーフィックコンピューティングの計算上の利点を明確に定義することが困難であった。
- ニューロモーフィックコンピューティングにおけるエネルギー効率の向上可能性を評価すること。
- 本研究で提案するフレームワークにより，ニューロモーフィックコンピューティングは汎用かつプログラム可能であることが示された。
- 理想的なニューロモーフィックコンピューティングの時間と空間のスケーリングは，理論上の無限プロセッサシステムと同等のトレードオフを示す。
- 活動が希薄で時間とともに減衰する場合，ニューロモーフィックコンピューティングはエネルギーのスケーリングにおいて優位性を示す可能性がある。
回路探査：ビデオ言語モデルにおける視覚的 Temporal Evidence Flow の追跡 [cs.CV, cs.LG]目的：ビデオ言語モデルにおける Temporal Evidence の表現と，それがデコーディングに及ぼす因果的影響の解明
- ビデオと言語を連携させる大規模言語モデルの重要性が増しており，その内部メカニズムの理解が不可欠である。
- 視覚的特徴がどのように言語モデルの埋め込み空間に投影され，Temporal Evidence がどこに表現されるのか不明確である。
- モデル内部の回路レベル分析により，Temporal Evidence の表現場所と影響を特定し，モデルの Temporal 理解能力を向上させる。
- CircuitProbeフレームワークにより，ビデオトークン系列中のオブジェクト意味の局在化と，因果的必要性の検証が可能となった。
- Semantic Tracingにより，オブジェクトと Temporal 概念が層ごとにどのように出現するかを追跡し，Temporal 構造への感度を評価した。
- 分析に基づきTemporal構造に特化したattention headを増幅する介入により，TempCompassベンチマークで最大2.4%の改善が確認された。
フィンガーチップ 20K：プロアクティブかつパーソナライズされたモバイルLLMエージェントのベンチマーク [cs.HC, cs.AI]目的：プロアクティブかつパーソナライズされたモバイルLLMエージェントの評価基準
- スマートデバイスにおけるユーザ体験向上において，モバイルGUIエージェントの重要性が高まっている。
- 既存のエージェントは明示的な指示に依存しており，文脈情報や過去のデータを活用したプロアクティブな提案が不足している。
- ユーザの行動特性を考慮したタスク実行経路の最適化という課題を解決し，ユーザ指向のモバイルLLMエージェント開発を目指す。
- フィンガーチップ 20Kベンチマークは，環境観測と過去の意図分析によるプロアクティブなタスク提案，およびユーザの行動嗜好に合わせたパーソナライズされたタスク実行という二つのトラックを提供する。
- 実験の結果，提案されたトラックは，GUIタスクにおけるユーザ関連情報の活用において重要な課題を提起することが示された。
- 収集したデータでファインチューニングしたモデルは，ユーザ情報を効果的に活用し良好な結果を達成し，ユーザ指向のエージェント構築の可能性を示唆した。
最小最大ヘテロ容量車両経路問題に対する効率的なニューラル組合せ最適化ソルバー [cs.LG, cs.AI]目的：最小最大ヘテロ容量車両経路問題の効率的な解法
- 車両経路問題は，物流や配送計画において重要な課題であり，コスト削減や効率化に貢献する。
- 既存のソルバーは単一車両に限定されており，複数車両を扱うより現実的な問題に対応できていない。
- 局所的な関係性や対称性を考慮した，より高性能なニューラル組合せ最適化ソルバーを開発する。
- 提案手法ECHOは，既存のニューラル組合せ最適化ソルバーを上回り，様々な規模と分布パターンで優れた汎化性能を示した。
- ECHOは，ノード間の局所的な関係性を捉える二重モダリティノードエンコーダーと，車両選択を優先するパラメータフリークロスアテンションメカニズムを用いることで，最適化性能を向上させた。
- 車両順序不変性とノード対称性を活用したデータ拡張戦略により，強化学習の訓練過程が安定化された。
共同報酬：大規模言語モデルにおける推論を引き出すための安定した自己教師あり強化学習 [cs.CC, cs.LG]目的：大規模言語モデルの推論能力を引き出すための自己教師あり強化学習フレームワークの安定性向上
- 大規模言語モデルの性能向上は，様々な自然言語処理タスクにおいて重要である。
- 既存の自己報酬型手法は，学習崩壊の問題を抱え，信頼性の高い推論能力の獲得が困難である。
- 異なる視点からの補完的な教師信号を用いることで，学習の安定性を高め，より効果的な推論能力を獲得することを目指す。
- 提案手法Co-rewardingは，様々な設定において安定した学習を実現し，既存の自己報酬型手法を平均で+3.31%上回る性能を示した。
- 特に，Llama-3.2-3B-Instructにおいては+7.49%の改善が見られ，場合によっては正解ラベルを用いた強化学習と同等またはそれ以上の性能を達成した。
- Qwen3-8B-Baseを用いたGSM8Kデータセットでは，Pass@1で94.01%を記録し，正解ラベルを用いた場合よりも高い結果を得た。
オープンエンド生成における真実性の向上に向けた検索拡張デコーディング [cs.CL, cs.LG]目的：オープンエンド生成における真実性の向上
- 大規模言語モデルの信頼性は重要であり，誤情報の拡散を防ぐ上で不可欠である。
- 既存手法は，大量のアノテーションデータや計算資源を必要とするため，スケーラビリティが課題である。
- アノテーションデータが少ない状況でも，真実性の高いテキスト生成を可能にすること。
- 提案手法RADは，わずか10件のアノテーションデータで構築された参照グラウンディング空間を利用し，推論時にロジットを整形する。
- 4つのオープンエンド生成ベンチマークと4つのLLMにおいて，RADは強力なベースラインを上回り，タスク間の汎化性能も示した。
- 本研究は，文脈を考慮したデコーディングが，事実に基づいた信頼性を高める可能性を示唆している。
テキスト埋め込みの自己教師あり学習におけるデータ拡張戦略：クロッピングはドロップアウトを上回る [cs.CE, physics.flu-dyn, cs.CL, cs.LG]目的：テキスト埋め込みの性能向上
- 自然言語処理の多様な応用において，テキスト全体のベクトル表現であるテキスト埋め込みが重要である。
- 教師あり学習による微調整には，外部の類似性概念とアノテーションデータが必要となる。
- 自己教師あり学習によるテキスト埋め込みの性能向上と，効率的な微調整方法の確立。
- クロッピングによるデータ拡張は，ドロップアウトに基づく手法よりもテキスト埋め込みの品質を大幅に向上させる。
- 自己教師あり学習は，ドメイン外データでは性能が劣るものの，ドメイン内データでは高精度な埋め込みを短時間で生成可能である。
- 最終層のTransformer層のみを微調整することで，同様の埋め込み品質を達成できる。
FeDaL：汎用時系列基礎モデルのための連合データセット学習 [cs.LG]目的：汎用時系列基礎モデルにおけるドメインバイアスの軽減
- 時系列データは多様な分野に存在するが，汎用的なモデル構築には課題が多い。
- データセットごとの異質性が，モデルの汎化性能を著しく低下させる問題がある。
- 連合学習を用いて，データセットに依存しない時系列表現学習を目指す。
- 提案手法FeDaLは，連合学習の分散アーキテクチャを活用し，共有知識と個別知識を分離する。
- ドメインバイアス除去（DBE）とグローバルバイアス除去（GBE）のメカニズムにより，局所的・全体的なバイアスを軽減する。
- 8つのタスクにおける実データ実験で，54のベースラインと比較して優れた汎化性能を示した。
魚眼カメラ向け基礎的な単眼深度推定器の拡張：キャリブレーション・トークンを用いた手法 [cs.CG, cs.CV, cs.AI, cs.LG]目的：魚眼画像に対する単眼深度推定器の拡張
- 近年，自動運転やロボット工学などにおける環境認識の重要性が増しており，深度推定技術の精度向上が求められている。
- 従来の単眼深度推定器は，カメラのキャリブレーションパラメータの変化に弱く，魚眼カメラのような歪みのある画像に対しては精度が低下する。
- 本研究は，再学習や微調整なしに，既存の単眼深度推定器を魚眼カメラに適用可能にするための新たな手法を提案する。
- 提案手法では，魚眼画像の潜在表現と，パースペクティブ画像の潜在表現を，軽量なキャリブレーション・トークンを用いて整列させる。
- これにより，魚眼カメラのアーティファクトや損失の影響を回避し，既存の深度推定器の表現力を有効活用することが可能となる。
- 屋内および屋外の実験において，提案手法は最先端手法と比較して，一貫して性能が向上することを確認した。
QA-Dragon: クエリに配慮した動的RAGシステムによる知識集約型視覚的質疑応答 [cs.AI, cs.CL, cs.CV]目的：知識集約型視覚的質疑応答における性能向上
- 視覚的質疑応答は，画像と質問の内容を理解するAI技術として重要であり，様々な応用が期待される。
- 既存のRAG手法は，テキストまたは画像から単独で情報を取得するため，複雑なクエリに対応しにくい。
- 本研究は，マルチモーダルな情報を活用し，より高度な推論能力を備えたRAGシステムの構築を目指す。
- 提案手法QA-Dragonは，クエリのドメインを特定し，最適な情報検索戦略を動的に選択することで，複雑な質疑応答に対応する。
- Meta CRAG-MM Challenge KDD Cup 2025における評価で，ベースモデルの推論性能を大幅に向上させることが示された。
- 単一ソース，複数ソース，複数ターンタスクにおいて，それぞれ5.06%，6.35%，5.03%の正答率と知識重複率の改善を達成した。
EvolvR：物語評価のための自己進化型ペアワイズ推論，生成の強化 [cs.CL, cs.AI]目的：物語評価のための自己進化型ペアワイズ推論フレームワーク
- 大規模言語モデルの評価能力は重要であり，人間による品質判断の支援や物語生成の誘導に不可欠である。
- 既存手法では，クローズドソースモデルのプロンプトエンジニアリングは適応性が低く，オープンソースモデルのファインチューニングは厳密な推論能力に欠ける。
- 本研究は，厳密な推論能力を備えた物語評価フレームワークを開発し，生成される物語の品質向上を目指す。
- 提案手法EvolvRは，物語評価ベンチマークStoryER，HANNA，OpenMEVAにおいて最先端の性能を達成した。
- EvolvRを報酬モデルとして活用することで，生成される物語の品質が大幅に向上し，自己進化型アプローチの優位性が確認された。
- EvolvRは，マルチパーソナ戦略によるスコア整合型Chain-of-Thoughtデータの自己合成と，マルチエージェントによる厳密なフィルタリングを特徴とする。
経路空間におけるトラスト領域制約付き測度輸送：確率的最適制御と推論 [cs.LG]目的：確率的最適制御問題に対する経路空間における測度近似
- 確率的最適制御は，不確実性下での意思決定に不可欠であり，様々な応用分野で重要である。
- 事前分布から大きく異なる目標測度への最適化は，勾配法などを用いた場合に困難が生じやすい。
- トラスト領域を導入することで，目標測度への段階的なアプローチを可能にし，最適化の安定性を向上させる。
- 提案手法は，事前分布から目標測度への幾何学的アニーリングと解釈でき，適切な時間ステップ選択を可能にする。
- 拡散ベースサンプリング，遷移経路サンプリング，拡散モデルのファインチューニングなど，複数の最適制御問題において性能向上が確認された。
- 既存手法と比較して，特に目標測度と事前分布の差が大きい場合に，顕著な改善が見られた。
SFTの限界突破：チャートからコード生成のためのマルチモーダル構造化強化学習 [cs.RO, cs.MA, cs.AI, cs.CV]目的：チャートからコードを生成するタスクにおける構造化出力生成のための強化学習戦略
- 視覚と言語の両方を扱うモデルの推論能力向上は，多様な応用分野において重要である。
- 情報量の多い画像や構造化された出力の生成を要するタスクでは，従来のSFTだけでは性能が限界を迎える。
- SFTの限界を打破し，より高度なチャートからコード生成を実現することを目指す。
- 提案手法MSRLは，テキストと視覚の両方のフィードバックを統合したマルチ粒度報酬システムを採用した。
- 大規模なチャート・コードペアデータセット（300万組）を構築し，SFTのみでは限界に達することを示した。
- ChartMimicとReachQAのベンチマークにおいて，それぞれ6.2%，9.9%の性能向上を達成し，既存手法やクローズドソースモデルを上回った。
量子化とdLLMの融合：拡散LLMのポストトレーニング量子化に関する体系的研究 [cs.CL, cs.AI]目的：拡散LLMのポストトレーニング量子化における課題と最適化手法の解明
- 自然言語生成において，拡散LLMは新たな選択肢となりつつあり，その重要性は増している。
- 拡散LLMはパラメータ数が多く，エッジデバイスへの展開にはリソースの制約がある。
- 低ビット量子化における活性化値の異常値問題を解決し，効率的なdLLM展開を可能とする。
- 活性化値の異常値が低ビット量子化の精度低下の主要因であることが明らかになった。
- ビット幅，量子化手法，タスクの種類，モデルの種類といった多角的な評価を通じて，dLLMの量子化特性に関する知見が得られた。
- 本研究は，効率的なdLLM展開のための将来の研究基盤を提供する。
敵対的強化学習によるユニットテスト生成 [cs.SE, cs.AI]目的：ユニットテストの生成
- ソフトウェア開発において，品質保証の重要性が増しており，自動テストの需要が高い。
- 高品質なユニットテストの作成は困難であり，十分なテストカバレッジを確保することが課題。
- LLMを用いたユニットテスト自動生成の品質向上を目指す。
- 提案手法UTRLは，ユニットテスト生成モデルとコード生成モデルを敵対的に学習させることで，高品質なユニットテストを生成する。
- UTRLで学習したQwen3-4Bは，教師ありファインチューニングで学習したモデルよりも高品質なテストを生成し，人間が作成したテストに近い評価結果を示した。
- さらに，UTRLで学習したQwen3-4Bは，GPT-4.1などの最先端モデルを上回り，ユニットテスト生成の有効性を示した。
人工知能と数学・物理科学の未来（AI+MPS） [cs.AI, astro-ph.IM, cond-mat.mtrl-sci, cs.LG, physics.data-an, stat.ML]目的：人工知能と数学・物理科学の連携戦略
- 科学的発見と人工知能開発の相互促進が重要である。
- 人工知能と数学・物理科学の連携が十分ではない。
- AI+MPS研究を強化し，学際的なコミュニティを構築すること。
- 本研究は，AIと数学・物理科学の連携における現状と課題をまとめた。
- AI+MPS研究の推進，研究者コミュニティの育成，教育の重要性を提言した。
- 資金提供機関，教育機関，研究者への具体的な提言を提示した。
法遵守AIフレームワーク：法的基盤と技術的制約 - AI主体性の法的類推と法整合性の技術的実現可能性 [cs.RO, quant-ph, cs.CY, cs.AI]目的：法遵守AI（LFAI）の実現可能性と課題
- AI技術の発展に伴い，AIの法的責任が重要な課題となっている。
- 従来の法的枠組みでは，AIの法的地位が不明確であり，責任追及が困難である。
- AIに法的義務を負わせるための新たな法的枠組みと技術的アプローチを検討する。
- O'KeefeらのLFAIフレームワークを批判的に評価し，法的義務を負うAI主体性の法的基盤は存在することを示した。
- しかし，法整合性は価値整合性よりも実現可能であるという主張は，最新のAIアラインメント研究によって疑問視されている。
- 戦略的ミスアラインメントを検出し抑制するためのベンチマーク，介入，監視メカニズムを提案し，持続的な検証可能な法遵守の重要性を強調した。
拡散モデルを用いたマルコフ確率微分方程式の解路生成 [cs.LG, stat.ML]目的：マルコフ確率微分方程式の解路生成手法
- 金融分析や意思決定において，確率微分方程式のシミュレーションは不可欠である。
- 従来のモンテカルロ法は，ドリフト係数と拡散係数の明示的な仕様を必要とする。
- データ駆動型アプローチにより，未知の確率微分方程式の解路を生成する。
- 提案手法は，ターゲットSDEの解路と生成された解路の間の Kullback-Leibler (KL) ダイバージェンスにおいて，2つの代替手法よりも一貫して優れた性能を示した。
- KLダイバージェンスに関する明示的な上限を導出する理論的誤差解析を行った。
- 生成された解路を強化学習アルゴリズムに活用し，連続時間平均分散ポートフォリオ選択のパフォーマンスを向上させた。
フレーム単位の追跡を超えて：効率的な点群追跡のための軌道ベースのパラダイム [cs.CV, cs.AI, cs.RO]目的：LiDARを用いた3D単一物体追跡の効率化
- ロボティクスや自律システムにおいて，3D物体追跡は重要な技術である。
- 既存手法は，計算コストまたはロバスト性に課題がある。
- 過去のバウンディングボックス軌跡から，効率的に運動の連続性を学習する。
- 提案手法TrajTrackは，ベースとなる2フレーム追跡器を強化し，高い精度を実現した。
- 大規模ベンチマークNuScenesにおいて，既存手法を3.02%上回り，最高水準の性能を達成した。
- 異なるベース追跡器に対しても，TrajTrackの汎用性が確認された。
人工知能のための胸部X線画像データセットの限界：ラベル品質，ドメインシフト，偏り，および評価の課題 [cs.LG, cs.DL]目的：胸部X線画像における人工知能の限界に関する分析
- 近年，医療画像診断において人工知能の活用が期待されており，特に胸部X線画像の解析は重要である。
- 公開データセットのラベルには誤りが含まれる可能性があり，その品質がAIモデルの性能に影響を与えることが懸念される。
- データセットの偏りやドメインシフトがAIモデルの汎化性能を低下させる問題を解決することを目指す。
- 公開データセットのラベル品質に課題があり，放射線科医のレビューと一致しない場合が多いことが示された。
- ドメインシフト評価の結果，異なるデータセット間でのモデル性能が大幅に低下することが明らかになった。
- データセットの偏りも確認され，特に少数派の年齢層や性別グループにおいて性能が低いことが示唆された。
Oracleによる教育付き強化学習：データ効率と事実に基づいた放射線レポート生成 [cs.CV, cs.AI, cs.CL]目的：放射線画像からの臨床的に信頼性の高いレポートの自動生成
- 医療現場では，迅速かつ正確な診断が求められ，放射線レポートの自動化は重要な課題である。
- 既存手法は，大規模データセットと計算資源を必要とし，実用上の制約がある。
- 限られたリソース下でも，効率的かつ正確なレポート生成を実現すること。
- 提案手法OraPOは，強化学習とOracleの活用により，単一の段階で学習可能である。
- FactScoreに基づいた報酬FactSは，診断根拠に基づいた学習を促し，解釈性の高い報酬を提供する。
- CheXpert Plusデータセットにおいて，既存の最高性能を更新し，少ないデータ量で高い性能を達成した。
Eva-VLA：現実世界の物理的変化に対する視覚-言語-行動モデルの頑健性の評価 [cs.RO, cs.AI]目的：視覚-言語-行動モデルの物理的変化に対する頑健性の評価
- ロボット操作において，視覚，言語，行動を統合するモデルの重要性が増している。
- 現実世界の物理的変化に対する頑健性が十分に検証されていないという課題がある。
- 現実世界の物理的変化を考慮した評価フレームワークを構築し，モデルの脆弱性を明らかにすること。
- 提案するEva-VLAフレームワークは，物理的変化を連続最適化問題として定式化し，VLAモデルの頑健性を評価する。
- OpenVLAはLIBERO-Longタスクにおいて，3種類の物理的変化で平均90%以上の失敗率を示し，脆弱性を露呈した。
- 生成された最悪ケースシナリオを用いた敵対的学習により，モデルの頑健性を定量的に向上させることができた。
SloPal：スロバキア議会発言6000万語コーパスとファインチューニング済みASRモデル [cs.CL, cs.AI, cs.SD]目的：スロバキア議会発言コーパスと音声データセット
- スロバキア語は言語資源が乏しく，音声認識の研究が進んでいない。
- 公開されているスロバキア語の音声認識学習データは100時間未満と少ない。
- 大規模な議会発言コーパスと音声データセットを構築し，音声認識の性能向上を目指す。
- SloPalは33万件の発話セグメント（6000万語，2億2000万トークン）を含む大規模コーパスである。
- SloPalSpeechは2806時間の音声データセットであり，WhisperベースのASR学習に最適化されている。
- SloPalSpeechでWhisperをファインチューニングすることで，WERを最大70％削減できた。
データフリー継続モデルマージのための零空間フィルタリング：安定性の維持と可塑性の促進 [cs.RO, cs.LG]目的：データフリー継続モデルマージにおける安定性と可塑性の両立
- 継続学習は，モデルが新しいタスクを学習する際に既存の知識を忘却しないことが重要である。
- データフリー継続モデルマージでは，タスクデータにアクセスできないため，安定性と可塑性を確保することが困難である。
- 本研究は，零空間フィルタリングにより，データフリー環境下での安定性と可塑性の両立を目指す。
- 提案手法NUFILTは，タスクベクトルが表現部分空間と近似的に一致することに着目し，零空間プロジェクタを用いて安定性を確保する。
- 軽量なLoRAアダプタを導入することで，既存知識の保持と新しい知識の獲得を両立させ，可塑性を促進する。
- 実験結果から，NUFILTは既存手法を凌駕する性能を示し，平均精度を4-7%向上させた。
EMMA：生成視覚転移による現実世界のロボット操作の汎化 [cs.AI, cs.RO]目的：ロボット操作の汎化
- ロボットの知能向上には，多様なデータが必要であり，現実世界での応用が求められている。
- ロボット操作のための大規模なデータを収集するには，コストと労力がかかる。
- 多様なデータが少ない状況下でも，ロボットの操作能力を向上させることを目指す。
- DreamTransferは，一貫性があり，幾何学的に正確なロボット操作動画を生成する。
- AdaMixは，ポリシーのパフォーマンスに応じてサンプルを適応的に重み付けし，学習プロセスを強化する。
- 実世界での実験で，実データのみでの学習と比較して，92%以上の性能向上を達成した。
交通ルールを考慮した持続的な自己回帰マッピング [cs.RO, cs.AI]目的：自動運転のためのレーンベクトルと交通ルールの同時構築
- 自動運転技術の安全性向上は不可欠であり，高精度な地図と交通ルールの理解が重要である。
- 従来のシステムは，地図要素とルールを個別に扱うか，ルールの一貫性を維持できていない。
- 本研究は，長期的な走行においても交通ルールを維持しつつ，正確な地図を生成することを目指す。
- 提案手法PAMRは，時間的なセグメント単位での地図とルールの同時構築と，セグメント間の一貫性維持を実現する。
- 新たな評価データセットMapDRv2を開発し，継続的かつ一貫した地図生成能力を評価した。
- 実験結果から，PAMRはレーンベクトルと交通ルールの同時マッピングにおいて優れた性能を示し，ルールの持続的な有効性を維持することが示された。
誘導シグネチャだけでは不十分：文脈内学習における負荷分散構造のマッチド計算研究 [cs.CL, cs.AI, cs.LG]目的：文脈内学習における負荷分散構造の理解
- 大規模言語モデルの能力向上には，事前学習データの質が重要である。
- 合成データによる事前学習の有効性は不明確であり，評価方法が課題である。
- メカニズムの活性化だけでは性能向上につながらないことを示す。
- Bi-Inductによる誘導ヘッドの活性化は，必ずしも少数ショット汎化性能の向上には繋がらない。
- 自然なデータのみで学習したモデルの方が，関数スタイルのプローブにおいて優れた性能を示す。
- 誘導ヘッドの除去は，文脈内学習性能を低下させ，自然なデータのみで学習したモデルでその影響が大きい。
LLM駆動によるメタヒューリスティックアルゴリズムのハイパーパラメータ進化の自動化 [cs.AI]目的：メタヒューリスティックアルゴリズムのハイパーパラメータ進化の自動化手法
- 計算知能において，アルゴリズム性能はハイパーパラメータに大きく依存するため，その最適化は重要である。
- 従来手法はサンプル効率が悪く，汎化性能も低いことが課題であった。
- 大規模言語モデルを活用し，学習を必要とせず，探索状況に基づいた適応的なハイパーパラメータ戦略を生成する。
- AutoEPは，探索的ランドスケープ分析と多言語モデルによる推論チェーンを組み合わせることで，実証データに基づいたハイパーパラメータ戦略を生成する。
- 多様な組み合わせ最適化問題において，AutoEPは最先端のチューナーを上回り，Qwen3-30BがGPT-4に匹敵する性能を示す。
- 本研究は，アクセスしやすい新たな自動ハイパーパラメータ設計パラダイムを提供する。
LLMエージェントの軌跡削減によるコスト削減 [cs.SE, cs.AI]目的：LLMエージェントの計算コスト削減
- LLMを活用したエージェントはソフトウェア開発において注目を集めている。
- エージェントの軌跡が肥大化し，計算コストが増大している点が課題である。
- エージェント実行時の軌跡削減により，コストを抑えることを目指す。
- 提案手法AgentDietは，エージェントの不要な情報を自動的に削減する。
- 2つのLLMと2つのベンチマークで評価した結果，入力トークン数を39.9%-59.7%削減できた。
- また，計算コストも21.1%-35.9%削減でき，エージェントの性能は維持された。
連続時間・状態を持つ強化学習における決定論的方策勾配 [cs.LG, cs.AI, math.OC, stat.ML]目的：連続時間・状態を持つ強化学習のための決定論的方策勾配法の開発
- 強化学習は，自律的な意思決定システムを実現する上で不可欠な技術である。
- 既存の連続時間強化学習法は確率的方策に依存しており，計算コストが高いという課題がある。
- 安定した学習と高速な収束を実現する決定論的方策勾配法を確立すること。
- 本研究では，連続時間強化学習のための決定論的方策勾配法を導出し，理論的根拠を示した。
- 提案するCT-DDPGアルゴリズムは，既存の確率的方策法と比較して，より高い安定性と高速な収束を実現する。
- 様々な時間離散化やノイズレベルを持つ学習タスクにおいて，その有効性が確認された。
失敗する前に停止：大規模推論モデルにおける非生産的な推論を軽減するための運用能力境界 [cs.AI, cs.CL]目的：大規模推論モデルにおける非生産的な推論軽減策
- 大規模言語モデルの活用範囲を広げる上で，効率的な推論能力は不可欠である。
- モデル能力を超えた問題に対する推論は，時間と計算資源を浪費する。
- モデルが失敗する兆候を検出し，推論を早期に停止すること。
- 推論過程の表現や隠れ状態に，失敗を予測するシグナルが存在することが確認された。
- 推論表現モニタリングと隠れ状態モニタリングという二つのテスト時モニタリング戦略を提案した。
- これらの戦略により，トークン使用量を大幅に削減し，効率性と信頼性を向上させた。
物理モデルの主体的な探索 [cs.AI, cond-mat.quant-gas, quant-ph]目的：未知の物理システムにおける法則発見のための自動探索手法
- 科学的発見は観察と分析，仮説生成の反復により進むため，その自動化が重要である。
- 特定のタスクに特化せず，実験と分析を通してシステムを探索する自動化は課題であった。
- ドメイン知識なしに，物理システムの法則を自律的に発見することを可能とする。
- SciExplorerは，大規模言語モデルのツール利用能力を活用し，ドメイン固有の設計図なしにシステム探索を行う。
- 力学系，波動，量子多体系物理など多様なモデルで，運動方程式の回復やハミルトニアンの推論に成功した。
- この手法は，微調整やタスク固有の指示なしに，他の分野での科学的探索への道を開く。
XQC：良好な条件数による最適化が深層強化学習を加速する [cs.LG, cs.AI]目的：深層強化学習におけるサンプル効率の向上
- 深層強化学習は，複雑な問題を解決する強力な手法であり，その重要性は増している。
- サンプル効率が低く，学習に大量のデータが必要となることが課題である。
- 最適化の観点からアーキテクチャを改善し，サンプル効率を向上させることを目指す。
- 批評家ネットワークのヘッセ行列の固有スペクトルと条件数に着目し，アーキテクチャ設計の決定が学習ダイナミクスに与える影響を調査した。
- バッチ正規化，重み正規化，分布クロスエントロピー損失の組み合わせが，従来のベースラインよりも条件数を大幅に小さくすることが示された。
- XQCアルゴリズムを提案し，55の固有受容体タスクと15の視覚タスクにおいて，最先端のサンプル効率を達成した。
切り離された報酬とカリキュラムデータスケジューリングによる過剰思考の抑制 [cs.CY, cs.DL, cs.RO, cs.CL, cs.AI]目的：過剰思考の抑制
- 大規模言語モデルの推論能力向上は重要だが，計算コストが課題となっている。
- 既存手法では，推論パスの長さを抑制すると性能が低下する問題がある。
- 冗長なトークンを特定し，効率性と有効性のバランスを取ることを目指す。
- 提案手法DECSは，7つのベンチマークにおいて推論に必要なトークン数を50％以上削減した。
- 性能を維持し，むしろ向上させた。
- モデルの推論能力を損なうことなく，推論効率の大幅な改善が可能となった。
拡散モデルにおけるモード衝突回避：合成の改善 [cs.CV, cs.LG]目的：拡散モデルにおけるマルチコンセプトプロンプトの忠実性向上
- 画像生成AIの発展は，創造性の支援や新しい表現の可能性を広げている。
- 複数のコンセプトを組み合わせたプロンプトにおいて，コンセプトが欠落したり，衝突したりする問題がある。
- プロンプト内の各コンセプトの視覚的な存在感を均等にし，安定した合成を実現することを目指す。
- 提案手法CO3は，既存の拡散モデルに容易に組み込むことができ，モデルの再学習は不要である。
- CO3は，コンセプトの網羅性，バランス，ロバスト性を向上させ，コンセプトの欠落や歪みを減少させる。
- 軽微な修正ガイダンスにより，最新の拡散システムの不安定な意味的整合性の問題を大幅に軽減できる。
注意機構に基づく音声信号アーキテクチャにおける構造的プルーニング戦略：重みの沈黙 [cs.SD, cs.LG]目的：注意機構のパラメータ削減手法
- Transformerは様々な分野で最先端の性能を示しており，その応用範囲は広い。
- 注意層は多くのパラメータを必要とし，学習・推論に高性能なハードウェアが不可欠である。
- 注意機構のパラメータを効率的に削減し，計算コストを低減することを目指す。
- 提案手法は，Attentionブロック内のクエリ，キー，バリュー，出力射影行列を個別にプルーニングする。
- ASTおよびWhisperを用いた実験により，Attentionブロックの50%のパラメータをプルーニングしても，性能をほぼ維持できることが示された。
- 従来のヘッドプルーニングやMagnitudeベースのスコアリング手法と比較して，より効果的なプルーニングが可能である。
リチウムイオン電池におけるリチウムめっきの機械学習検出：ガウス過程アプローチ [cs.LG, cs.SY, eess.SY]目的：リチウムイオン電池におけるリチウムめっきの検出
- 急速充電時のリチウムめっきは，電池の劣化を加速させ，安全性に重大な問題を引き起こすため，その検出が重要である。
- 従来のdQ/dV計算方法はノイズの影響を受けやすく，特徴点の特定にバイアスが生じやすいという課題があった。
- 本研究では，ガウス過程を用いることで，ノイズに強く，正確なリチウムめっき検出を目指す。
- ガウス過程モデルを用いることで，ノイズを考慮した上で微分dQ/dVを確率的に推定することが可能となった。
- 実験結果から，提案手法は低温・高レート充電条件下でも明確な高電圧ピークを検出し，リチウムめっきを正確に識別できることが示された。
- ガウス過程によって識別された特徴，充電スループットの低下，容量劣化，および事後解析の結果が一致し，リチウムめっきとの関連性が確認された。
ExoPredicator：動的な世界の抽象モデル学習によるロボット計画 [cs.AI, cs.CV, cs.LG, cs.RO]目的：動的世界の抽象モデル
- ロボットが複雑な環境で自律的に行動するためには，世界の状態変化を予測する能力が不可欠である。
- 既存手法では，エージェントの行動に加えて並行して発生する外的要因を考慮することが困難であった。
- 外的要因を含む世界の因果関係をモデル化し，より汎化性能の高い計画を可能にすること。
- 提案手法は，記号的な状態表現と，内的・外的要因の両方の因果過程を同時に学習する抽象世界モデルを構築する。
- 限られたデータから変分ベイズ推論とLLMの提案を活用することで，効率的な学習を実現した。
- シミュレーション実験の結果，学習されたモデルは，より多くのオブジェクトや複雑な目標を持つタスクに対しても高い計画性能を示した。
敵対的ロバスト性に着目した差分注意機構の脆弱性に関する理解 [cs.RO, cs.LG, cs.CR]目的：差分注意機構の脆弱性とその原因の解明
- 注意機構は，深層学習モデルの性能向上に不可欠であり，画像認識をはじめとする様々なタスクで活用されている。
- 既存の注意機構は，敵対的摂動に対して脆弱であり，わずかな入力の変化で予測が大きく変動する可能性がある。
- 差分注意機構が持つ脆弱性の根本原因を特定し，ロバスト性を向上させるための指針を示す。
- 差分注意機構は，勾配の逆アライメントを促進し，敵対的摂動に対する感受性を増幅することが理論的に示された。
- ViT/DiffViTやCLIP/DiffCLIPを用いた実験により，差分注意機構は標準的な注意機構よりも攻撃成功率が高いことが実証された。
- 層を深くすることで小さな摂動に対するロバスト性は向上するものの，大きな摂動に対してはその効果が薄れるというトレードオフが明らかになった。
TsLLM：汎用時系列理解と予測のためのLLMの拡張 [cs.LG]目的：時系列データとテキストの統合による，時系列分析と自然言語処理の連携
- 医療，金融，電力システムなど，多くの分野で意思決定に不可欠な時系列データ分析の重要性が高まっている。
- 従来の時系列モデルは，非構造化の文脈情報を取り込み，自然言語で説明を生成する能力に乏しいという課題があった。
- LLMの言語理解能力と時系列データ処理能力を統合し，文脈に即した時系列分析を可能にすることを目的とする。
- TsLLMは，時系列データとテキストを組み合わせた大規模なコーパスで学習することで，時系列分析と自然言語処理の両方をこなす能力を獲得した。
- 従来のベンチマークに特化したモデルを超える性能は示さないものの，時系列分析と自然言語の統合を必要とするタスクにおいて，既存のアプローチを上回る性能を発揮する。
- 追加の学習なしに新しいデータに適応できるゼロショットおよびフューショット性能も高く，汎用性が高い。
強化学習を用いた時系列分析のための思考連鎖の引き出し [cs.LG]目的：時系列分析における思考連鎖の誘導
- 複雑な時系列データ分析は，医療診断や天気予報など，高度な推論能力を必要とする分野で重要である。
- 既存の時系列モデルは，反事実分析や論理的推論など，明示的な多段階推論を苦手とするという課題がある。
- 本研究は，強化学習と検証可能な報酬を用いて，LLMに時系列分析の思考連鎖を学習させることで，この課題を解決する。
- 本研究で開発したCOUNTSは，LLMが多様な時系列タスクにおいて思考連鎖推論を実行するための初のフレームワークである。
- Residual Vector-Quantized VAEを用いて高品質な離散トークンを生成し，LLMの語彙に統合することで，表現能力を高めた。
- 実験結果から，強化学習を用いた中間的な思考連鎖推論が，様々な時系列分析タスクにおいてLLMの性能を大幅に向上させることが示された。
Purrception: ベクトル量子化画像生成のための変分フローマッチング [cs.MA, cs.SY, eess.SY, cs.CV, cs.AI, cs.LG]目的：ベクトル量子化画像生成における変分フローマッチング手法
- 画像生成技術は，現実世界の表現や新たなコンテンツ作成において重要な役割を担う。
- 既存手法では，生成効率と生成品質のバランスが課題であり，計算コストも大きい。
- 連続的な輸送ダイナミクスと離散的なカテゴリカルな監督学習を組み合わせることで，効率的な画像生成を目指す。
- Purrceptionは，コードブックインデックスに対するカテゴリカルな事後分布を学習することで，従来のフローマッチングよりも迅速に学習が収束する。
- ImageNet-1k 256x256生成において，最先端モデルと同等のFIDスコアを達成し，競争力のある性能を示す。
- 変分フローマッチングが，連続的な輸送と離散的な監督学習を効果的に統合し，画像生成のトレーニング効率を向上させることが示された。
分布ロバストQ学習と線形関数近似の収束 [cs.LG]目的：分布ロバストQ学習における収束性
- 強化学習は，不確実な環境下でも最適な行動を学習する上で重要である。
- 関数近似を用いた分布ロバスト強化学習では，割引率に関する制約が課題であった。
- 割引率の制約なしに，線形関数近似を用いたロバストQ学習の収束を保証すること。
- 本研究は，総変動距離に基づく不確実性集合において，ロバストQ学習アルゴリズムの収束性を示す。
- 提案手法はモデルフリーであり，$\epsilon$-精度の価値推定に対して$\tilde{\mathcal{O}}(1/\epsilon^{4})$のサンプル複雑度を達成する。
- この結果は，ロバスト強化学習アルゴリズムの実践的な成功と非ロバストな手法の漸近的保証との間のギャップを埋める。
コントラストノイズ最適化による多様なテキスト画像生成 [cs.GR, cs.AI, cs.CV, cs.LG]目的：テキスト画像生成における多様性の向上
- 画像生成技術は，多様な応用分野で注目されており，その発展は重要である。
- 既存のテキスト画像生成モデルは，高品質な画像を生成する一方で，出力の多様性に課題がある。
- 初期ノイズを操作することで，生成される画像の多様性を高め，高品質を維持することを目指す。
- コントラストノイズ最適化は，バッチ内のノイズを反発させることで，多様な出力を促進しつつ，参照サンプルへの忠実性を維持する。
- 提案手法は，中間層の潜在変数を調整する既存手法と比較して，より大きな改善効果とロバスト性を示す。
- 複数のテキスト画像生成モデルで実験を行い，品質と多様性の両立において優れた性能を実証した。
遅速ポリシー最適化：LLM推論のための更新前再配置 [cs.LG, cs.AI, cs.CL, stat.ML]目的：大規模言語モデルの推論能力向上
- 大規模言語モデルにおける推論能力の強化は，AI研究の重要な課題である。
- 既存の強化学習アルゴリズムは，初期段階でノイズの多い勾配により学習が不安定になりやすい。
- 本研究は，初期学習の不安定性を解消し，効率的な探索を実現することを目指す。
- 提案手法であるSFPOは，既存手法GRPOと比較して，学習の安定性を向上させる。
- SFPOは，ロールアウト回数を削減し，収束を加速することが示された。
- 数学推論ベンチマークにおいて，GRPOよりも平均で最大2.80ポイント高い精度を達成した。
オンライン動画からコンピュータ利用を学習 [cs.AI, cs.CV]目的：コンピュータ利用エージェントの学習データ
- 多様なアプリケーション操作を伴うタスク遂行能力は，コンピュータ利用の自動化に不可欠である。
- 大規模で高品質な学習データが不足しており，既存データセットは限定的で注釈コストも高い。
- Web上の人間によるコンピュータ利用動画から実行可能なUI軌跡を大規模に生成すること。
- 本研究では，オンライン動画をコンピュータ利用エージェントの学習データとして活用する「Watch & Learn」フレームワークを提案した。
- このフレームワークにより，53,000件以上の高品質な軌跡データが得られ，汎用および特殊なエージェントの性能向上に貢献した。
- OSWorldとWindowsAgentArenaでの実験で，最先端の結果を達成し，Web規模の人間デモンストレーション動画の有効性を示した。
マルチエージェント言語モデルにおける創発的な協調 [cs.MA, cs.AI]目的：マルチエージェントLLMシステムの高次構造の兆候の有無の検証
- 大規模言語モデルのマルチエージェント化は，複雑な問題解決能力の向上に不可欠である。
- エージェント間の相互作用が単なる偶然によるものか，協調的なものかの区別が困難である。
- プロンプト設計によるマルチエージェントLLMシステムの協調性制御の可能性を検討する。
- 情報理論的枠組みを用いて，マルチエージェントLLMシステムの高次構造の存在をデータ駆動的に検証した。
- パーソナを付与することで，エージェント間の安定した役割分担と識別が可能になった。
- 「他のエージェントの行動を考慮する」という指示により，目標指向的な相補性が確認された。
分布意味追跡：大規模言語モデルにおける幻覚の説明のためのフレームワーク [cs.CL, cs.AI, cs.CE]目的：大規模言語モデルの幻覚の説明
- 言語モデルの性能向上に伴い，その解釈可能性と信頼性が重要課題となっている。
- 大規模言語モデルは，文脈が少ない場合や曖昧な場合に，事実に基づかない内容を生成することがある。
- 幻覚が生じるメカニズムを解明し，より信頼性の高いモデル構築を目指す。
- 提示されたDistributional Semantics Tracing (DST) は，モデル内部のセマンティックマップを構築し，幻覚の原因を特定する。
- DSTは，従来の解釈手法（帰属，プロービング，介入）よりも精度の高い幻覚の説明を提供することが示された。
- DSTによって算出されるContextual Alignment Score (CAS) は，モデルの誤りを予測する上で有効であることが確認された。
事後的確率的概念ボトルネックモデル [cs.MA, eess.SY, cs.SY, cs.RO, eess.SY, cs.SY, physics.comp-ph, cs.LG]目的：概念ボトルネックモデルの性能向上
- AIの解釈可能性は重要であり，人間が理解できる形でモデルの判断根拠を説明する必要がある。
- 既存の概念ボトルネックモデルは，概念間の依存関係を考慮すると性能が向上するが，再学習が必要となる。
- 事前学習済みのモデルを再学習せずに，概念間の依存関係をモデル化することで性能を向上させる。
- 提案手法である事後的確率的概念ボトルネックモデル(PSCBM)は，既存の概念ボトルネックモデルと同等またはそれ以上の性能を示す。
- PSCBMは，概念間の依存関係を考慮することで，介入下での性能が大幅に向上する。
- PSCBMは，モデル全体の再学習に比べて計算コストが非常に低い。
Ultralytics YOLO の進化：YOLO26，YOLO11，YOLOv8，YOLOv5 オブジェクト検出器の概要 [cs.CL, cs.CL, cs.CV, cs.AI]目的：YOLOファミリーオブジェクト検出器のアーキテクチャ進化，ベンチマーク，展開，課題の包括的な概観
- 画像認識技術は，ロボティクス，農業，監視など広範な分野で不可欠であり，その重要性は増している。
- 既存のオブジェクト検出器は，精度と効率性のトレードオフ，特に小ターゲット検出に課題を抱えている。
- 本研究は，最新のYOLOモデルの性能を比較・分析し，今後の課題と方向性を示すことを目指す。
- YOLO26は，DFLの削除，NMSフリー推論，ProgLoss，STAL，MuSGDなどの革新的な技術を導入した。
- ベンチマークの結果，YOLOv5，YOLOv8，YOLO11，YOLO26の性能を定量的に比較し，精度と効率性のトレードオフが明らかになった。
- 本研究は，オブジェクト検出におけるYOLOファミリーの進化を明らかにし，今後の発展に向けた課題を特定した。