arXiv雑要約
AI - 2026/03/13 公開
辞書ベースの動的方程式学習における悪条件性：システム生物学のケーススタディ [q-bio.QM, cs.LG, cs.NA, math.DS, math.NA]目的：時間系列データからの支配方程式のデータ駆動型発見
- 複雑な生物学的システムを理解するための強力なフレームワークを提供するから。
- 候補関数間の強い相関により，数値的な悪条件性という課題が存在するから。
- 悪条件性が生物学的動態の疎な識別へ与える影響を系統的に分析し，改善策を検討する。
- 悪条件性は，わずか2,3項の組み合わせでも強い多重共線性や極めて大きな条件数を引き起こすことが示された。
- 直交多項式基底は，必ずしも悪条件性を解決せず，データの分布が基底の重み関数から逸脱する場合，単項式基底よりもパフォーマンスが低下することが示された。
- 適切な重み関数に整合した分布からデータをサンプリングした場合，数値的な条件が改善し，直交多項式基底はモデルの回復精度を向上させることが示された。
予測およびランダム欠損ラベルを用いた空間的ロバスト推論 [stat.ML, cs.LG, econ.EM, stat.AP, stat.ME]目的：予測ラベルとランダム欠損ラベルを持つデータに対する空間的ロバスト推論手法
- データ収集コストが高い場合，機械学習モデルによる予測が代替データとして利用される場面が増加している。
- 従来の推論手法は独立サンプリングを前提としており，現実的な空間依存性やランダム欠損ラベルへの対応が課題であった。
- 空間依存性とフォールド間相関による歪みを修正し，信頼性の高い統計的推論を可能にすること。
- 提案手法は，交差適合による空間分散推定量の歪みを修正するジャックナイフ空間異分散性および自己相関整合（HAC）分散補正を行う。
- 標準的な識別条件および依存性条件下で，提案手法による区間は漸近的に有効であることが示された。
- シミュレーションおよびベンチマークデータセットにおいて，特にランダム欠損ラベルやクラスターサンプリング下で，有限サンプルキャリブレーションが大幅に改善された。
確率的順序制約下における複数の一様離散分布の同時推定 [math.OC, cs.LG, stat.ME]目的：複数の一様離散分布の同時推定
- 検索行動分析などに応用され，データ理解の深化に貢献する重要な研究分野である。
- 分布間の優先順位などの事前知識を組み込む方法論が十分ではない。
- 確率的順序制約を用いて，より正確な分布推定を可能にすること。
- 提案手法は，サンプルサイズが小さい場合に，平均でJensen-Shannon divergenceを2.2%削減する。
- 十分なデータがある場合は，既存手法と同程度の性能を示す。
- 実データを用いた実験により，提案手法の有効性が確認された。
量子化に基づく最適化のための量子力学的枠組み：勾配フローからシュレーディンガー方程式へ [quant-ph, cs.NE, math.OC]目的：量子化に基づく最適化アルゴリズムの解析
- 最適化は，科学技術のあらゆる分野において不可欠な手法である。
- 従来の最適化アルゴリズムは，局所解に陥りやすいという課題がある。
- 量子トンネル効果を利用し，局所解からの脱出と大域的最適解への到達を可能にする。
- 量子化に基づく探索過程を，ハミルトン・ヤコビ・ベルマン方程式で表現できることが示された。
- 適切な変換により，シュレーディンガー方程式が得られ，量子トンネル効果が局所解からの脱出を可能にすることが示唆された。
- フォッカー・プランク方程式との関連性から，大域的収束の熱力学的解釈が提供された。
決定木の観測的多様性の分解：リーフレグレトと構造的後悔 [stat.ML, cs.LG]目的：決定木における観測的多様性の分解
- 機械学習の信頼性向上は重要であり，モデルの予測における不確実性を理解する必要がある。
- 予測モデルは複数の等価な解を持つことがあり，その変動性を定量化する手法が不足している。
- 観測的多様性の分解により，予測のばらつきの要因を特定し，モデルの安全性を高める。
- 観測的多様性は，リーフレグレトと構造的後悔の二つの要素に分解できることが示された。
- 構造的後悔が観測的多様性の主要な要因であり，リーフレグレトよりも大きな変動をもたらすことが確認された。
- 後悔指標を用いた選択的予測により，モデルの安全性を高め，リコールを向上させることが示された。
発声および無声発話における表情筋電図を用いた感情の解読 [eess.AS, cs.AI, cs.SD]目的：発声および無声発話における感情の解読
- コミュニケーションにおいて感情表現は不可欠であり，そのメカニズム解明が重要である。
- 発話時の感情と，それを生み出す発声器官の動きとの関係は十分に解明されていない。
- 表情筋電図を用いて感情を解読し，感情を認識するインターフェース開発を目指す。
- 表情筋電図から感情を高い精度で識別可能であり，特にフラストレーションの識別精度は0.845というAUC値を示した。
- 感情の識別は，発声の有無にかかわらず，表情筋の活動パターンに一貫して現れることが示された。
- 本研究は，無声発話においても感情認識が可能な，新たなインターフェース開発の可能性を示唆する。
超複素数広義線形処理：四元数機械学習の基礎 [stat.ML, cs.LG]目的：四元数値を扱う確率過程のモデリング，広義線形モデル，四元数微積分・代数，平均二乗推定
- 工学や科学において複素数代数の成功を他の超複素数領域へ応用する試みがなされている。
- 四元数以外は複素数ほどの成功を収めていない。特に機械学習への応用が進んでいる。
- 四元数を用いた機械学習研究の基盤を確立し，貢献を促すことを目指している。
- 本研究は，四元数値を扱う確率過程の拡張統計モデリングの基礎を提供する。
- 広義線形モデルを用いることで，より高度な統計的特性を活用することが可能となる。
- 四元数微積分と代数は，アルゴリズム導出のための重要なツールである。
ELISA：シングルセルゲノミクスにおける表現に基づいた発見のための解釈可能なハイブリッド生成AIエージェント [q-bio.GN, cs.AI]目的：シングルセルRNA配列データからのメカニズムに基づいた生物学的仮説の創出
- シングルセルゲノミクスは，疾患メカニズムの解明や個別化医療の実現に不可欠である。
- エージェント型AIシステムはトランスクリプトーム表現への直接アクセスがなく，表現の基礎モデルは自然言語に対して不透明である。
- 表現に基づいた発見を可能にする，解釈可能なAIフレームワークの開発。
- ELISAは，scGPT埋め込みとBioBERTベースのセマンティック検索，LLMによる解釈を統合し，インタラクティブなシングルセル探索を実現した。
- ELISAは，細胞タイプ検索においてCellWhispererを大きく上回り，特に遺伝子シグネチャ検索で高い性能を発揮した。
- ELISAは既知の生物学的知見を再現し，トランスクリプトームデータ探索と生物学的発見の間のギャップを埋める新たな仮説を生成した。
ネットワークにおける局所的な低次元構造の発見：局所最適スペクトル埋め込み [stat.ML, cs.LG, stat.ME]目的：ネットワークにおける局所的な低次元構造の発見
- 現実世界のネットワーク構造の解析は，社会科学，生物学，情報科学など広範な分野で重要である。
- 従来のスペクトル埋め込みは，グローバルな低ランク仮定に依存し，疎なネットワークの局所的な特徴を捉えきれない。
- 局所的な低次元構造を捉えることで，より正確なネットワーク表現と可視化が可能となる。
- 局所的隣接スペクトル埋め込み（LASE）は，局所的な重み付きスペクトル分解により低次元構造を明らかにする。
- LASEは，局所化の統計的コストと，埋め込みの切り捨て誤差の減少とのトレードオフを定量的に示す。
- 実験結果から，LASEは局所的な再構成と可視化において，既存手法を上回ることが示された。
バッチ型ベイズ最適実験計画におけるWasserstein勾配フロー [stat.ML, cs.LG, stat.CO, stat.ME]目的：バッチ型ベイズ最適実験計画の効率的実施
- 実験計画法は，限られた資源で最大の情報が得られる実験選択に重要。
- バッチ型計画における目的関数の最適化は，高次元かつ非凸であり困難。
- 確率測度の空間への持ち上げとWasserstein勾配フローにより，最適化を解決。
- 提案手法は，期待情報利得を最大化するバッチ実験計画を効率的に行える。
- 確率分布の空間におけるエントロピー正則化により，一意な最適解が存在することを示した。
- 数値実験により，多峰性最適化問題においても高い有用性を持つバッチ設計が可能であることを確認した。
証明付き材料：機械学習型原子間ポテンシャルの反証可能な安全性証明 [cond-mat.mtrl-sci, cs.AI, cs.LG, physics.comp-ph]目的：機械学習型原子間ポテンシャルの信頼性保証
- 材料探索は，新機能材料開発の鍵であり，計算コスト削減が重要である。
- 機械学習型原子間ポテンシャルは高速だが，信頼性評価が不十分である。
- 安全性証明により，機械学習型原子間ポテンシャルの信頼性を高める。
- 機械学習型原子間ポテンシャルを用いた材料安定性フィルタリングでは，DFT安定材料の93%を見逃すことが判明した。
- Proof-Carrying Materials (PCM)は，反証，ブートストラップ，形式証明により，この課題に対処する。
- PCMで発見された特徴量に基づくリスクモデルは，未知の材料に対する失敗予測において高い精度を示した(AUC-ROC=0.938)。
ドメイン非依存動的計画法 [cs.NI, cs.SY, eess.SY, cs.AI]目的：組合せ最適化問題に対する動的計画法によるモデル構築と解法
- 組合せ最適化は現実世界の様々な問題を解決するための重要な手法である。
- 従来の動的計画法は問題固有のものが多く，汎用性に課題があった。
- ドメイン非依存な動的計画法により，より幅広い問題に対応可能な解法を確立する。
- 提案手法であるDIDPは，11種類の組合せ最適化問題で，MIPやCPソルバーを凌駕する性能を示した。
- 特に，9つの問題クラスにおいてMIPよりも，9つの問題クラスにおいてCPよりも優れた結果が得られた。
- また，7つの問題クラスではMIPとCPの両方を上回り，既存のステートベースソルバーにも勝る性能を示した。
警察の責任追及のための地域社会が関与するAIモデル [cs.CY, cs.AI, cs.LG, eess.AS]目的：警察と市民の相互作用分析を通じた，政府の透明性と責任追及の向上
- 警察活動は市民の福祉と民主主義の正当性に深く関わる重要な分野である。
- AI技術の応用において，市民の意見や視点が反映されることが課題となっている。
- 市民の視点を組み込んだAIツール開発を通じて，警察の責任追及を支援することを目的とする。
- 本研究では，ロサンゼルス警察の交通停止時のボディカム映像を分析するAIツール開発事例を紹介している。
- 社会科学者が多様な関係者の視点をAI開発に統合する上で重要な役割を果たすことを強調している。
- 地域社会が関与するAIアプローチは，政府の透明性と責任追及を向上させる可能性を示唆している。
視覚言語モデルの頑健性に対する部分的な再集中ソフトマックス損失 [cs.CL, cs.AI]目的：視覚言語モデルの頑健性向上
- 大規模言語モデルの発展に伴い，マルチモーダル技術が注目されている。
- マルチモーダルモデルは，入力のわずかな摂動に対して脆弱であるという課題がある。
- 損失関数を修正し，モデルの頑健性を向上させることを目指す。
- 事前学習済みモデルをファインチューニングすることで，一般的な攻撃に対する頑健性を大幅に向上させることが示された。
- ソフトマックス出力の上位K個を制限することで，モデルの頑健性を改善できることがわかった。
- 今後の研究として，出力多様性，汎化性能，頑健性と性能のトレードオフの検討が必要である。
drGT：薬剤応答の遺伝子評価におけるアテンション誘導型手法 - 薬剤・細胞・遺伝子ヘテロジニアスネットワークの活用 [cs.LG, q-bio.MN, q-bio.QM]目的：薬剤応答予測の精度向上とバイオマーカー同定
- 薬剤応答予測は，個別化医療の実現に不可欠であり，その重要性は高い。
- 既存手法では予測結果の解釈性が低く，生物学的根拠に基づいた理解が困難である。
- drGTは，予測精度と解釈性の両立を目指し，薬剤応答予測の課題解決に貢献する。
- drGTは，既存手法と同等の高い予測精度（AUROC最大94.5%）を達成した。
- モデルのアテンション係数を用いることで，薬剤と遺伝子の関連性を可視化し，解釈性を高めた。
- 予測された薬剤-遺伝子関連の多くがPubMed文献や既存のDTI予測モデルによって支持されていた。
大規模な樹冠高度推定 [cs.CV, cs.AI, cs.LG]目的：地球規模での樹冠高度推定のための枠組み
- 森林は地球規模の炭素循環や生態系において重要な役割を担うため，その高度を把握することが重要である。
- 既存の地球規模の樹冠高度マップは，精度が十分ではなく，改善の余地がある。
- 衛星データを用いて，より高精度な地球規模の樹冠高度マップを作成し，生態学的分析に貢献すること。
- 提案手法は，衛星データを用いて地球規模の樹冠高度を高精度に推定できる。
- 平均絶対誤差（MAE）は全体で2.43メートル，5メートルを超える木では4.45メートルであり，既存のマップと比較して大幅な改善が見られた。
- 本研究の成果は，森林やバイオマスを地球規模でモニタリングするための基盤となる。
分散型多エージェント強化学習におけるGNN駆動型内在的報酬による異質エージェント協調性の向上 [cs.MA, cs.AI, cs.RO]目的：異質エージェントの協調学習
- 複雑なタスクにおいて，複数のエージェントが協調することで，単独エージェントでは達成困難な問題を解決できる。
- 現実世界では，エージェント間の情報共有が難しく，個々のエージェントが異なる能力を持つことが一般的である。
- 異質エージェントが分散環境下で効率的に協調学習するための手法を開発し，実用性を高める。
- 提案手法CoHetは，GNNを用いた内在的報酬により，分散環境下における異質エージェントの協調学習を促進する。
- MPEおよびVMASのベンチマークにおいて，CoHetは既存手法と比較して，様々な協調シナリオで優れた性能を発揮した。
- エージェントのダイナミクスモデルが内在的報酬モジュールに与える影響や，CoHetの様々な変形，異質エージェント数の増加に対するロバスト性も分析した。
ReLUネットワークにおける特異葉層構造と学習多様体：データ情報行列による幾何学的解析 [cs.LG, stat.ML]目的：ReLUネットワークによって学習されたデータ空間の幾何学的構造の解明
- 機械学習において，高次元空間におけるデータ分布の理解は重要な課題である。
- 既存手法では，複雑なデータ分布を記述する自然な幾何学的構造を捉えることが困難である。
- データ情報行列を用いてデータ空間の特異葉層構造を明らかにし，データ分布の理解に貢献する。
- データ情報行列を通じて，データ空間に特異葉層構造が存在することが示された。
- 特異葉層構造の特異点は測度ゼロの集合に包含され，ほとんど至る所で局所的に正則な葉層構造が存在する。
- データが葉層と相関すること，およびデータ情報行列のスペクトル解析によるデータセット間の距離測定の可能性が実験的に示された。
スタイン変分進化戦略 [cs.NI, eess.SP, cs.CL, cs.LG, cs.AI, cs.NE]目的：未正規化確率分布からのサンプリング
- 確率モデルの推論は機械学習の基礎であり，多様な分野で重要である。
- 密度関数の勾配が必要な場合が多く，計算困難なケースが存在する。
- 勾配情報なしで，より高精度なサンプリングを可能にすること。
- 提案手法は，勾配情報なしで未正規化ターゲット密度から高品質なサンプルを生成できる。
- 既存の勾配不要SVGD法と比較して，性能が大幅に向上することが示された。
- スタイン変分勾配降下法と進化戦略を組み合わせることで，効率的な推論を実現した。
治療効果の偶然的不確実性の定量化：新たな直交学習器 [cs.DB, cs.CL, cs.IR, cs.LG, stat.ML]目的：治療効果の偶然的不確実性の定量化
- 医療処置の効果や安全性を理解する上で，因果関係の推定は不可欠である。
- 治療効果のばらつきである偶然的不確実性は重要視されてこなかった。
- 共変量条件付きレベルで治療効果の条件付き分布（CDTE）を定量化することを目指す。
- 部分識別を用いてCDTEの鋭い境界を得ることで，治療効果の偶然的不確実性を定量化する。
- 新たな直交学習器AU-learnerを開発し，Neyman直交性を満たすことが示された。
- AU-learnerの完全パラメトリックな深層学習実装を提案した。
金融理論に基づいたニューラルネットワーク：オプション価格付けの幾何学の学習 [eess.SY, cs.SY, eess.SY, cs.SY, cs.LG, q-fin.CP, stat.ML]目的：オプション価格付けとヘッジングのための金融理論と機械学習の統合
- 金融市場は複雑であり，正確な価格付けとリスク管理が不可欠であるため，高度なモデリング手法が求められる。
- 従来のオプション価格付けモデルは，市場の非線形性や不完全性に対応できず，誤った価格やリスク評価につながる場合がある。
- 金融理論を組み込んだニューラルネットワークを用いて，より正確で安定したオプション価格付けを実現することを目指す。
- 本研究で提案するFINNは，ダイナミックヘッジに基づく自己教師あり学習を通じて，裁定機会のない価格オペレーターを回復する。
- FINNは，ブラック・ショールズモデルやヘストンモデルなどの確率的ボラティリティ環境において，正確な価格を再現し，堅牢な性能を示す。
- 市場観測データに基づいたインプライドボラティリティサーフェスの再構築において，ヘストンモデルによるキャリブレーションよりも優れた適応性と構造的バイアスの低減を実現した。
RouteNet-Gauss：機械学習によるハードウェア強化型ネットワークモデリング [cs.NI, cs.AI, cs.LG]目的：ネットワークモデリングのための，テストベッドと機械学習モデルの統合
- ネットワーク設計や性能評価において，シミュレーションは不可欠な役割を担う。
- 従来の離散事象シミュレーションは，計算コストや精度に課題があった。
- テストベッドを用いた高速なデータセット生成と高精度なシミュレーションを実現する。
- RouteNet-Gaussは，最先端のDESベース手法と比較して，予測誤差を最大95%削減し，推論時間を488倍高速化する。
- ネットワークのトポロジーやルーティングといった特性に基づいて動的に構築されるモジュール構造により，学習データ外の構成にも対応可能である。
- 時間分解能を調整可能なTAPEをサポートし，フロー性能指標の精度を維持する。
大規模樹冠高度推定における時間的変動の捉え方 [cs.LG, cs.AI, cs.CV]目的：大規模な樹冠高度マップの時間変化の把握
- 地球温暖化が進む中，森林構造や地上バイオマス推定，生態系の変化監視に不可欠である。
- 高精度な大規模樹冠高度マップの作成が困難であり，時間的な変化を捉えることは特に課題であった。
- 衛星データを用いて高精度かつ大規模な時間変化を捉えた樹冠高度マップの構築を目指す。
- 本研究では，Sentinel-1とSentinel-2の時系列衛星データを用いて，高解像度な樹冠高度マップを生成する新たな手法を提案した。
- ヨーロッパ大陸の2019年から2022年までの10m解像度時間的樹冠高度マップを初めて作成し，既存研究より高精度な推定を実現した。
- 構築したパイプラインと生成したマップは公開されており，森林の広範囲なモニタリングや生態学的分析を支援する。
推測時における予測世界モデルを用いた生成型ロボットポリシーの強化 [cs.RO, cs.CV, cs.LG]目的：事前学習済み行動クローニングポリシーの推測時における性能向上
- ロボットの自律的な行動を実現するには，環境の変化に適応し，効率的な計画を立てる能力が不可欠である。
- 既存の行動クローニングは，訓練データに依存するため，未知の環境や状況への汎化が課題である。
- 推測時に世界モデルを活用することで，再学習なしにポリシーを適応させ，ロバスト性を向上させる。
- GPCは，行動条件付きの世界モデルを用いて，拡散ポリシーによって生成された行動提案を評価・洗練する軽量なオンライン計画を可能にする。
- 多様なロボット操作タスクにおいて，GPCは標準的な行動クローニングを上回り，他の推測時適応手法と同等以上の性能を示す。
- GPCは，元のポリシーを固定したまま，テスト時の適応を実現する生成的な事前知識と予測的な先見性を組み合わせている。
ガウス過程バンディットにおける適応的な事前分布選択 [cs.LG, stat.ML]目的：ガウス過程バンディットにおける事前分布選択と後悔最小化
- 未知関数の最適化において，ガウス過程バンディットは強力な手法である。事前分布の選択が性能に大きく影響する。
- 事前分布は通常既知と仮定されるが，実際にはそうでない場合が多い。最尤推定は理論的保証がない。
- 事前分布の選択と後悔最小化を同時に行うことで，実用的な問題を解決する。
- 提案手法であるPrior-Elimination GP-TSは，予測性能の低い事前分布を排除することで性能向上を図る。
- HyperPrior GP-TSは，二段階のトムソンサンプリングを用いることで，事前分布の選択と探索を効率的に行う。
- 理論的解析により，提案手法の後悔の上界が導出され，合成データと実データでの実験により有効性が示された。
GTM：時系列データ表現学習のための汎用時間系列モデル [cs.LG]目的：時系列データの表現学習の向上
- 時系列データは，様々な分野で重要であり，その解析技術の進歩が求められている。
- 既存の時系列モデルは，多様な下流タスクへの適応性や表現学習の性能に課題が残されている。
- 時間粒度に配慮した特徴抽出と，汎用的な事前学習戦略により，表現学習の限界を克服することを目指す。
- GTMは，周波数領域アテンション機構とハイブリッドマスキングを用いた事前学習により，時系列データの表現学習を向上させる。
- GTMは，タスク固有の変更なしに様々な生成タスクにシームレスに適用できる，初のタスク非依存な生成モデルである。
- 実験により，GTMが様々な生成タスクで最先端モデルを上回り，少ない適応で高い分類性能を達成することが示された。
HOG-Diff: 高次ガイド付き拡散によるグラフ生成 [cs.LG, cs.AI, cs.SI, physics.soc-ph]目的：グラフ生成における高次トポロジー構造の表現力向上
- グラフ構造は複雑で非ユークリッド空間に存在し，その理解は様々な分野で重要である。
- 既存の拡散モデルは画像生成を基盤としており，グラフ特有の高次トポロジーを捉えきれていない。
- 高次トポロジー構造を考慮したグラフ生成フレームワークを開発し，生成性能を向上させる。
- 提案手法HOG-Diffは，高次トポロジー構造をガイドする拡散ブリッジを用いた粗い段階から細かい段階への生成を可能にする。
- 理論的な保証も従来の拡散モデルより強固であり，大規模なデータセットへの適用性も確認された。
- 8つのグラフ生成ベンチマークにおいて，ペアワイズおよび高次トポロジー指標の両方で優れた性能を示した。
リーマン多様体上の変分フローマッチング：材料とタンパク質設計への応用 [cs.LG, math.DG]目的：多様体上の生成モデリングのための幾何学的拡張であるリーマンガウス変分フローマッチング（RG-VFM）
- 材料やタンパク質の設計において，多様体上の生成モデルの重要性が高まっている。
- 既存の生成モデルは，多様体の曲率を考慮せず，最適でない結果となる場合がある。
- RG-VFMは，曲率を考慮することで，多様体構造をより正確に捉え，性能向上を目指す。
- RG-VFMは，球面や双曲面などの合成データセット，および材料・タンパク質生成の実世界タスクにおいて，良好な結果を示した。
- RG-VFMは，ユークリッド空間や速度ベースの手法と比較して，多様体の構造をより効果的に捉えることができた。
- RG-VFMは，測地距離を直接最小化するエンドポイント予測が，より強力な学習信号を提供すると考えられる。
FedSKD：多次元類似知識蒸留による医療画像分類のための集約フリーなモデル異質性連合学習 [cs.LG, cs.AI]目的：医療画像分類における，モデル異質性連合学習の新しい枠組み
- プライバシー保護が重要視される現代において，分散データを用いた機械学習のニーズが高まっている。
- 既存の連合学習手法は，集約処理のボトルネックや，モデルアーキテクチャの制限といった課題を抱えている。
- 中央集約やモデルアーキテクチャの制約なしに，異質なモデル間での知識伝達を可能にすることを目指す。
- FedSKDは，ラウンドロビンによるモデル循環を通じて直接的な知識交換を可能にし，中央集約の必要性を排除する。
- 多次元類似知識蒸留により，バッチ，ピクセル/ボクセル，リージョンレベルでの双方向の知識伝達を実現し，モデルの忘却とドリフトを軽減する。
- fMRIデータや皮膚病変分類の実験結果から，FedSKDが既存の手法を上回り，高い個人化と汎化性能を示すことが示された。
OrchMLLM：バッチポストバランシングによるマルチモーダルデータオーケストレーションとマルチモーダル大規模言語モデル学習の加速 [cs.DC, cs.AI]目的：マルチモーダル大規模言語モデル学習における効率性とスケーラビリティの向上
- マルチモーダル大規模言語モデルは，画像やテキストなど多様な情報を統合し，高度なAIタスクを実現する基盤技術である。
- 異なるモダリティのデータ比率の不均衡が学習効率を低下させ，GPUリソースの有効活用を阻害する課題が存在する。
- モダリティ構成の不整合を解消し，ミニバッチ間の不均衡を改善することで，学習速度の向上を目指す。
- OrchMLLMは，モダリティ構成の不整合を軽減するための包括的なフレームワークであり，ミニバッチの不均衡を効率的に解消する。
- 840億パラメータのMLLMを2560基のH100 GPUで学習した結果，Megatron-LMと比較して最大3.1倍のスループットを達成した。
- モデルFLOPs利用率（MFU）は41.6%に達し，学習効率の大幅な改善が確認された。
チューニング不要のLLMが，疎な接続性と知識ギャップの下で意図抽出により強力なレコメンダーを構築可能 [cs.DC, cs.IR, cs.AI]目的：疎な接続性と知識ギャップが存在する環境下における強力なレコメンダーの構築
- 推薦システムは，ユーザーに適切な情報を提示する上で不可欠であり，ビジネスや情報検索の効率化に貢献する。
- 従来の推薦システムは，知識グラフの活用や常識の追加に依存しており，具体的なユーザーの意図を捉えきれない場合がある。
- 本研究は，チューニング不要のLLMを用いてユーザーとアイテムを意図ノードに明示的に結びつけることで，この課題を解決することを目指す。
- 提案手法IKGRは，意図を中心とした知識グラフを構築し，ユーザーの意図とアイテムの充足内容をファーストクラスエンティティとして表現することで，推薦精度を向上させる。
- 疎なデータに対処するため，IKGRは意図間の相互接続性を高める戦略を採用し，ロングテールアイテムへのアクセスを容易にする。
- 実験結果から，IKGRは特にコールドスタートやロングテールアイテムにおいて，既存のベースライン手法を上回り，効率的なオフラインLLMパイプラインを実現することが示された。
大規模言語モデルのための構造化エージェント蒸留 [cs.SI, cs.LG, cs.AI, cs.CL]目的：大規模言語モデルベースのエージェントの圧縮
- 近年，意思決定エージェントとしてのLLMの活用が注目されている。
- LLMは推論コストが高く，モデルサイズが大きいという課題がある。
- 推論コストを抑えつつ，性能を維持したLLMエージェントの構築を目指す。
- 提案手法「構造化エージェント蒸留」は，推論と行動を分割し，教師モデルの挙動に合わせてセグメントごとの損失を適用する。
- ALFWorld, HotPotQA-ReAct, WebShopの実験で，従来の蒸留手法や模倣学習よりも優れた性能を示した。
- モデル圧縮率を高く保ちながら，性能劣化を最小限に抑えることが確認された。
数学の問題を段階的に検証しよう [cs.CL, cs.AI]目的：数学の問題の品質検証
- 大規模言語モデルの数学的推論能力向上は重要であり，その性能は学習データに大きく依存する。
- 既存研究は正答の生成に偏重し，問題自体の正確性に関する検証が不十分である。
- LLMの学習データに含まれる不正確な問題を検出し，信頼性の高いデータセットを構築する。
- ValiMathは，人間の検証済みの2147個の数学の問題から構成されるベンチマークであり，問題の論理構造や正確性を評価可能である。
- MathQ-Verifyは，数学の問題を原子的な仮定と結論に分解し，その整合性をチェックすることで問題の妥当性を評価するパイプラインである。
- MathQ-Verifyは，従来の検証手法と比較して，F1スコアを最大25ポイント向上させ，ノイズの多い数学データセットのクリーニングに貢献する。
AudioTrust：音声大規模言語モデルの多面的な信頼性評価 [cs.SD, cs.AI, cs.CL, eess.AS]目的：音声大規模言語モデルの信頼性評価フレームワーク
- 音声LLMの急速な発展に伴い，安全性や倫理的な問題が重要視されている。
- 既存の評価方法はテキスト中心で，音声特有の脆弱性に対応できていない。
- 音声の音響特性を利用した操作によるリスクを評価し，信頼性を向上させる。
- AudioTrustは，公平性，幻覚，安全性，プライバシー，堅牢性，認証の6つの側面を評価するフレームワークである。
- 多様な音声データを用いて14種類の最先端モデルを評価し，音声LLMの限界と課題を明らかにした。
- 本研究は，音声LLMの安全かつ信頼性の高い利用に向けた重要な知見を提供する。
隠蔽された脅威：巧妙なLLM脱獄のためのステガノグラフィー的アプローチ [cs.CR, cs.AI]目的：LLMの安全対策を回避する脱獄攻撃のステルス性向上
- LLMは強力だが，悪意のあるプロンプトによる不正利用を防ぐ必要がある
- 既存の手法は，意味的ステルスと言語的ステルスの両立が難しく，検知されるリスクがある
- ステガノグラフィーを用いて，検知されにくい高度な脱獄攻撃を実現する
- StegoAttackは，有害なクエリを無害な文章に埋め込むことで，意味的および言語的ステルスを両立する
- GPT-5やGemini-3を含む4つのLLMにおいて，平均攻撃成功率95.50%を達成し，既存手法を上回った
- 外部検出器による検知率の低下は27.00%未満であり，自然な言語分布を維持している
幾何学的SSM：選択的タスクのための線形時不変状態空間モデル [eess.SY, cs.LG, cs.SY]目的：選択的タスクにおける線形時不変状態空間モデルの設計
- 系列モデリングにおいて，効率性と長距離依存性の両立が重要課題となっている。
- 従来のSSMでは，選択的メカニズムを実現するために時間変動ダイナミクスが必要とされた。
- 幾何学的制御の原理に基づき，線形時不変システムでも選択性を実現する手法を提案する。
- 幾何学的SSMは，入力パターンに応じて異なる不変部分空間を励起することで選択性を実現する。
- Mambaが失敗する拡張帰納ヘッドタスクにおいて，ほぼ完璧な性能を発揮する。
- FFTベースの効率的な学習を維持しつつ，幾何学的制御理論に基づく新しい選択的系列モデルの設計可能性を示す。
制約付き生成モデリング：分割拡張ランジェバンサンプリングによる厳密な制約 [cs.LG]目的：複雑な物理システムの表現
- 深層生成モデルは物理システムの表現に有用だが，生成された出力の物理的妥当性が保証されていない。
- 物理的制約を考慮しない場合，科学・工学問題への応用が困難である。
- 数学的な制約を厳密に満たしつつサンプリングを行うことで，この問題を解決する。
- 提案手法であるConstrained Alternated Split Augmented Langevin (CASAL)は，変数分割を通じて制約を段階的に適用する。
- Wasserstein空間における混合時間に関する解析的なレートを導出した。
- 複雑な物理システムへのデータ同化において，物理的制約の適用により予測精度と保存量の維持が向上した。
拡散ブレンディング：拡散モデルにおける推論時の複数嗜好性アラインメント [cs.AI, cs.CV]目的：拡散モデルと下流タスク目標（美観，テキスト画像整合性等）のアラインメント
- 拡散モデルの応用範囲拡大には，多様な目的やユーザー嗜好への適応が不可欠である。
- 既存手法は単一の報酬関数に依存し，複数の対立する目的を同時に満たすことが困難である。
- 推論時にユーザー指定の報酬と正則化の線形結合に対応し，追加のファインチューニングなしにアラインメントを実現する。
- Diffusion Blendは，ファインチューニングされたモデルの逆拡散プロセスをブレンドすることで，推論時の複数嗜好性アラインメントを実現する。
- DB-MPAとDB-KLAという2つのアルゴリズムを提案し，複数報酬アラインメントとKL正則化制御を可能にする。
- 実験結果から，Diffusion Blendは既存手法を上回り，個別にファインチューニングされたモデルと同等以上の性能を示す。
エンティティ中心から目的指向グラフへ：MinecraftにおけるLLM知識検索の強化 [cs.AI]目的：LLMの知識検索における強化
- 複雑な環境での手順的推論は重要であり，LLMの能力向上に不可欠である。
- 既存のグラフ構造では，一貫性のある多段階計画の構築が困難である。
- 目的指向グラフにより，LLMの手順的推論能力の向上を目指す。
- 提案する目的指向グラフ（GoG）は，目標とその依存関係を明示的に表現する。
- Minecraft環境での実験により，GoGがGraphRAGなどの既存手法を大幅に上回る性能を示すことが示された。
- GoGは，LLMによる多段階計画の実行において，手順的推論を大幅に改善する。
ReasonMap：都市交通図を用いた詳細な視覚的推論に向けて [cs.CV, cs.AI, cs.CL]目的：都市交通図を用いた視覚的推論能力の評価
- 視覚情報と言語情報を統合した推論は，複雑な現実世界の問題解決に不可欠である。
- 既存のベンチマークは，詳細な視覚的推論能力を十分に評価できていない。
- 都市交通図という複雑な視覚情報を必要とするタスクで，モデルの推論能力を測る。
- ReasonMapは，30都市の交通図と1,008の質問・回答ペアから構成される新しいベンチマークである。
- オープンソースモデルでは基本バージョンが，クローズドソースモデルでは推論に特化したバージョンが優れた性能を示した。
- 視覚的な情報に基づいた直接的な位置づけが，高い性能に必要であることが確認された。
大規模言語モデルの限界に関する進化する研究のデータ駆動型調査 [cs.CL, cs.AI, cs.LG]目的：大規模言語モデルの限界に関する研究動向
- 自然言語処理技術の発展に伴い，大規模言語モデルの応用範囲は拡大している。
- 大規模言語モデルには，推論能力，一般化能力，幻覚，バイアス，セキュリティなどの限界が存在する。
- 大規模言語モデルの限界に関する研究動向を定量的に把握し，今後の研究方向性を示唆する。
- 2022年から2025年にかけて，大規模言語モデルに関する論文数はACLでは5倍以上，arXivでは8倍近くに増加した。
- 大規模言語モデルの限界に関する研究は，特に2025年には大規模言語モデル関連論文の30%以上を占めるほど急速に増加している。
- 推論が最も研究されている限界であり，次に一般化，幻覚，バイアス，セキュリティが続いている。
分類，ロバスト性，生成のギャップを埋める試み：あなたの分類器はもっとできる [cs.LG, cs.AI]目的：分類精度，ロバスト性，生成能力の同時達成
- 機械学習モデルの性能向上は，画像認識をはじめとする様々な応用分野において不可欠である。
- 既存手法では，分類精度，ロバスト性，生成能力のバランスを取ることが困難である。
- 本研究は，これらの性能を同時に向上させる新たな枠組みを提案し，その有効性を検証する。
- 提案手法EB-JDATは，CIFAR-10，CIFAR-100，ImageNetサブセットにおいて最先端のロバスト性を実現した。
- 従来のJoint Energy-based Models (JEMs)と同等の分類精度と生成品質を維持しつつ，ロバスト性を向上させた。
- エネルギー最適化によるclean，adversarial，generatedデータのエネルギー分布の整合性が，性能向上に貢献している。
不確実性定量化と選択的探索によるマルチエージェント強化学習のサンプル効率の向上 [eess.SY, cs.LG, cs.SY]目的：マルチエージェント強化学習におけるサンプル効率の向上
- 複雑な問題解決に複数のエージェントが協調することで，単独エージェントでは困難なタスクの達成が可能となる。
- マルチエージェント環境は状態空間が広大であり，効率的な探索が困難であるという課題がある。
- 不確実性の定量化と選択的探索により，効率的な学習を実現し，サンプル数を削減することを目的とする。
- 提案手法は，分散型アンサンブル学習と分解された集中型批評家を組み合わせ，探索を効率化する。
- アンサンブルの超過尖度を活用し，不確実性の高い状態と行動への探索を誘導することで，サンプル効率を向上させる。
- 標準的なMARLベンチマークにおいて，最先端の手法と比較して優れた性能を示すことが確認された。
理論物理学研究は言語エージェントから恩恵を受けるだろうか [cs.CL, cs.AI, math-ph, math.MP, quant-ph]目的：理論物理学研究における言語エージェントの潜在的な利点
- 物理学研究の進展は，複雑な問題を解決し，新たな発見をもたらす上で不可欠である。
- 現在の言語モデルは物理的直感や制約充足に課題があり，物理学研究への応用が限定的である。
- 物理学に特化したAIエージェントを開発し，研究を加速させるための基盤を構築すること。
- 大規模言語モデル(LLM)は多様な分野で進歩しているが，物理学への応用は不十分である。
- 物理学研究には，物理的直感や制約条件を満たす必要があり，言語モデルに物理学固有の訓練と検証ツールが不可欠である。
- マルチモーダルデータを扱え，物理的に整合性のある仮説を立て，理論的な結果を自律的に検証するAIエージェントの実現が望まれる。
LLMにおける意図理解の測定 [cs.CL, cs.AI, cs.LG]目的：LLMにおける意図理解の評価方法
- LLMの性能向上には，ユーザーの意図を正確に捉えることが不可欠である。
- LLMはテキスト入力のみに基づいて学習するため，意図の理解が不十分な場合がある。
- 意図理解の評価フレームワークを構築し，LLMの堅牢性と汎化性能を検証すること。
- モデルの出力変動を，ユーザーの意図，表現，モデルの不確実性に分解する評価手法を提案した。
- 大規模モデルほど意図の変動に寄与する割合が高く，意図理解能力が高い傾向にあることが示された。
- モデルサイズの拡大だけでは，意図理解の向上が限定的であり，より高度な評価手法が必要である。
コード混交ローマ・ウルドゥー語ツイートにおける希望表現の検出：自然言語処理における前向きな展開 [cs.CL, cs.CL, cs.AI]目的：コード混交ローマ・ウルドゥー語における希望表現の検出
- 自然言語処理は，人間とコンピュータの円滑なコミュニケーション実現に不可欠である。
- 低リソース言語や非標準的なスクリプトにおける研究は遅れており，包容的なNLPが求められる。
- ローマ・ウルドゥー語のコード混交における希望表現検出という未開拓分野への貢献を目指す。
- 初のローマ・ウルドゥー語の希望表現アノテーション付きデータセットを構築した。
- XLM-Rモデルがクロスバリデーションで0.78のスコアを達成し，SVMやBiLSTMを上回った。
- 希望の心理学的基盤とローマ・ウルドゥー語における言語的パターンを分析した。
Refine-POI：次なる興味地点推薦のための強化学習による大規模言語モデルのファインチューニング [cs.IR, cs.AI, cs.LG]目的：次なる興味地点推薦のための大規模言語モデルの性能向上
- 観光客や地域住民の行動支援として，興味地点の推薦は重要な役割を担う。
- 既存手法では，意味情報を反映したID生成と，ランキング生成のバランスが課題であった。
- 意味的な連続性を保ちつつ，多様なランキングを生成する手法を開発する。
- 提案手法Refine-POIは，階層的自己組織化マップを用いて意味的類似性を反映したIDを生成する。
- 強化学習を用いて，トップk件の推薦リスト生成を最適化し，モデルの過度な固定化を抑制する。
- 3つの現実世界のデータセットにおける実験で，既存手法を大きく上回る性能を示した。
ニューラルOS：ニューラル生成モデルによるオペレーティングシステムのシミュレーションに向けて [cs.CV, cs.AI, cs.CL, cs.HC, cs.LG]目的：オペレーティングシステムのGUIシミュレーション
- GUIを用いたインタラクションは，コンピュータ利用において不可欠であり，その自動化・効率化は重要課題である。
- 既存のシミュレーション手法は，計算コストが高く，複雑なGUIの再現が困難であるという課題がある。
- ニューラルネットワークを用いて，リアルタイムかつ高精度なGUIシミュレーションを実現することを目指す。
- NeuralOSは，ユーザーの入力に応じて画面フレームを直接予測することで，オペレーティングシステムのGUIをシミュレーションできる。
- マウス操作やアプリケーション起動などの状態遷移を正確に捉え，現実的なGUIシーケンスを生成することが確認された。
- 合成データを用いた学習により，インストールされていないアプリケーション（Doomなど）のシミュレーションも可能であることが示された。
Seq対Seq：ペア化されたエンコーダーとデコーダーのオープンなスイート [cs.CL, cs.IR, cs.LG]目的：エンコーダーとデコーダーの性能比較
- 大規模言語モデルの発展は目覚ましいが，アーキテクチャ選択の指針が少ない。
- エンコーダーとデコーダーは異なるタスクで利用されるため，公平な比較が難しい。
- パラメータ数や学習方法が統一されたモデル群で，両者の特性を詳細に分析する。
- 同一の学習レシピでエンコーダーとデコーダーを学習することで，それぞれのカテゴリで最先端の性能を達成した。
- エンコーダーは分類や検索に，デコーダーは生成タスクに優れるという既存の研究結果を裏付けた。
- デコーダーをエンコーダーのタスクに適応させる試みは，エンコーダー単独で学習するよりも劣る結果となった。
オンデバイス大規模言語モデルのための効率的な構成的マルチタスク学習 [cs.CL, cs.AI, cs.LG]目的：オンデバイス環境におけるテキストベースの構成的マルチタスク学習
- 大規模言語モデルは多様な自然言語処理タスクに応用可能であり，その活用範囲は広い。
- 既存の研究では，単一タスクを前提としており，複数タスクを同時実行する場面への対応が課題である。
- 限られた計算資源の環境下で，複数のタスクを同時に効率的に実行できる手法を確立すること。
- 本研究では，構成的マルチタスク学習に対応したベンチマークを新たに提案した。
- 計算資源の制約下でも高性能な「学習可能なキャリブレーション」という効率的な手法を開発した。
- これにより，実用的なマルチタスクシナリオにおいて大規模言語モデルの適用範囲が拡大すると期待される。