arXiv雑要約
AI - 2026/05/14 公開
コンパクトな潜在多様体変換：クロスモーダルおよびクロス周波数生理信号合成のためのパラメータ効率の良い基盤モデル [eess.SP, cs.AI]目的：生理信号のクロスモーダルおよびクロス周波数合成に関する基盤モデル
- 心電図や血中酸素飽和度などの生理時系列解析は，医療において不可欠である。
- 既存モデルは，モダリティや周波数間のギャップ，高い計算コストが課題となっていた。
- 異種信号間の干渉を抑制し，効率的な信号合成を目指す。
- 提案手法は，わずか0.09Bパラメータで既存の大規模モデルを凌駕する性能を示した。
- クロスモーダル合成（PPGからECG）において，R波検出のF1スコアを0.37から0.83に大幅に改善した。
- クロス周波数超解像（25Hzから100Hz）において，高い相関関係(0.9956)を達成し，診断マーカーの復元に成功した。
バンディットフィードバック下における多点変化点検出のサンプル複雑性 [stat.ML, cs.LG, math.ST, stat.TH]目的：多点変化点検出におけるサンプル数の最小化
- 変化点検出は，時系列解析や異常検知など，多くの分野で重要な課題である。
- 従来の解析では，変化点の大きさのみがサンプル複雑性を決定するとされてきた。
- 変化点の相対的な位置がサンプル複雑性に与える影響を明らかにすること。
- 提案アルゴリズムは，変化点を含む可能性のある区間を検出し，その位置を精密に特定する。
- サンプル複雑性に関する非漸近的な上限と下限を導出した。
- 変化点の大きさだけでなく，相対的な位置もサンプル複雑性を決定することが示された。
トロッター・スズキ分解のための物理法則に基づく生成最適化 [quant-ph, cs.LG]目的：トロッター・スズキ分解における項のグループ化，積公式の次数，時間ステップの割り当てに関する最適戦略の探索
- 量子中間規模ノイズ計算機(NISQ)上でハミルトニアンの時間発展をシミュレーションする上で，トロッター・スズキ分解は重要な手法である。
- 従来の最適化手法は，離散的なグループ化と次数の選択が難しく，また手動での調整に頼る部分が大きい。
- 生成モデルと物理法則に基づく評価ループを用いて，NISQデバイス向けのより効率的な量子回路のコンパイルを目指す。
- 提案手法は，TFIMにおいて，Qiskitのベースラインと同等の精度を，回路の深さとCNOTゲート数の大幅な削減で達成した。
- 特に，同じ回路深さの制約下では，最高で0.9994の精度を達成し，改善の可能性を示唆した。
- 生成モデルと物理法則の組み合わせによるNISQ向けコンパイルは有効なアプローチと考えられるが，その効果は条件に依存する。
ベイズ逆問題に対する近接オペレータに基づく生成モデリング [math.OC, cs.LG]目的：ベイズ逆問題に対する生成モデリング手法
- 逆問題は，画像復元など多くの分野で重要であり，その解決は応用の幅を広げる。
- 従来のスコアベース拡散モデルは，尤度の解析的な扱いが難しく，逆問題への適用が困難である。
- 尤度評価を明示的に回避することで，逆問題における生成モデリングの性能向上を目指す。
- 提案手法である近接オペレータに基づく生成モデリング(PGM)は，スコアベース拡散モデルの早期終了バイアスを解消し，非漸近収束を達成する。
- PGMは，ガウス畳み込みとモロー・ヨシダ正則化の理論的な等価性を利用し，閉形式のモロー・スコアに基づく新たなサンプリング機構を導入する。
- 実験結果から，PGMは既存の手法と比較して，再構成品質とサンプリング時間の双方において大幅な改善を示す。
LLMの性能を拡張するための摂動学習 [stat.ML, cs.LG, math.ST, stat.TH]目的：LLMの性能拡張のための摂動学習手法
- LLMは強力だが，訓練データ外の未知の入力に対する汎化性能が課題である。
- 既存の摂動手法は固定的な設計であり，柔軟性に欠ける点が問題である。
- 連続的な潜在ベクトルを用いた，学習可能な摂動手法を開発し，汎化性能向上を目指す。
- 提案手法は，埋め込み空間内の連続的な潜在ベクトルを用いたトークンprefixの摂動を行うことで，汎化性能を向上させる。
- 困難な周辺尤度を克服するため，バイアスを持たない推定方程式を導出し，確率的勾配降下法でパラメータを最適化する。
- 合成データと実世界のデータセットにおける実験により，提案手法が最先端のベースライン手法を上回る性能を示すことが確認された。
信頼性に基づいた変数グループ化疎探索による二重アーカイブ進化アルゴリズム：大規模多目的最適化 [math.OC, cs.NE]目的：大規模多目的最適化における信頼性に基づいた探索手法
- 複雑な問題に対し，複数の目的を同時に最適化する技術は，工学や経済など幅広い分野で重要である。
- 大規模問題では，探索空間の広さや変数の相互作用により，効率的な最適化が困難である。
- 既存手法の信頼性不足を解消し，探索効率，解の網羅性，安定性を向上させる。
- 提案手法TRUST-TAEAは，LSMOPベンチマーク問題において，収束性，多様性，安定性の点で優れた性能を示した。
- 信頼性に基づいた変数グループ化疎探索により，アーカイブの信頼性を高め，効率的な探索を実現した。
- グリッド接続マイクログリッドのデｲーアヘットﾞシテﾞｭｰリング問題において，費用，排出量，グリッド電力変動のバランスがとれた実行可能なディスパッチ戦略を得た。
因果効果識別のための選択バイアスの包括的理解に向けて [quant-ph, cond-mat.str-el, cs.FL, nlin.CG, stat.ME, cs.AI, cs.LG]目的：選択バイアスの下でのATE（平均処置効果）の識別可能性
- 観察研究は広く行われており，そこでのバイアスは重要な問題である。
- バイアスのあるデータから因果効果を正しく推定することが困難である。
- 既存研究の限界を超え，より弱い条件で識別可能性を明らかにすること。
- 本研究では，確率クラスに関する弱い仮定を用いて，ATE識別可能性の必要十分条件を提供する。
- 既存のグラフィカル識別可能性基準を拡張し，選択バイアスの存在下での因果効果識別の包括的な理解を提供する。
- 提案手法は，従来の基準よりも厳密に弱い条件下で有効である。
拡散モデルにおける潜在的再利用の限界 [stat.ML, cs.LG, math.PR]目的：分布シフト下における潜在的再利用の信頼性
- 拡散モデルは画像生成において高性能であり，多様な応用が期待されている。
- 異なるデータセットへの適応には計算コストがかかるため，潜在空間の再利用が検討されている。
- 分布シフトが発生した場合の潜在空間再利用の限界を理論的に明らかにすること。
- 潜在空間の再利用によるターゲットドメインのスコア誤差は，ソースとターゲットのサブ空間のずれと拡散時間スケールに依存することが示された。
- ソースとターゲットを混合した学習では，共有潜在次元の必要性が分布の幾何学的関係に影響されることが明らかになった。
- 理論的指針に基づき，潜在的再利用の信頼性を判断し，共有表現学習の必要性を判断できる。
層状ハイパーボリュームとマグニチュード指標を用いたパレートフロントへの非滑らかな集合勾配上昇法 [math.OC, cs.NA, cs.NE, math.NA]目的：多目的最適化における有限近似集合をパレートフロントへ移動させること
- 多目的最適化は，複数の相反する目的を同時に最適化する上で重要である。
- 既存手法では，非凸なパレートフロントや高次元問題への対応が困難である。
- 層状指標と非滑らかな集合勾配上昇法を用いて，より効率的な最適化を達成すること
- 層状指標は，各非支配層に対して評価され，重み付けされた組み合わせによって上昇方向を決定する。
- マグニチュード指標の正確な勾配公式が，投影されたシャドウ集合のハイパーボリューム勾配の線形結合として導出された。
- 数値実験により，層状マグニチュードとハイパーボリューム上昇法の有効性が確認された。
説明分散の限界：主成分分析に関する注意点 [cond-mat.stat-mech, cs.LG]目的：高次元データの可視化における主成分分析の欠点
- 高次元データの可視化は，データ理解の基礎であり，重要な課題である。
- 主成分分析は広く用いられるが，非線形な多様体上のデータに対しては誤った解釈を招く可能性がある。
- 本研究は，主成分分析の限界を示し，より適切な可視化手法を提案する。
- 化石の歯のデータセット分析から，主成分分析によるクラスタリングは実際には存在しないリング状構造であることが示された。
- t-SNEと持続ホモロジーの分析により，データの内在次元が1であることを確認した。
- 単位円からの均一サンプリングモデルが，観測されたデータの分布と整合することから，分析結果の信頼性が支持された。
放射線治療のための合成CT生成：SynthRAD2025チャレンジ報告 [physics.med-ph, cs.AI]目的：放射線治療におけるCTの代替手段となりうる合成CT生成手法の性能評価
- 放射線治療の正確な線量投与にはCTが不可欠だが，被ばくやロジスティクスの問題がある。
- MRIは電子密度情報がなく，CBCTは線量計算のための補正が必要である。
- MRIやCBCTからCT相当の画像を作成し，より安全で効率的な放射線治療を実現すること。
- MRIからCTへの変換タスクにおいて，MAEは64.8±21.3 HU，PSNRは約30 dB，MS-SSIMは約0.936を達成した。
- CBCTからCTへの変換タスクでは，MAEが48.3±13.4 HU，PSNRが32.6 dB，MS-SSIMが0.968に改善された。
- 画像品質と線量評価の間に中程度の相関が見られ，線量に基づいた評価が臨床検証に不可欠であることが確認された。
近赤外分光法における前処理選択の再構築：オペレーター適応PLSおよびRidgeモデルの大規模ベンチマーク [stat.ML, cs.LG, eess.SP]目的：近赤外分光法におけるスペクトル前処理選択のモデル内部校正
- 近赤外分光法は迅速かつ非破壊的分析法であり，多様な分野で利用が拡大している。
- 信頼性の高い校正のためには前処理が重要だが，最適な前処理選択はコストがかかる。
- モデル内部での前処理選択により，効率的かつ堅牢な校正モデル構築を目指す。
- オペレーター適応PLSは，従来のPLSと比較して，RMSEPの比率として0.960のメジアン値を示し，57データセット中42データセットで優位性を示した。
- AOM-Ridgeセレクターは，調整済みのRidge回帰と比較して，RMSEPを平均2.22%改善し，52データセット中35データセットで上回った。
- 本研究は，大規模な前処理探索の必要性を低減し，トレーサブルなオペレーター選択と解釈可能な係数を提供し，迅速なモデル構築を可能にする。
不変性原理に基づく因果学習 [stat.ML, cs.LG]目的：因果グラフの推論
- 因果関係の解明は，科学的発見や意思決定において不可欠である。
- 因果推論は本質的に困難であり，データのみからは因果関係を特定できない。
- 複数の環境下での不変性を仮定することで，因果グラフを特定する。
- 非線形メカニズムを持つ任意の因果グラフに対し，補助的な環境を2つ用いるだけで因果関係を推論できることが示された。
- これは，構造因果モデル（SCM）の関数メカニズムの識別可能性を意味する。
- 結果として，補助的な環境を2つ用いることで，正確な反事実推論が保証される。
オープンAaaS：分散型マテリアルズ・インフォマティクス研究のためのオープンなエージェント・アズ・ア・サービスフレームワーク [stat.CO, cs.CE, cs.MS, cond-mat.mtrl-sci, cs.AI]目的：分散型マテリアルズ・インフォマティクス研究のためのエージェント・アズ・ア・サービスフレームワーク
- マテリアルズ・インフォマティクス分野の進展は，材料開発の加速に不可欠である。
- 既存の集中型プラットフォームでは，機関を跨いだ安全な連携が課題であった。
- データ主権を尊重しつつ，分散した材料知見を統合する枠組みの提供を目指す。
- OpenAaaSは，コードの流れのみを許可し，データの移動を抑制する設計を採用している。
- AlphaAgentによる文献分析では，既存のRAGベースラインを上回る性能が確認された。
- 大規模合金記述子データベースサービスは，厳格なデータ主権下での安全な近データ実行を実証した。
CO-MAP：量子ビット割当問題に対する強化学習アプローチ [math.AC, cs.DM, math.CO, physics.flu-dyn, cs.CE, physics.comp-ph, quant-ph, cs.LG]目的：量子ビット割当問題の最適化
- 量子コンピュータの実用化には，抽象量子回路を物理デバイス上で効率的に実行する技術が不可欠である。
- 従来の量子ビット割当はランダムまたはヒューリスティックであり，最適解が得られない場合がある。
- 強化学習を用いて，SWAPゲート数を最小化する量子ビット割当を効率的に行う。
- 提案手法CO-MAPは，既存の量子コンパイラと比較して，SWAPゲート数を65-85%削減することに成功した。
- MQTBenchやQueko回路といった実世界のデータセットにおいて，その有効性が確認された。
- 強化学習ポリシーと局所探索に基づく後処理アルゴリズムの組み合わせが，大幅な改善に寄与している。
Pythonにおける共形異常検知：ヒューリスティックな閾値を超える'nonconform' [stat.ML, cs.LG, stat.CO]目的：共形異常検知の適用
- 異常検知は，不正行為や故障の早期発見に不可欠であり，様々な分野で活用されている。
- 従来の異常検知システムはスコアのみを出力し，閾値設定が主観的で統計的根拠に乏しい。
- 統計的妥当性のあるp値を生成し，原理に基づいた異常検知を実現することを目指す。
- 本研究で開発したPythonパッケージ'nonconform'は，既存の機械学習ワークフローに共形異常検知を容易に組み込める。
- 'scikit-learn'や'pyod'との連携，多様な共形化戦略のサポートにより，柔軟な異常検知が可能となる。
- 実験結果は，実装された手法が統計的に妥当な異常検知を可能にすることを示している。
スケーラブルな変分モンテカルロのための並列スキャン再帰型ニューラル量子状態 [cond-mat.str-el, cond-mat.dis-nn, cs.LG, physics.comp-ph, quant-ph]目的：スケーラブルな変分モンテカルロのための並列スキャン再帰型ニューラル量子状態の開発
- 量子多体系の計算は重要であり，古典的な手法では指数的な計算コストがかかる。
- 従来の再帰型ニューラルネットワーク量子状態は，並列化が難しくスケーラビリティに課題があった。
- 並列化可能な再帰構造を用いて，より大規模な系への適用を目指す。
- 並列スキャン再帰型ニューラル量子状態（PSR-NQS）が，1次元および2次元において効率的に学習可能であることが示された。
- PSR-NQSは，最大$52\times52$の2次元スピン格子に対して正確な結果が得られ，量子モンテカルロデータとの一致も確認された。
- 再帰型アーキテクチャは，控えめな計算資源でスケーラブルなニューラル量子状態シミュレーションの有望な手法となり得る。
ヴァリアントの学習可能性理論で学習可能なものは何か [stat.ML, cs.DS, cs.LG, math.ST, stat.CO, stat.TH]目的：ヴァリアントの学習モデルにおける学習可能性の条件の特定
- 機械学習の理論的基盤を理解する上で，学習可能性の条件を明確にすることは重要である。
- ヴァリアントのオリジナルモデルは，PAC学習モデルとは異なり，学習クラスの特性が未解明な部分があった。
- ヴァリアントのオリジナルモデルにおける学習可能性の判定基準を確立し，PAC学習モデルとの関係を明らかにする。
- 有限ドメインにおいて，クラスが学習可能であるための必要十分条件は，実現可能な正のサンプルが多項式サイズの適応的クエリ圧縮スキームによって検証可能であることである。
- ヴァリアントモデルにおける学習可能性は，PAC学習モデルとクエリなしのヴァリアントモデルの間で厳密に挟まれることが示された。
- クエリなしでは学習不可能な$d$次元半空間が，クエリを用いることで学習可能となり，そのためのアルゴリズムとサンプル・クエリ数の下界が示された。
物理ロボット相互作用のためのマルチモーダルワールドモデル：高精度な同時視覚・触覚予測 [cs.CG, cs.RO, cs.AI, cs.CV]目的：物理ロボット相互作用における視覚と触覚の同時予測によるワールドモデルの構築
- ロボットが複雑な環境で動作するためには，物理世界を理解し予測する能力が不可欠である。
- 既存の研究では視覚情報に偏っており，触覚情報の重要性が十分に考慮されていない。
- 触覚と視覚情報を統合することで，物理的な曖昧性下での予測精度向上を目指す。
- 視覚と触覚情報を統合した予測は，物理的に曖昧な状況下で最も効果を発揮することが示された。
- 視覚的に物体の挙動が推測可能な状況では，改善は限定的であった。
- 磁気ベースの触覚センサーを用いた，教師なし学習のためのロボットプッシュデータセットを新たに2つ公開した。
暗黙的生成モデリングのためのスコア差分フロー [cs.LG, stat.ML]目的：目標分布との特性が一致する合成データサンプルの生成
- 生成モデルは現実世界の複雑なデータを再現する上で不可欠であり，応用範囲が広い。
- 既存の生成モデルは，サンプル品質，モード網羅性，高速サンプリングのトレードオフに陥りやすい。
- KLダイバージェンスを最適化するスコア差分フローを通じて，このトレードオフを克服することを目指す。
- スコア差分フローは，任意のターゲット分布とソース分布間のKLダイバージェンスを最小化するフローとして導出された。
- このフローは，特定の条件においてノイズ除去拡散モデルと理論的に同等であることが示された。
- 敵対的生成ネットワークの学習にも隠れたデータ最適化問題が含まれ，それがスコア差分フローを誘導することが示された。
有限空間における測度集中を用いたデジタルコンピュータにおけるより厳密な学習保証 [cs.RO, cs.CC, cs.LG]目的：デジタルコンピュータ上での学習における汎化誤差の限界
- 機械学習は現代社会において不可欠であり，その性能向上は重要な課題である。
- 従来の汎化誤差の限界は，次元数や機械精度に依存し，サンプルサイズが小さい場合に問題となる。
- サンプルサイズに応じた汎化誤差の限界を導出し，より実用的な学習を可能にすること。
- 本研究では，サンプルサイズNと幾何学的表現次元mに適応する汎化誤差の限界群{cm/N^(1/(2∨m))}_{m=1}^∞を導出した。
- パラメータmをNに応じて調整することで，実用的なサンプルサイズNにおいて有意にタイトな汎化誤差の限界が得られる。
- また，有限距離空間における測度集中に関する新しい非漸近的な結果を確立し，これを利用して適応的な汎化誤差の限界を定式化した。
LoRAにおける破滅的忘却の理解：平均場アテンションダイナミクスによる解析 [cs.LG, math.DS, stat.ML]目的：LoRAにおける破滅的忘却のメカニズム解明
- 大規模言語モデルの効率的な微調整は，多様なタスクへの適応に不可欠である。
- LoRAは効率的だが，以前の知識を急速に失う破滅的忘却の問題を抱えている。
- 平均場アテンションダイナミクスを通じて，忘却の発生条件と抑制策を明らかにする。
- 平均場理論と動的システム解析により，忘却と非忘却の間に相転移が存在することが示された。
- 摂動のノルムとTransformerの深さが，相転移の主要な要因であることが明らかになった。
- 摂動の大きさやスペクトル量に基づいて，逸脱までの時間を理論的に評価し，実験で検証された。
科学的数式発見のためのマルチモーダル大規模言語モデル ChatSR [cs.AI, cs.CL]目的：科学的データの理解と数式生成
- 科学的発見の自動化は，研究開発の効率化に不可欠である。
- 既存のマルチモーダル大規模言語モデルは，科学データの構造的特徴の把握が不十分である。
- 観測データと事前知識に基づいて，科学的法則を表現する数式を自動生成する。
- ChatSRは，科学データを新たなモダリティとして扱い，大規模言語モデルが処理可能な表現空間にマッピングする。
- 13のデータセットを用いた実験で，従来の記号回帰ベンチマークで最先端の性能を達成した。
- 学習データに存在しない事前知識も活用できるゼロショット能力を示す。
純粋注意ハードマックス変換器におけるクラスタリングとその感情分析における役割 [cs.CL, cs.LG, math.DS, stat.ML]目的：純粋注意ハードマックス変換器のクラスタリングの特性と，感情分析への応用
- 変換器は機械学習において成功を収めているが，その数学的性質は未解明な部分が多い。
- 変換器の内部動作原理が不明確であり，解釈可能性に課題がある。
- 変換器の理論的理解を深め，感情分析への応用を通じて，その解釈可能性を高める。
- 無限層への漸近的な解析により，変換器の入力がリーダーと呼ばれる特殊な点によって決定されるクラスタリングされた平衡状態に収束することが示された。
- この理論的知見を活用し，意味のない単語を重要な単語の周りにクラスタリングすることで，文脈を効果的に捉える，解釈可能な感情分析モデルを構築した。
- 変換器の数学的分析と実用的な実装との間のギャップを埋めるための今後の課題が示唆された。
大規模言語モデルにおけるAI安全性：分類，最新技術，今後の展望 [cs.CL, cs.AI]目的：AI安全性の現状分析と将来方向性の提示
- AI技術の急速な発展に伴い，社会への安全な導入と運用が重要課題となっている。
- AI安全性の範囲が広がり，公共の安全や国家安全保障への影響を考慮する必要がある。
- 信頼性，責任，安全性の観点からAI安全性を体系的に理解し，具体的な対策を提示する。
- 本研究では，AI安全性を「信頼できるAI」「責任あるAI」「安全なAI」の3つの視点から捉える新たなフレームワークを提案した。
- 大規模言語モデル(LLM)を例に，AI安全性の設計・テストに関する最新技術や手法を詳細にレビューした。
- AI安全性研究の発展を促進し，デジタル変革に対する人々の信頼性を高めることを目指している。
汎用連合学習に対する収束型差分プライバシー解析 [cs.LG, cs.CR]目的：連合学習と差分プライバシーのプライバシー保護性能評価
- プライバシー保護技術の重要性が高まる中，大規模データを用いた機械学習のニーズが増加している。
- 既存の連合学習における差分プライバシー解析は厳密性が低く，長期間の学習においてプライバシー保護性能が低下する可能性がある。
- 本研究は，連合学習と差分プライバシーの枠組みにおけるプライバシー保護性能の収束性と信頼性を評価し，理論的基盤を確立する。
- Noisy-FedAvg において，プライバシー保護性能が収束する厳密な上限を導出した。
- Noisy-FedProx において，代理項の正則化により，プライバシー保護性能が安定した下限を持つことを示した。
- 本解析は，$(\epsilon,\delta)$-DP や RDP などの既存の差分プライバシー解析手法にも応用可能である。
BEAVER：テキストからSQLへのエンタープライズベンチマーク [cs.DC, cs.CL, cs.AI, cs.DB]目的：テキストからSQLへの変換性能評価のためのベンチマーク
- 企業におけるデータ分析の自動化ニーズが高まっており，自然言語によるSQL生成技術が不可欠である。
- 既存のベンチマークは単純な構造のデータベースに限定され，複雑な企業環境での実用性は不明確である。
- 本研究は，複雑な企業環境におけるテキストからSQLへの変換性能を評価し，課題を特定することを目的とする。
- BEAVERは，実際の企業のデータウェアハウスから作成された，9128組の質問とSQLペアを含む大規模なベンチマークである。
- 最先端のエージェントフレームワーク（GPT-5.2）の精度は10.8%に留まり，サブタスクの注釈を活用することで30.1%に向上した。
- 残存するエラーの分類により，高度な関数などの特定の課題が浮き彫りになり，今後の研究の方向性を示唆している。
メタ部分空間探索による線形不変特徴の少サンプル多タスク学習 [cs.LG, stat.ME]目的：線形不変特徴を共有する多タスクモデルにおける不変低ランク成分の学習
- 機械学習・AIの実用的な成功には大規模データセットが必要不可欠である。データ不足は深刻な問題。
- 既存の多タスク学習・メタ学習手法では，データ共有構造の学習が十分でない場合がある。
- タスク間で共有される不変部分空間を効率的に学習し，データ不足の問題を解決することを目指す。
- 提案手法Meta-SPは，タスク間で共有される不変部分空間を理論的に保証付きで学習可能。
- 数値実験の結果，Meta-SPは既存の汎用的なメタ学習アルゴリズム（ANILなど）と比較して，優れた性能を示す。
- Meta-SPは，多タスク学習において高い有効性と効率性を実証した。
潜在交絡シフト下における因果的ファインチューニング [cs.LG, cs.CL]目的：潜在交絡シフトへの適応
- AIの信頼性向上には，現実世界の複雑な状況への適応能力が不可欠である。
- 学習データに隠れた変数による疑似相関が存在し，モデルが因果関係に基づかない予測を行う。
- 因果構造を明示的にモデル化し，頑健な予測器を開発すること。
- 本研究では，構造因果モデルに基づく新しいファインチューニング手法(CFT)を提案した。
- CFTは，表現を安定成分とシフトに敏感な成分に分解し，よりロバストな予測を実現する。
- 実験の結果，テキストデータにおける疑似相関攻撃に対して，既存手法よりも優れた性能を示した。
画像拡散モデルの転用によるMelスペクトログラムを用いた学習不要の音楽スタイル変換 [cs.SD, cs.AI, cs.LG, eess.AS]目的：音楽スタイル変換のフレームワーク
- 音楽制作において，個人の好みに合わせた音楽生成が重要視されている。
- 既存手法では，微細な音響ニュアンスの再現が難しく，テキスト説明に頼るか，高コストな学習が必要となる。
- 事前学習済みの画像拡散モデルを転用し，学習不要で高品質な音楽スタイル変換を実現すること。
- 提案手法Stylusは，Melスペクトログラムを画像として扱い，自己注意機構を操作することでスタイル変換を行う。
- 位相情報を保持する再構成戦略により，スペクトログラム反転時のアーティファクトを軽減し，高忠実度を実現した。
- 2,925件の人間評価において，Stylusは最先端手法を凌駕し，コンテンツ保持率34.1%向上，知覚的品質25.7%向上を達成した。
視覚的調節：物体検出のための学習可能な変数としての画像スケール再考 [cs.CV, cs.AI]目的：物体検出における画像スケールの学習可能性
- 物体検出は，画像内の物体を特定する重要な技術であり，様々な応用分野で活用されている。
- 既存の物体検出器は，固定された解像度で推論を行うため，スケール変化への対応が課題であった。
- テスト時の解像度を動的に調整することで，スケール変化に対するロバスト性を向上させることを目指す。
- 本研究では，生物の調節機構に着想を得たCiliary-DETRを提案し，テスト時の解像度を自動調整するフレームワークを構築した。
- 軽量なスケール予測器を導入し，入力スケールに応じて最適なスケールファクタを動的に推定することで，柔軟かつ効率的な推論を実現した。
- 損失関数に基づいたスケール最適化により，訓練時のロバスト性とテスト時の適応能力のギャップを埋めることに成功した。
有限ホライズンMDPにおける低ランクテンソル値近似によるアプローチ [cs.DM, cs.LG]目的：有限ホライズンマルコフ決定過程における最適な方策の学習
- 強化学習は，複雑な意思決定問題を解決するための重要な手法であり，様々な分野で応用されている。
- 高次元MDPでは，状態空間の爆発的な増加により，計算コストが増大し，学習が困難になる。
- 低ランクテンソル近似を用いることで，計算量を削減し，効率的な方策学習を実現することを目指す。
- 提案手法は，価値関数を低ランクテンソルとして表現することで，高次元MDPにおけるスケーラブルな表現を可能にする。
- ベルマン方程式を低ランク制約下で解くための最適化フレームワークと，ブロック座標降下法・ブロック座標勾配降下法を提案した。
- シミュレーション実験により，提案手法が計算負荷を軽減し，良好な方策性能を達成することを示した。
グラフ学習における漸進的ドメイン適応 [cs.LG]目的：グラフ構造を用いたドメイン適応手法
- グラフ構造データは現実世界の複雑な関係性を表現可能であり，様々な分野で活用が期待される。
- 大規模な分布シフトに対応できるグラフベースのドメイン適応技術は未だ不足している。
- ソースからターゲットへの連続的な変化を捉え，ドメイン間の情報損失を最小化する手法を開発する。
- 提案手法GGDAは，Fused Gromov-Wasserstein (FGW) metricを用いて知識を保持した中間グラフを効率的に生成する。
- 頂点ベースの漸進的なドメイン系列構築により，ドメイン間の転移性を向上させる。
- 理論的に，ドメイン間のWasserstein距離の上界・下界を算出可能であり，最適なドメイン形成を実現する。
Transformerによる有限系列データの正確な補間 [cs.LG, math.OC, stat.ML]目的：有限入力系列データセットの正確な補間
- 系列データ処理は，自然言語処理や時系列解析など，多様な分野で重要である。
- Transformerモデルの理論的な性能限界は十分に解明されていない。
- Transformerが有限系列データを正確に補間できることを数学的に示す。
- Transformerは，入力系列の長さに関わらず，指定されたデータセットを正確に補間できることが証明された。
- 補間を実現するためのTransformerのブロック数とパラメータ数は，入力系列長の総和に対して線形である。
- 本研究は，Transformerの優れた性能を理論的に説明し，その応用可能性を広げる。
キャリブレーションされた非パラメトリック確率予測のための効率的な分布回帰木学習アルゴリズム [cs.LG, cs.DS]目的：キャリブレーションされた非パラメトリック確率予測のための分布回帰木の学習
- 科学技術における信頼できるAI開発には，不確実性を推定できる機械学習技術が不可欠である。
- 従来のパラメトリックモデルは制約が強く，非パラメトリックモデルが柔軟な代替手段となる。
- WISやCRPSといった適切なスコアリングルールを用いて，より正確な確率予測を目指す。
- 提案手法は，WISまたはCRPS損失関数に対する確率回帰木を効率的に学習するアルゴリズムである。
- min-maxヒープ，重み付き二分木，Fenwick木といったデータ構造の適切な利用により，計算効率を高めている。
- 数値実験により，提案手法が既存手法と同等以上の性能を示すことを実証した。
AIvaluateXR：XRデバイスにおけるオンデバイスAIの評価フレームワークとベンチマーク結果 [eess.SY, cs.SY, cs.DC, cs.AI, cs.GR, cs.HC]目的：XRデバイスにおけるオンデバイスAIのモデルとデバイスの選択に関する評価基準
- XR技術とAIの融合は，人間とAIの新たなインタラクションの可能性を広げる重要な分野である。
- XRデバイス上でLLMを直接実行する場合，タスクに適したモデルとデバイスの選択が困難である。
- 様々なモデルとデバイスの性能を比較評価し，最適な組み合わせを見つける方法を確立すること。
- AIvaluateXRフレームワークを用いて，17種類のLLMを4つのXRプラットフォーム上でベンチマークした。
- 性能の一貫性，処理速度，メモリ使用量，バッテリー消費量の4つの主要指標を測定し，モデルとデバイスの組み合わせ68パターンを評価した。
- 3Dパレート最適性に基づいた評価方法により，品質と速度のバランスが取れた最適な組み合わせを提案した。
DeePen：音声ディープフェイク検出に対する侵入テスト [cs.CR, cs.AI, cs.SD, eess.AS]目的：音声ディープフェイク検出システムの脆弱性評価
- ディープフェイクは，個人や組織に対するセキュリティリスクが高まっているため，対策が急務である。
- 既存のディープフェイク検出システムは，攻撃に対して頑健でない可能性があり，容易に欺瞞される恐れがある。
- 本研究は，ディープフェイク検出システムの脆弱性を明らかにし，対策の方向性を示すことを目指す。
- DeePenは，ターゲットモデルの事前知識なしに，信号処理による操作（攻撃）を用いて脆弱性を評価する侵入テスト手法である。
- 実世界のシステムと公開されているモデルを分析した結果，すべてのシステムが脆弱性を示し，単純な操作で欺瞞可能であることが示された。
- 特定の攻撃に対する再学習で緩和できる攻撃もあるが，効果が持続する攻撃も存在する。
VIPO：価値関数の一貫性欠如をペナルティ化するオフライン強化学習 [cs.LG, cs.AI]目的：オフラインデータセットからの効果的な方策学習
- 実環境での試行錯誤が困難な場合に，過去データから学習する手法として重要である。
- モデル誤差により，モデルベースの手法では不確実性の推定が不正確になりやすい。
- 価値関数の不一致をペナルティ化することで，モデルの精度向上を目指す。
- VIPOは，価値推定からの自己教師ありフィードバックを取り入れ，モデル学習を強化する。
- 実験の結果，VIPOは既存手法と比較して，より正確なモデルを効率的に学習できることが示された。
- D4RLおよびNeoRLベンチマークにおいて，ほぼすべてのタスクで最先端の性能を達成した。
分散情報下におけるマルチエージェントLLMの集団推論における系統的失敗 [cs.CL, cs.AI, cs.MA]目的：分散情報下における集団推論の系統的失敗
- 複雑な問題解決において，複数のLLMエージェントが情報を共有し協調することで，より高度な意思決定が期待されている。
- マルチエージェントLLMの集団推論能力は重要だが，その能力を系統的に評価する手段が確立されていなかった。
- 分散情報下における集団推論の失敗要因を特定し，集団推論能力を改善するための方法論を確立すること。
- HiddenBenchという新たなベンチマークを用いることで，マルチエージェントLLMの分散情報下における正答率は単一エージェントに比べて大幅に低いことが示された。
- エージェントは，他者が知っている可能性のある未表現の情報に気づけず，共有された証拠に早まって集中してしまうことが，その原因であることが明らかになった。
- 構造化されたコミュニケーションプロトコルを用いることで，集団推論の性能が大幅に向上することから，この問題は解決可能であることが示唆された。
表理解のための領域ベース強化学習：Table-R1 [cs.CL, cs.AI]目的：表形式データの理解度向上
- 表形式データは，情報抽出や意思決定において重要な役割を果たす。
- 大規模言語モデルは表形式データの理解に課題があり，効率的な推論が難しい。
- 領域に着目した強化学習により，言語モデルの表形式データ理解を改善する。
- Table-R1は，複数のベースモデルで3つのベンチマークデータセットにおいて平均14.36点もの性能向上を達成した。
- TARPOは，GRPOと比較して応答トークン消費量を67.5%削減し，効率的な推論を実現した。
- Table-R1は，パラメータ数の10倍のベースラインモデルを上回る性能を示した。
言語モデルネットワーク：密なコミュニケーションによる効率的な教師あり学習 [cs.AI]目的：言語モデルネットワークにおける効率的な教師あり学習
- 言語モデルは，予測だけでなく，推論システムやマルチモーダルコラボレーションの構成要素としても重要性が増している。
- 既存システムでは自然言語によるコミュニケーションが主流だが，離散的で非効率，かつエンドタスクからの最適化が困難である。
- 密な微分可能なコミュニケーションにより，効率的な情報伝達と学習を実現し，性能向上を目指す。
- LMNetは，ストリップされたLLMを頂点モジュール，学習可能なseq2seqモジュールを通信エッジとして使用する。
- 中間ノード間のベクトル交換を可能にし，システム境界では自然言語の入出力を維持することで，効率的な情報伝達を実現した。
- 限られた教師データ下での有効な適応と，わずかな追加学習コストで性能向上が確認された。
Attention機構のための解析的低ランク近似フレームワークA3 [cs.CL, cs.AI, cs.LG]目的：大規模言語モデルの低ランク近似による圧縮手法
- 大規模言語モデルは高性能だが，パラメータ数が膨大で展開コストが高い。
- 既存の低ランク近似は，Transformerアーキテクチャの特徴を考慮せず，計算効率が悪い。
- Transformer層を機能コンポーネントに分割し，損失を最小化する解析解を導出することで，効率的な圧縮を実現する。
- 提案手法A3は，既存の最先端手法と比較して，優れた性能を維持する。
- 例えば，LLaMA 3.1-70Bにおいて，WikiText-2でのperplexityが4.69と，既存の最先端手法の7.87を3.18上回る。
- A3は，KVキャッシュ圧縮，量子化との統合，ファインチューニング，混合ランク割り当てなど，多様な応用が可能である。
ニューラルネットワークとデータセットの効率的な圧縮 [cs.LG, cs.AI, cs.IT, math.IT, math.OC, math.ST, stat.TH]目的：ニューラルネットワークとデータセットの圧縮による汎化性能の向上
- 機械学習において，モデルの汎化性能は重要であり，過学習を防ぐための様々な手法が研究されている。
- モデルの複雑さとデータ量とのバランスが難しく，高精度なモデルはパラメータ数が多くなりがちである。
- モデルとデータセットの圧縮を通して，汎化性能を高める最適な手法を確立することを目指す。
- アルゴリズム情報理論とニューラルネットワークプルーニングを組み合わせ，モデルの汎化性能を向上させる効果的なデータ圧縮手法を特定した。
- パラメータの疎性をモデル記述長の有効な近似として捉え，$\ell_0$正則化学習を用いてMDL最適化を近似的に実現した。
- 提案手法は，画像とテキストデータセットにおいて，高い圧縮率と精度の維持，短いデータ記述長の実現を検証により示した。
状態空間モデルにおけるサンプル不要継続学習 [cs.CY, cs.LG]目的：状態空間モデルの継続学習における破滅的忘却の軽減
- 系列モデリングにおいて，長距離依存性を捉える能力が重要であり，状態空間モデルはその有効性が示されている。
- 継続学習下では，状態空間モデルの動的な状態変化が，過去データの欠如による忘却を招きやすい。
- 無限次元グラスマン多様体の幾何構造を利用し，状態空間モデルの状態変化を制約することで，忘却を抑制する。
- 提案手法Inf-SSMは，状態空間モデルの拡張された観測空間における無限地平線進化を正則化する幾何学に基づいた手法である。
- シルベスター方程式の効率的な解法を開発し，計算コストを$\mathcal{O}(n^3)$から$\mathcal{O}(n^2)$に削減することに成功した。
- ImageNet-RやCaltech-256などのベンチマークにおいて，連続タスクにおける精度向上と忘却の軽減が確認された。
ニューラル特徴による非剛体形状登録 [cs.CV, cs.AI]目的：3D形状登録のための学習に基づくフレームワーク
- 形状解析は，医療画像処理やコンピュータビジョンなど幅広い分野で重要である。
- 非剛体変形や形状の一部分の欠損がある場合，従来の形状登録は困難である。
- 深層学習に基づく形状マッチングネットワークから得られる特徴を利用し，よりロバストな形状登録を実現する。
- 本研究では，わずかな学習データで既存のベンチマークにおいて最先端の結果を達成した。
- 提案手法は，外挿的・内挿的な大きな変形を持つ未知の形状ペアに対しても高品質な対応付けを提供する。
- ニューラル特徴は，空間的特徴よりも正確で意味のある対応関係推定を可能にする。
高速化された汎用二段階近似トップK選択 [cs.RO, cs.MA, cs.LG, cs.DS]目的：配列中の上位K個の要素の特定
- 機械学習アルゴリズムにおいて頻出する処理であり，アクセラレータの性能を左右する
- アクセラレータは密行列乗算に最適化されており，トップK選択はボトルネックとなりやすい
- より効率的に入力サイズを削減し，トップK選択の高速化を実現すること
- 第一段階で各分割から上位K'個の要素を選択する汎用化により，入力サイズの削減効果が向上した。
- 既存手法と比較して，期待リコールの理論的上限が2倍に改善された。
- Cloud TPUv5e上での実装により，リコールを損なうことなく，約10倍の高速化が達成された。
見るものを再検討：LVLMのデコーディングを導く視覚トークンの視覚的意味の解明 [cs.CV, cs.AI, cs.CL]目的：大規模ビジョン言語モデルにおける視覚情報のデコーディングへの貢献度に関する理解
- マルチモーダルタスクにおいて，視覚情報と言語理解の統合が重要であり，モデルの性能向上に不可欠である。
- 既存のLVLMは幻覚（ハルシネーション）を起こしやすく，視覚情報がデコーディングにどのように影響しているか不明である。
- 視覚トークンが持つ意味情報を活用し，LVLMのデコーディングを改善することで，幻覚を抑制すること。
- 視覚トークンは，幻覚が発生している場合でも意味のある視覚情報を含んでおり，テキスト空間に意味が符号化されていることが明らかになった。
- ReVisiTは，視覚トークンを参照することでLVLMのテキスト生成を導く，学習不要のシンプルなデコーディング手法である。
- ReVisiTは，既存の最先端のデコーディング手法と同等またはそれ以上の性能を達成しつつ，計算コストを最大で2倍削減する。
推論時スケーリング向上のための継続思考トークンの学習 [cs.CL, cs.LG]目的：推論時スケーリングにおける性能向上
- 言語モデルの性能向上は，様々な応用において重要である。
- 推論時の計算資源の制約と，十分な推論ステップの確保が課題である。
- 学習可能な継続思考トークンで，推論ステップを効果的に延長すること。
- 学習されたトークンは，標準的な数学ベンチマークにおいてベースモデルや固定トークンを用いた手法よりも高い精度を達成した。
- 特に，固定トークンによる精度向上が見られる場合，学習されたトークンによる改善は顕著であった。
- GSM8Kベンチマークでは，学習トークン法はベースモデルに対して4.2%の精度向上を示し，固定トークン法の1.3%を上回った。
T-TExTS：知識グラフに基づく推薦システムによる高校文学の教材選択の強化 [cs.IR, cs.AI]目的：高校文学の教材選択における知識グラフに基づく推薦システムの開発
- 教材選択は文学教育の質を左右する重要な要素であり，多様な視点を提供する必要がある。
- 教師の教材調査・選定には時間がかかり，質の高い教材の確保が課題となっている。
- 本研究は，教師の教材選択を支援し，より効果的な文学教育を実現することを目指す。
- 知識グラフ埋め込み戦略の評価の結果，Node2Vecが最も高いAUC（0.9642--0.9750）を示した。
- 構造的特徴と教育的シグナルを組み合わせたハイブリッドモデルも高いAUC（0.9122--0.9350）を維持し，解釈性を保った。
- T-TExTSは，高校文学の教材選択を支援し，包括的なカリキュラムの策定に貢献できる可能性を示した。
MaskPro：LLMにおける厳密な(N:M)-スパース性のための線形空間確率的学習 [cs.LG]目的：大規模言語モデルにおける効率的な推論のための(N:M)-スパース性の学習
- 大規模言語モデルの急速な拡大により，推論効率が実用上のボトルネックとなっている
- 既存の(N:M)-スパース性手法は，精度不足または学習コストが高いという課題がある
- 線形空間における確率的学習により，高精度かつ低コストな(N:M)-スパース性実現を目指す
- MaskProは，各M個の連続する重みに対する事前カテゴリ分布を学習し，N-wayサンプリングによって(N:M)-スパース性を生成する
- 損失の移動平均トラッカーを導入することで，巨大な組合せ空間における勾配の分散を抑制し，学習の安定性を向上させている
- 理論的分析と実験により，MaskProの優れた性能，メモリ効率，データに対するロバスト性が検証された