arXiv雑要約
AI - 2026/03/27 公開
実用的な効率的な大域的最適化は後悔しない [q-bio.PE, cs.CC, math.DS, cs.SY, eess.SY, math.OC, q-bio.PE, physics.flu-dyn, cs.SY, eess.SY, stat.ML, cs.LG]目的：実用的な効率的な大域的最適化(EGO)の累積後悔上限
- 機械学習や最適化問題において，効率的な大域的最適化は重要な課題である。
- 既存のEGOアルゴリズムでは，数値的安定性のためにナゲット項が導入されるが，理論的な後悔解析が不足している。
- ナゲット項を導入した実用的なEGOにおける累積後悔の上限を理論的に導出し，後悔しないアルゴリズムであることを示す。
- 本研究で初めて，実用的なEGOの累積後悔の上限が確立された。
- 実用的なEGOが，二乗指数型カーネルやMatérnカーネルを含む一般的なカーネルに対して亜線形累積後悔を持つことが示された。
- ナゲット項が後悔限界に与える影響が分析され，その選択に関する理論的示唆が得られた。
力学系における分布間のニューラル確率予測フレームワーク [quant-ph, cs.NI, stat.ML, cs.LG]目的：力学系の確率予測における新しいフレームワークの提案
- 力学系の予測において，不確実性を定量化することは重要であり，確率予測はそのための有効な手法である。
- 既存の予測手法は，確率分布を直接扱うのではなく，アンサンブルやサンプリングを通して間接的に扱うため，効率が課題である。
- 予測分布を直接的に操作し，不確実性の伝播を効率的に行う新しいフレームワークを開発し，予測精度向上を目指す。
- 本研究で提案する分布間(D2D)フレームワークは，予測分布を直接扱うことで，非線形力学における複雑な分布変化を捉えることができた。
- D2Dモデルは，明示的なアンサンブルシミュレーションなしに，高い確率予測性能を示し，理想的なモデルベンチマークと同等またはそれ以上の性能を発揮した。
- これらの結果は，予測分布を直接学習・進化させるという，確率予測の新たなパラダイムを示唆するものである。
強相関系における転移可能な深層量子モンテカルロを用いた初期配置からの幾何学的最適化の実現 [physics.chem-ph, cs.LG, physics.comp-ph]目的：強相関系の分子ポテンシャルエネルギー表面の探索
- 化学プロセスの正確な記述には，複雑なポテンシャルエネルギー表面の探索が不可欠である。
- 強相関系においては，高精度な計算コストと，確率的性質による分子配置空間の探索の困難さが課題である。
- 深層学習を用いたVMCと効率的なエネルギー，力，ヘッセ行列の推定を組み合わせ，効率的なポテンシャルエネルギー表面探索を目指す。
- 転移可能な深層学習VMCを用いることで，化学的に妥当な分子形状分布においてゼロショットの化学精度を達成した。
- ポテンシャルエネルギー表面は疎に評価され，ガウス過程回帰を用いてノイズデータが集約される。
- 構造緩和，遷移状態探索，最低エネルギー経路など，様々な分子構成空間の探索が可能となり，多参照性を持つ系の研究への道が開かれる。
集中治療室退院戦略を評価するための因果的枠組み [stat.ME, cs.AI, cs.LG, stat.ML]目的：集中治療室退院戦略の評価
- 集中治療室での患者管理は医療資源の効率的な利用と患者の予後改善に不可欠である。
- 観察データからの退院戦略の評価は，因果推論上の課題や多岐にわたる評価指標の存在により困難である。
- 観察データから退院戦略を評価するための因果推論枠組みを構築し，既存の医療戦略の改善を目指す。
- 提案手法は，因果推論の枠組みであるg-formulaを一般化し，集中治療室退院戦略の評価を可能にする。
- MIMIC-IVデータベースを用いた分析により，既存の治療法を改善する可能性のある戦略が示唆された。
- 本研究は，オープンソースのパイプラインを通じて，再現性と透明性の高い評価を可能にする。
対称パーセプトロン：教師・生徒シナリオ [cond-mat.dis-nn, cond-mat.stat-mech, cs.LG]目的：対称二値パーセプトロンの教師・生徒形式
- 機械学習モデルの理論的理解深化に貢献する。
- 従来のパーセプトロンは記憶容量に依存し，推論問題としての解析が不十分だった。
- 任意のサンプル密度で解が保証される推論問題への転換を目指す。
- 対称パーセプトロンを教師・生徒形式で定式化し，高次元極限における相図を明らかにした。
- サンプル密度，超平面からの距離，温度の３パラメータ間の関係性を解析した。
- 教師との相関を持つ劣最適状態の生成と，完全一致への遷移のメカニズムを明らかにした。
残差を教師とする：学生-教師推定におけるバイアス伝播の緩和 [stat.ML, cs.LG, math.ST, stat.TH]目的：学生モデルの推定におけるバイアス伝播の緩和
- 機械学習モデルの性能向上は重要であり，教師あり学習は広く用いられる。
- 教師モデルのバイアスが学生モデルに伝播し，性能低下を引き起こす可能性がある。
- 教師のバイアス伝播を抑制し，学生モデルの精度向上を目指す。
- 提案手法である残差を教師とする (RaT) は，教師の残差を推定することで，バイアスの影響を低減する。
- RaTは，オラクル最適化問題を解くための近接勾配法を模倣し，理論的にバイアスの影響を低減することが示された。
- カーネルベースのモデルでは，RaTがミニマックス最適レートを達成するのに対し，SMはサンプルサイズに関わらず一定の予測誤差を被る。
ノンパラメトリック計量経済モデルにおける適合予測 [econ.EM, cs.LG, stat.AP, stat.ME, stat.ML]目的：ノンパラメトリック計量経済モデルにおける分布を仮定しない予測区間の構築
- 因果推論において，操作変数法は重要な役割を果たす。
- 既存のノンパラメトリック操作変数法では，予測区間の信頼性を保証することが困難である。
- 操作変数シフトのクラスに対する有限サンプル保証付きの予測区間を提供する。
- 本研究では，適合予測を用いて，分布を仮定しない予測区間を構築する手法を提案する。
- 提案手法は，既存のノンパラメトリック操作変数推定器と組み合わせることが可能である。
- 理論的分析により，実務家が選択した操作変数シフトのクラスに対する有限サンプル保証付きの信頼区間が得られる。
ニューラルネットワークにおける同時汎化と記憶の規則と事実モデル [stat.ML, cond-mat.dis-nn, cs.LG]目的：ニューラルネットワークにおける同時汎化と記憶のメカニズムの解明
- 現代のニューラルネットワークの重要な能力であり，その理論的理解が求められている。
- 汎化能力と記憶能力の同時実現のメカニズムが明確に解明されていない。
- 規則学習と事実記憶の同時実現を可能にする理論的枠組みを構築する。
- 規則と事実（RAF）モデルは，汎化と記憶の現象を正確に特徴付けるための最小限の解決可能な設定を提供する。
- 過パラメータ化が，規則学習と記憶の両方の目標を同時に達成することを可能にする。
- RAFモデルは，構造の推論と稀な情報の保存を両立する現代のニューラルネットワークの理論的基盤を提供する。
同時疎密符号化による識別再構成 [cs.IT, cs.LG, eess.SP, math.IT]目的：疎符号化モデルから抽出される識別的特徴と，データから学習される新しい密な事前知識を活用した再構成能力の統合
- 識別的特徴抽出は分類において有効であり，近年深層学習によって逆問題における再構成性能が向上している。
- 従来の疎符号化モデルでは，高周波成分の表現に偏り，低周波成分の表現が不十分である場合がある。
- 密な事前知識と疎な表現を組み合わせることで，よりバランスの取れた特徴表現と再構成性能を実現すること。
- 提案モデルは，行列AとBが張る部分空間間の最小角度という幾何学的条件により，一意解の存在を保証する。
- シミュレーションデータを用いた検証により，提案モデルが疎符号化モデルよりも自然画像のノイズ除去性能が優れていることが示された。
- 疎符号化モデルにおけるバイアス項の学習は，暗黙的にA x + B u モデルを学習することに相当する。
連合学習におけるランキングを用いた悪意のあるノードの検出：MANDERA [cs.LG]目的：連合学習における悪意のあるノードの検出
- 連合学習はプライバシー保護に貢献するが，悪意のある参加者による攻撃に脆弱である。
- 勾配の次元が高く，分布が不均一なため，悪意のある勾配の特定が困難である。
- 事前知識なしに，すべての悪意のある勾配を効率的に検出することを目的とする。
- 提案手法MANDERAは，勾配をランキング行列に変換することで次元間のスケールを統一する。
- これにより，良質な勾配と悪意のある勾配を容易に分離することが可能となる。
- 実験結果から，MANDERAは様々な攻撃に対して高い検出性能を示すことが確認された。
相関情報最大化：重み対称性を持たない教師あり深層ニューラルネットワークへの生物学的に妥当なアプローチ [cs.NE, cs.IT, cs.LG, math.IT, q-bio.NC]目的：層活性化間の相関情報の最大化
- 深層学習は目覚ましい進歩を遂げているが，その生物学的妥当性には疑問が残る。
- 従来のバックプロパゲーションは，脳の学習メカニズムと異なる可能性が指摘されている。
- バックプロパゲーションの妥当性を損なう重み対称性の問題を解決すること。
- 層活性化間の相関情報最大化という新たな枠組みを提案し，生物学的妥当性の高いネットワークを構築した。
- 提案手法は，バックプロパゲーションに対する批判点である重み対称性の問題を自然に解消する。
- 前向きおよび後向き予測ネットワークを，重み対称性の問題を回避しつつ実現した。
ベクトルデータベース：ストレージと検索技術，課題に関する包括的調査 [cs.DB, cs.AI]目的：ベクトルデータベースのコア設計とアルゴリズムの包括的な概要
- 高次元ベクトルデータの処理需要増大に伴い，ベクトルデータベースの重要性が高まっている。
- 既存研究は近似最近傍探索技術に偏っており，ベクトルデータベース全体のアーキテクチャレベルのレビューが不足している。
- ベクトルデータベースの技術状況を体系的に把握し，今後の発展を促進することを目的とする。
- 本調査は，ストレージと検索という二つの主要な側面からベクトルデータベースの主要技術と設計原則を体系的にレビューした。
- 主要なベクトルデータベースアーキテクチャを比較し，それぞれの長所，短所，典型的な応用シナリオをまとめた。
- ベクトルデータベースと大規模言語モデルの統合に関する新たな方向性と，今後の研究課題やトレンドを提示した。
アワーグラス拡散Transformerによるスケーラブルな高解像度ピクセル空間画像生成 [cs.CV, cs.AI, cs.LG]目的：高解像度画像生成の実現
- 画像生成技術は，コンピュータビジョン分野において重要な役割を担う
- 高解像度画像の生成は計算コストが高く，学習が困難である
- ピクセル空間での直接的な高解像度画像生成を可能とする手法の開発
- 本研究では，ピクセル数に対して線形にスケールするHourglass Diffusion Transformer (HDiT) を提案する
- HDiTは，畳み込みU-Netの効率性とTransformerのスケーラビリティを融合させたものである
- ImageNetおよびFFHQにおいて，既存モデルとの競争力，そして新たな最先端性能を達成した
教師あり学習を用いた近視的MPCポリシーの構築について [cs.LG, cs.SY, eess.SY, math.OC]目的：教師あり学習による近視的MPCポリシー構築手法
- 高度な制御性能が求められる現代のシステムにおいて，モデル予測制御(MPC)は重要な役割を担う。
- MPCのオンライン計算負荷が大きく，リアルタイム性が求められるシステムへの適用が難しい場合がある。
- 教師あり学習で価値関数を近似し，計算負荷を軽減しつつMPCの性能を維持することを目指す。
- 価値関数をオフラインで学習し，短予測長輪の近視的MPCにおけるコストToGo関数として利用する。
- オフラインで収集した状態価値ペアを用いて価値関数を学習することで，既存手法との差異を出している。
- 感度に基づくデータ拡張スキームにより，状態価値ペア生成のコストに対処している。
テキスト画像生成におけるモデルが好むプロンプト生成のためのユーザフレンドリーなフレームワーク [cs.MM, cs.AI, cs.CV]目的：テキスト画像生成モデルにおけるモデルが好むプロンプトの自動生成
- 画像生成AIの性能向上には，適切なプロンプトが不可欠である。高品質な画像生成には，効果的なプロンプト設計が重要となる。
- プロンプト設計には専門知識が必要であり，初心者にとっては望ましい結果を得ることが困難である。
- ユーザの入力とモデルの学習データ間のギャップを埋め，より自然なプロンプト生成を可能にすること。
- 提案手法は，既存の手法と比較して，視覚的に魅力的な多様な画像を生成できることが実験的に示された。
- 品質と美観に関する6つの指標において，平均5%の改善が確認された。
- ユーザの入力プロンプトを，モデルが好むプロンプトに自動的に変換するフレームワークを構築した。
過パラメータ化ResNetにおける汎化性能向上のための枝のスケーリング：暗黙的な構造正則化 [cs.LG, math.ST, stat.TH]目的：ResNetにおける枝のスケーリングが汎化性能に与える影響の解明
- 深層学習モデルの性能向上は重要な課題であり，特にResNetはその代表的な構造である。
- 深層ResNetでは，過パラメータ化による過学習が問題となる場合がある。
- 枝のスケーリングによる汎化性能の理論的限界と最適化手法の解明
- 定数スケーリング因子を持つResNetは，深さが増すにつれて学習不可能になることが示された。
- 急速な深さ方向への減衰と早期停止を組み合わせることで，過パラメータ化ResNetはミニマックス最適汎化率を達成する。
- ResNetの汎化能力は特定のカーネルに関連するカーネル回帰によって近似できることが実証された。
MindSet: Vision - DNNの主要な心理実験におけるテスト用ツールボックス [cs.CV, cs.AI]目的：深層ニューラルネットワークの心理学的実験への適合性評価
- 深層ニューラルネットワークと人間の視覚の整合性評価は，AIの信頼性と解釈可能性向上に不可欠である。
- 既存の評価方法は受動的観察に基づくため，知覚メカニズムの仮説検証には限界があった。
- 人間の視覚知覚と物体認識に関する仮説を検証できる，操作された刺激を用いた評価手法を確立する。
- 本研究で開発されたMindSet: Visionは，30の心理学的実験に対応する画像データセットとスクリプトを提供する。
- データセットは多様なパラメータ設定が可能であり，様々な研究への応用が期待される。
- 既存モデルの評価により，本ツールボックスがDNNモデルの改善に貢献する可能性が示された。
ヘッセ行列フリー影響関数の再検討，拡張，および改良 [cs.LG, stat.ML]目的：モデル解釈，部分学習データセット選択，ノイズラベル検出におけるサンプル影響の評価
- モデルの挙動理解や改善において，個々のデータが与える影響を定量的に評価することの重要性
- 深層モデルへの影響関数の適用は，損失関数の非凸性や大規模なモデルパラメータにより困難である
- ヘッセ行列の計算コストを削減し，影響関数の深層モデルへの適用を可能にする手法の開発
- 単純な近似手法であるTracInが，なぜ有効であるかの理論的根拠を提示
- TracInの適用範囲をモデルの有用性評価に加え，公平性やロバスト性評価に拡張
- アンサンブル戦略によりTracInを改良し，合成データおよび実データでの有効性を検証
AI駆動型ソフトウェアエンジニアリングの未来 [cs.SE, cs.AI, cs.LG, cs.PL]目的：AI駆動型ソフトウェアエンジニアリングにおける課題と将来展望
- ソフトウェア開発は社会基盤であり，その効率化は経済発展に不可欠である。
- AI導入が進む中で，人間の開発者との協調やAIの信頼性確保が課題となっている。
- AIと人間の共存による，より効率的なソフトウェア開発の実現を目指す。
- AI，特にLLMはソフトウェア開発の生産性向上に貢献し，その傾向は今後も続くと予想される。
- 研究コミュニティは，AIの統合がもたらす課題に積極的に取り組み，将来のビジョンを明確にする必要がある。
- 人間とAIの共生関係を深め，ソフトウェア開発の新たな可能性を探求することが重要である。
SMILES-Mamba：薬物ADMET予測のための化学Mamba基盤モデル [cs.LG, q-bio.QM]目的：薬物ADMET特性予測
- 創薬において，安全性と有効性を確保するため，ADMET特性の予測は不可欠である。
- 正確なADMET特性予測は，資源集約的であり，広範な実験データが必要となる点が課題である。
- ラベル付きデータの依存性を低減し，分子特性予測の精度向上を目指す。
- SMILES-Mambaは，22のADMETデータセットにおいて競争力のある性能を示した。
- 14のタスクで最高のスコアを達成し，自己教師あり学習の可能性を強調した。
- このアプローチは，予測精度を高めるとともに，大規模なラベル付きデータセットへの依存を軽減する。
CodeRefine：研究論文の手法をLLMで機能的なコードに変換するパイプライン [cs.CL, cs.AI, cs.LG]目的：研究論文の手法を機能的なコードに変換する自動化フレームワーク
- 学術研究の成果を迅速に実用化するためには，理論と実装の橋渡しが不可欠である。
- LLMによるゼロショットプロンプティングでは，精度に課題があり，実装の正確性が低い場合がある。
- 研究論文の手法を正確かつ効率的にコード化し，実世界への応用を加速すること。
- CodeRefineは，論文から重要なテキストを抽出し，知識グラフを作成することで，より正確なコード生成を実現する。
- 提案手法であるレトロスペクティブ検索拡張生成により，生成されたコードの質をさらに向上させる。
- 多様な科学論文を用いた評価により，CodeRefineが論文の実装を改善し，最新アルゴリズムの採用を促進する可能性が示された。
LLMは自身の脆弱性を知っている：自然な分布シフトによる安全性のギャップの発見 [cs.DL, physics.soc-ph, cs.RO, cs.CL, cs.AI]目的：大規模言語モデルにおける安全性の脆弱性の特定と対策
- LLMの普及に伴い，有害なデータへの暴露による安全性確保が重要課題となっている。
- 既存の安全性対策は，攻撃プロンプトと有害プロンプトの間のわずかな分布シフトに脆弱である。
- 自然な分布シフトを利用した攻撃に対するLLMのロバスト性を向上させることを目指す。
- 本研究では，ActorBreakerという新しい攻撃手法を提案し，既存手法よりも多様性，有効性，効率性に優れていることを示した。
- ActorBreakerは，Latourの俳優ネットワーク理論に基づき，人間・非人間双方の要素を考慮することで，より広範な脆弱性を捉える。
- ActorBreakerで構築した多段階の安全性データセットを用いてファインチューニングすることで，LLMのロバスト性を大幅に向上させることができた。
検索・推論に基づく大規模言語モデルを用いた合成臨床試験生成 [cs.CL, cs.LG]目的：合成臨床試験レポートの生成
- 臨床応用における機械学習の可能性は大きいが，個人情報保護やコスト，時間などが課題である。
- 大規模言語モデルは汎用的な生成タスクで高い性能を示すものの，臨床試験の合成への応用は十分ではない。
- 関連する試験データに基づき，ドメイン一貫性のある根拠とともに合成臨床試験を生成する。
- 提案手法は，臨床試験データを検索し，推論モジュールを用いて現実的な合成臨床試験レポートを生成する。
- 合成データでBioBERT分類器をファインチューニングした結果，実データや組み合わせたデータよりも高い予測性能が得られた。
- 大規模言語モデルを用いた合成データは，臨床研究におけるプライバシー保護されたデータ拡張の強力なツールとなり得る。
ニューラルネットワークフィードバック制御とカスケードフィルタリングを用いたチェーン指向型目的論理による動的マルチDSL制御 [cs.SE, cs.LG]目的：動的マルチDSL制御のための，離散規則ベースの論理と軽量ニューラルネットワークフィードバック制御を統合したニューロシンボリック探索アーキテクチャ
- 現代の産業AIはモジュール化されたドメインロジックの動的編成を必要とするが，信頼性の高いクロスドメインルール管理が不足している。
- 知識集約型産業システムでは，モノリシックな推論エンジンのメンテナンスボトルネックと状態空間爆発が問題となっている。
- この研究は，チェーン指向型目的論理(COOL)を提示することにより，上記の課題を解決することを目指す。
- チェーンオブロジック(CoL)により，関係タスクにおいて100%の精度を達成し，70%の改善，木構造演算を91%削減，実行を95%高速化した。
- ニューラルネットワークフィードバック制御(NNFC)は，敵対的ドリフトや忘却下で精度をさらに向上させ，計算コストを64%削減した。
- 理論的解析により，複雑度境界と Lyapunov 安定性が確立された。
LLM4AD：自律運転のための大規模言語モデル -- 概念，レビュー，ベンチマーク，実験，および将来の動向 [cs.RO, cs.AI, cs.CL, cs.HC]目的：自律運転技術における大規模言語モデルの応用可能性
- 自動運転は，交通安全の向上や移動の効率化に不可欠であり，社会実装が期待されている。
- 既存の自動運転システムは，複雑な状況判断や多様な運転行動の実現が課題となっている。
- 大規模言語モデルを活用することで，これらの課題を克服し，より高度な自律運転システムを構築すること。
- 本研究では，自律運転のための大規模言語モデル（LLM4AD）という新たな概念を提唱し，関連研究をレビューした。
- LLM4ADシステムの命令追従と推論能力を評価するための包括的なベンチマーク（LaMPilot-Benchなど）を提案し，シミュレーションおよび実環境での実験を行った。
- 言語拡散モデルを自律運転に統合する将来の動向をViLaDフレームワークの例を用いて探求し，LLM4ADの課題を議論した。
潜在変数を用いた能動的因果構造学習：自律ロボットにおける迂回学習に向けて [cs.AI, cs.LG]目的：潜在変数を用いた能動的因果構造学習
- 汎用人工知能実現には，環境変化への適応能力が不可欠である。
- 環境構造変化に対する能動的な因果モデル構築が課題となっていた。
- 未知の状況下でも効率的に行動するための因果モデル構築を目指す。
- 本研究では，ACSLWLを用いて，ロボットが透明な障害物に遭遇した場合の迂回行動を学習できることを示した。
- 環境での行動，因果関係の発見，モデル構築，期待効用最大化，潜在変数の検出，そして新しい状況への適応という一連のプロセスを可能にする。
- これにより，予期せぬ状況を予測可能で最適な計画が可能な状況へと変換できる。
多目的学習におけるチェビシェフスカラー化に対する適応型オンラインミラーディセント [cs.LG, cs.AI]目的：多目的学習におけるチェビシェフスカラー化の最適化
- 複数の目的を同時に最適化する多目的学習は，現実世界の複雑な問題を扱う上で重要である。
- チェビシェフスカラー化は広く用いられるが，そのミニマックス形式により学習の振動や停滞が生じやすい。
- 本研究は，学習の安定化と効率化を図り，より良いトレードオフ解を得ることを目指す。
- 適応型オンラインミラーディセントアルゴリズム（AdaOMD-TCH）を提案し，チェビシェフスカラー化の最適化における振動と停滞を軽減した。
- オンライン-バッチ変換を改良し，既存手法と比較して解の最適性を向上させ，理論的な収束性を維持した。
- 合成問題と連合学習タスクで有効性を示し，優先度に基づいた多様で公平な解を得ることを実証した。
準強解決：完全なゲームプレイへの導く新たな定義 [cs.AI]目的：準強解決の定義と，その実現に向けたアルゴリズムの開発
- 完全情報ゲームの最適解探索は，人工知能の重要な課題であり，ゲーム理論や意思決定論にも応用が期待される。
- 完全な強解決は計算量が膨大であり，一方，弱い解決は初期状態の最適性しか保証しないという問題がある。
- 準強解決の定義を通じて，より効率的な最適解探索と検証可能な最適性保証を実現することを目指す。
- 準強解決は，初期状態から最適戦略を取るプレイヤーがいる場合に到達可能な領域において最適性を保証する。
- 提案手法であるReopening Alpha-Betaは，準強解決に必要な領域のみ厳密な探索を行い，計算量を削減する。
- 6x6オセロと7x6コネクトフォーにおいて，準強解決の有効性を実証し，既存の強解決手法と比較して計算量の削減を示した。
リサンプリングによる推論スケーリングの限界 [cs.LG, cs.AI]目的：推論スケーリングの限界
- 近年，モデルの性能向上には，計算資源が課題となることが多い。
- 推論スケーリングは有望視されているが，検証器の不完全性が限界となりうる。
- 誤検出の確率を減らすことはできないため，スケーリングの精度には上限がある。
- 検証器に誤検出が発生する場合，リサンプリングによる推論スケーリングには本質的な限界があることが示された。
- HumanEvalとMBPPにおけるモデルの単一サンプル精度と偽陽性率には強い相関関係が認められた。
- 最適なサンプリング試行回数は10回未満であることが多く，偽陽性の負の効用がメリットを上回る。
ローレンツ支配に基づく公平性の保証付きスケーラブルな多目的強化学習 [cs.LG]目的：多目的強化学習における公平性の導入とスケーラビリティの向上
- 複数の目的を同時に最適化する試みであり，現実世界の複雑な問題への応用が期待される。
- 目的数が増加すると計算量が指数関数的に増加し，大規模問題への適用が困難である。
- 公平性を考慮した多目的強化学習アルゴリズムを開発し，スケーラビリティを改善すること。
- 提案手法は，ローレンツ支配を用いて報酬分布の公平性を評価し，公平なポリシーの発見を促す。
- 大規模な輸送計画環境において，西安とアムステルダムの2都市で有効性が示され，スケーラビリティが向上した。
- 高次元の目的空間において，既存の多目的強化学習手法を上回る性能が確認された。
セマンティック通信に基づく知能UAVの環境認識と行動予測に関する研究 [cs.CL, cs.AI, cs.RO]目的：知能UAVの環境認識と行動予測
- ドローン技術は物流やサプライチェーンに変革をもたらし，環境負荷低減に貢献する重要な分野である。
- 仮想世界やブロックチェーンとの連携において，情報伝達効率やセキュリティの課題が存在する。
- セマンティック通信とブロックチェーン技術を用いて，効率的かつ安全なUAV運用を実現することを目的とする。
- 強化学習により，UAVは新たな仮想環境への適応能力が向上し，約35%の性能改善が確認された。
- 提案するセマンティック通信システムは，クロスエントロピーベースラインモデルと比較して通信コストを削減する効果を示した。
- ブロックチェーン技術の導入により，UAV数に関わらず安定したトランザクション処理能力を維持することができた。
乳幼児が視覚的に学習した概念は，AIモデルの視覚学習と理解に貢献しうる [cs.AI, cs.NE]目的：乳幼児の視覚学習における概念の活用メカニズムのモデル化
- 視覚学習は，知能の基盤であり，AIの高度化に不可欠である。
- 現在のAIモデルは，大量のデータと教師あり学習に依存している。
- 人間の少ないデータでの効率的な学習方法をAIに取り込むこと。
- 初期に獲得された概念の活用は，新しい概念の学習精度と効率を向上させる。
- 初期概念と新しい概念の組み合わせは，モデルが獲得する概念の表現を改善し，汎化性能を高める。
- 人間の視覚学習とAIモデルの比較は，初期概念が視覚理解に貢献することを示唆する。
密度比に基づくプロキシ因果学習：密度比推定なし [cs.LG]目的：潜在的な交絡因子が存在する状況下での因果効果推定
- 因果推論は，政策決定や科学的発見において重要な役割を果たす。
- 交絡因子の存在は，因果関係の正確な推定を困難にする。
- 高次元データにおける密度比推定の課題を回避し，実用的な因果推論手法を確立する。
- 本研究では，密度比推定を必要としないプロキシ因果学習のアプローチを提案した。
- カーネルリッジ回帰を用いることで，単純な閉形式解を得て，用量反応曲線と条件付き用量反応曲線を推定できる。
- 合成データと実世界のデータセットにおいて，既存手法と同等以上の性能を示すことが確認された。
ゲームプレイ分析からの注意パターン解明：強化学習への応用 [cs.LG, cs.CV]目的：ゲームプレイデータのみから人間の内的な注意パターン（意思決定に関連する注意）を明らかにする手法
- 人間の認知メカニズム理解は，人間とAIの協調やAI設計において重要である。
- 人間の内的な注意パターンを客観的に捉えることは困難であり，新たな手法が求められている。
- ゲームプレイデータから人間の注意パターンを推定し，強化学習への応用可能性を探る。
- 人間の注意マップは，エージェントのものより疎であり，眼球追跡データに基づくモデルとも整合性があることが示された。
- 提示手法は，人間の内的な注意パターンを捉えている可能性が示唆された。
- 人間の注意をガイドとした強化学習エージェントは，ベースラインよりもわずかに改善し，安定した学習を達成した。
TrustGeoGen：信頼性の高い多Modal幾何学問題解決のための形式検証済みデータエンジン [cs.AI, cs.CL]目的：信頼性の高い多Modal幾何学問題解決のためのデータ生成
- 幾何学問題解決は，AIの推論能力を測る上で重要な課題であり，その発展は様々な分野への応用が期待される。
- 既存の幾何学問題データセットは，品質が不十分であったり，論理的な飛躍が含まれていたりする問題がある。
- 形式検証を通じて推論の信頼性を保証しつつ，多様で難易度の高い幾何学問題データを自動生成することを目指す。
- TrustGeoGenは，形式検証と多Modalデータの統合により，信頼性の高い幾何学問題データを生成するエンジンである。
- 生成されたデータセットGeoTrustを用いてモデルを学習させた結果，幾何学的な推論能力が大幅に向上し，既存のベンチマークにおいて高い性能を示した。
- "Connection thinking"の導入により，形式論理と自然言語の間のセマンティックギャップを埋め，より人間らしい推論を可能にした。
勾配に基づくプログラム修復：連続的なプログラム空間におけるバグ修正 [cs.RO, eess.SP, cs.PL, cs.LG, cs.SE]目的：プログラムのバグ修正
- ソフトウェアの信頼性確保は重要であり，バグの自動修正技術が求められている。
- 従来のプログラム修復手法は，離散的な探索空間に限定され，プログラムの振る舞いを直接考慮できない。
- 連続的なプログラム空間での最適化により，プログラムの振る舞いを考慮したバグ修正を実現する。
- 本研究では，プログラムを微分可能な数値表現に変換し，勾配に基づいた最適化を行うことでバグを修正するGBPRを提案した。
- 新しいベンチマーク RaspBugs (1,466個のバグ付きRASPプログラム)を用いてGBPRを評価した結果，効果的なバグ修正が可能であることが示された。
- プログラム修復を連続最適化問題として扱うという新たなアプローチの有効性を実証した。
密度比不要な二重ロバストな代理因果学習 [cs.LG, stat.ML]目的：代理因果学習における因果関数推定
- 交絡因子が観測できない状況下で因果推論を行う必要性が高まっている。
- 既存手法は，密度比推定やカーネル平滑化に依存し，高次元データへの適用が難しい場合がある。
- 密度比推定を必要とせず，高次元データにも適用可能な新しい推定方法を開発する。
- 提案手法は，既存のoutcome bridgeとtreatment bridgeの利点を組み合わせたカーネルベースの二重ロバスト推定器である。
- 密度比を必要とせず，連続変数や高次元変数にも対応可能であり，特に高次元の治療変数に適している。
- PCLベンチマークにおいて，既存手法や他の二重ロバスト法よりも優れた性能を示した。
ロバストなテキスト-ビデオ生成のための潜在ビデオ拡散モデルにおける耐障害性学習 [cs.CV, cs.LG]目的：テキストからのビデオ生成におけるロバスト性の向上
- ビデオ生成技術は，コンテンツ制作やデータ拡張など，多様な応用分野で重要性が増している。
- 潜在ビデオ拡散モデルはノイズに対する脆弱性を持ち，わずかな入力の摂動がビデオの品質を損なう可能性がある。
- 入力ノイズに対するロバスト性を高め，より安定したビデオ生成を実現することを目指す。
- 提案手法CAT-LVDMは，既存のビデオ拡散モデルと比較して，FVDスコアを最大31.9%削減することに成功した。
- 特に，UCF-101データセットにおいては，12.3%の性能向上を示し，大規模な拡散モデルをも凌駕する結果となった。
- 低ランクでデータに整合したノイズ注入が，ロバスト性と汎化性能の向上に寄与することが理論的にも裏付けられた。
QLIP：動的四分木ビジョン事前知識が再学習なしにMLLMの性能を向上させる [cs.LG]目的：MLLMの性能向上
- 視覚と言語を統合したMLLMは，多様なタスクで高い性能を発揮する。
- 既存のCLIPビジョンエンコーダは，固定解像度や類似画像間の区別が難しいという課題がある。
- QLIPは，CLIPの課題を解決し，既存のMLLMに容易に組み込めるように設計された。
- QLIPは，既存のMLLMのビジョンエンコーダを置き換えることで，再学習なしに性能を向上させる。
- 実験結果から，QLIPはLLaVA v1.5モデルシリーズの視覚的質問応答精度を向上させることが示された。
- 特に，挑戦的なV-starベンチマークにおいて，詳細な理解性能を最大13.6％向上させた。
LLMのボトルネック：オープンソースのビジョンLLMが階層的視覚認識で苦戦する理由 [cs.CV, cs.AI, cs.CL, cs.LG]目的：オープンソースのビジョンLLMにおける階層的視覚認識のボトルネック
- 視覚認識は，AIの重要な応用分野であり，人間の知能に近づく上で不可欠である。
- 既存のLLMは，視覚世界に関する階層的な知識を欠いている場合がある。
- LLMの知識不足が，ビジョンLLMの階層的視覚認識能力を制限している点を解明する。
- 多くのオープンソースLLMは，生物学的分類体系といった視覚世界の階層構造を理解していないことが示された。
- 構築されたVQAタスクを用いたファインチューニングは，LLMの階層的一貫性を改善するが，ビジョンLLMへの影響は限定的である。
- LLMが階層的知識を獲得しない限り，オープンソースのビジョンLLMが視覚概念を階層的に理解することは困難であると考えられる。
DRIFT：LLMエージェントを保護するための動的ルールベース防御と注入隔離 [cs.CR, cs.AI]目的：LLMエージェントに対するプロンプトインジェクション攻撃からの保護
- LLMはエージェントシステムの中核であり，高度な推論と計画能力で複雑なタスクを実行する。
- 外部とのインタラクションにより，悪意のある入力によるプロンプトインジェクション攻撃のリスクが存在する。
- 動的なセキュリティルール更新とメモリストリーム分離を実現し，LLMエージェントのセキュリティを強化する。
- DRIFTは，ユーザーのクエリに基づき，関数ノードに対する最小限の関数軌跡とパラメータチェックリストを構築する。
- 動的バリデータが計画からの逸脱を監視し，変更が権限制限およびユーザーの意図に準拠しているかを評価する。
- 注入隔離機能は，メモリストリームからユーザーのクエリと競合する可能性のある命令を検出し，マスクすることで長期的なリスクを軽減する。
大規模言語モデルにおける原理に基づいた注意ブースティングによる指示追従 [cs.CL, cs.AI, cs.LG]目的：大規模言語モデルの指示追従性能向上
- 大規模言語モデルの安全性と信頼性を確保するため，指示への厳格な追従が不可欠である。
- 長文脈やユーザー入力との競合により，指示が無視される場合があり，安全性や信頼性に課題がある。
- 推論時の介入により，再学習なしで指示への影響を強化し，安全性を高めることを目指す。
- 注意メカニズムにおいて，指示トークンへの注意を強化することで，文脈による指示の書き換えを抑制できる。
- 提案手法InstABoostは，指示キー注意ロジットに定数バイアスを加えることで，この注意ブースティングを実現する。
- InstABoostは，既存手法と比較して同等以上の性能を示し，流暢性の低下や指示への過度な集中を回避した。
パッチから位置を特定: 脳病変検出のための教師なし学習 [cs.CV, cs.LG]目的：脳病変の局所化学習
- MRI画像における脳病変検出は，診断と治療において不可欠である。
- 教師あり学習には注釈付き病変が必要であり，労力がかかる。
- 正常な脳画像から学習し，教師なしで病変を検出する。
- 本研究では，パッチの位置予測誤差の大きさで異常領域を検出するPatch2Locを提案。
- BraTS2021，MSLUB，ATLAS，WMHデータセットを用いた実験で，既存の教師なしセグメンテーション手法を上回る性能を示した。
- 生成されたヒートマップは，より詳細なセグメンテーションに活用可能である。
Ludax：ボードゲームのためのGPUアクセラレーション専用言語 [cs.AI]目的：ボードゲームのためのGPUアクセラレーション専用言語の開発
- 人工知能研究のベンチマークとしてゲームは重要であり，汎用的なアルゴリズム開発に貢献する。
- 各ゲームを手動で実装する必要があり，研究の効率化が課題であった。
- GPUアクセラレーションにより，ゲーム研究のシミュレーション速度と柔軟性を向上させる。
- Ludaxは，ゲーム記述言語の汎用性と最新の並列処理ハードウェアの速度を組み合わせる。
- 既存の深層学習パイプラインに組み込みやすく，RLや認知科学の研究を加速することが期待される。
- Ludaxフレームワークと既存のボードゲーム実装はオープンソースで公開されている。
U-DREAM：残響モデルに基づく非教師あり残響除去 [cs.SD, cs.AI, eess.AS, eess.SP]目的：非教師あり残響除去手法の開発
- 音声処理において，明瞭度の高い音響環境の実現は重要である。
- 実環境で得られる音声は残響を含み，その除去が困難である。
- 少ないデータで効果的な残響除去手法の確立が課題である。
- 提案手法は，残響パラメータがラベル付けされたデータ100サンプルのみで，非教師ありベースラインを上回る性能を達成した。
- 残響マッチング損失による誘導と，最大尤度推定に基づく逐次学習戦略が，効果的であることが示された。
- ドライ信号と音響パラメータを深層ニューラルネットワークを用いて推定することで，実用的な残響除去を実現する。
大規模言語モデルを活用したクロスシティ学習による異常時における人々の移動予測 [cs.LG, cs.AI, cs.CY]目的：異常時における人々の移動予測
- 都市化と気候変動により都市の脆弱性が増しており，災害対策には人々の移動予測が不可欠である。
- 既存の移動予測モデルは通常時を想定しており，異常時における行動変化に対応できないという課題がある。
- 大規模言語モデルを用いて移動意図をモデル化し，都市間の知識伝移により，異常時における移動予測の精度向上を目指す。
- 提案手法X-MLMは，既存手法と比較して，Acc@1で32.8%，不動化予測のF1スコアで35.0%の改善を達成した。
- X-MLMは，RAGを活用した意図予測器，LLMによる意図洗練器，意図に基づいた位置予測器を組み合わせることで，高精度な予測を実現している。
- 本研究のコードは公開されており，再現性と拡張性が期待できる。
CodeNER：コードプロンプティングによる固有表現認識 [cs.CL, cs.AI]目的：固有表現認識における大規模言語モデルの能力向上
- 固有表現認識は，自然言語処理の基盤技術であり，情報抽出や質問応答等，多様な応用分野で不可欠である。
- 既存手法は入力文脈のみに依存するため，固有表現認識に必要な詳細なラベル付け要件を捉えきれていない。
- コードプロンプティングにより，ラベル付けスキーマを明示的に指示し，言語モデルの理解を深めることを目指す。
- 提案手法は，英語，アラビア語，フィンランド語，デンマーク語，ドイツ語のデータセットにおける10のベンチマークで，従来のテキストベースのプロンプティングを上回る性能を示した。
- コードベースのプロンプティングは，言語モデルがプログラミング言語における長距離のスコープを理解する能力を活用することで，固有表現認識の性能を向上させる。
- さらに，Chain-of-Thoughtプロンプティングと組み合わせることで，性能がさらに向上することが確認された。
タスクベクトルを用いた階層的適応ネットワークによるテスト時適応 [cs.LG, cs.AI]目的：テスト時適応における性能向上
- モデルを様々なデータ分布に適用する上で重要である。事前学習モデルの汎化性能を維持しつつ，新たなデータに迅速に対応する必要がある。
- 既存手法は線形分類層に依存しており，複雑な分布シフトへの対応が課題となっていた。多様なシフトに対応できる柔軟性の欠如が問題点である。
- 複雑なシフトに対応可能な，階層的な適応機構を提案し，テスト時適応の性能を向上させる。
- 提案手法Hi-Vecは，複数層の動的な選択と重み融合により，様々な複雑さのシフトに適応できることを示した。
- 動的層選択と線形層合意のメカニズムにより，ノイズの多いバッチにおける誤った微調整を防止し，ロバスト性を向上させる。
- 複数のターゲットデータセットでの評価により，Hi-Vecが最先端手法を上回り，高い性能を発揮することが確認された。
知識グラフにおけるソフトなエンティティ制約を用いたインタラクティブな質問応答 [cs.MM, cs.AI, cs.LG]目的：知識グラフに対する質問応答におけるソフト制約の活用
- 知識グラフは，大量の情報を構造的に表現するため，様々な応用分野で重要性が増している。
- 知識グラフの不完全性により，直接的なグラフ探索では答えにたどり着けない場合がある。
- 曖昧または文脈依存的な制約（属性の好みなど）を考慮した質問応答を実現すること。
- 本研究では，ソフト制約を組み込むことで，クエリの回答スコアを調整する2つの効率的な手法を提案した。
- これらの手法は軽量であり，わずかなパラメータ調整または小規模なニューラルネットワークの学習でソフト制約を捉えることができる。
- 実験結果から，提案手法はソフト制約を捉えつつ，堅牢な質問応答性能を維持し，オーバーヘッドも小さいことが示された。
プロンプトに基づく構造化予測のための道筋の構築 [cs.RO, cs.SY, eess.SY, math.OC, cs.CL, cs.AI]目的：プロンプトに基づく構造化予測における性能向上
- 大規模言語モデルの応用範囲は広いが，一貫性や推論能力に課題がある。
- 自己回帰的生成の限界により，複雑な推論や構造化予測が困難である。
- 大規模言語モデルと組合せ推論を組み合わせ，構造的整合性を高める。
- プロンプト戦略の種類に関わらず，組合せ推論を取り入れることで，予測の一貫性と精度が向上した。
- 信頼度推定のためのプロンプト戦略を調査し，効果的な手法を特定した。
- 構造化学習目標を用いたキャリブレーションとファインチューニングにより，性能が更に向上した。