arXiv雑要約
AI - 2025/12/19 公開
D³-Predictor：高密度予測のためのノイズフリー決定論的拡散 [cs.DC, eess.SY, cs.SY, math.AP, math.OC, cs.CE, cs.CV, cs.AI]目的：高密度予測のためのノイズフリーかつ決定論的なフレームワークの構築
- 拡散モデルは強力な画像事前知識を持つが，その確率的なノイズが高密度予測の決定論的なマッピングと不適合である点が課題。
- 拡散サンプリングにおける確率的ノイズが空間的な手がかりを損ない，幾何学的構造のマッピングを歪める問題が存在する。
- 事前学習済み拡散モデルを確率的ノイズなしで再構築し，幾何学的構造の歪みを解消することを目指す。
- D³-Predictorは，事前学習済み拡散ネットワークをtimestep依存の視覚エキスパートの集合と捉え，それらの事前知識を統合することでノイズフリーな幾何学的事前知識を獲得する。
- タスク固有の教師データを用いて，このノイズフリーな事前知識を高密度予測タスクに適応させる。
- 様々な高密度予測タスクにおいて，競合する，あるいは最先端の性能を達成し，以前よりも少ないデータ量で単一ステップで効率的な推論が可能である。
パラメータマージによる視覚・言語・行動ロボットポリシーのロバストなファインチューニング [cs.RO, cs.AI]目的：汎用ロボットポリシーのファインチューニングにおける汎化能力の維持
- ロボットは多様な環境で動作が求められるため，汎用的な能力を獲得することが重要である。
- 新しいタスクへの適応時に，過学習により既存の汎用能力を失う問題がある。
- ファインチューニング中に汎化能力を維持し，新しいスキルをロバストに習得することを目指す。
- 事前学習済みモデルとファインチューニング済みモデルのパラメータを補間することで，汎用能力を維持しつつ新しいタスクをロバストに解決できる。
- パラメータマージは，事前学習データの量に応じて性能が向上し，ライフロングラーニング環境下での継続的なスキル獲得を可能にする。
- 実験により，パラメータマージは，事前学習済みモデルとファインチューニング済みモデルの両方よりも，新しいタスクの分布外のバリエーションで優れた性能を発揮することが示された。
動的な物理制約ニューラルネットワークにおける距離認識型および証拠に基づく不確実性定量化：堅牢なベアリング劣化推定への応用 [cs.LG, cs.AI]目的：ベアリング劣化の堅牢な推定
- 安全性に重要なシステムの予防保全には，正確な劣化推定が不可欠である。
- 既存の不確実性推定手法は，信頼性の校正や汎化性能に課題がある場合が多い。
- 分布外データに対しても堅牢で，距離を考慮した不確実性推定を実現する。
- PG-SNGPおよびPG-SNERは，既存手法と比較して予測精度を向上させた。
- これらの手法は，分布外データに対しても高い汎化性能を示し，ノイズや敵対的攻撃に対して頑健であった。
- 新たな距離認識型指標により，予測される不確実性とテスト・訓練データの距離との相関が確認された。
データ効率の良い知覚を実現するための生成の必要性 [cs.CV, cs.LG]目的： compositional generalization (構成的一般化) を通じた，人間レベルの視覚知覚における生成の必要性の検証
- 人間の視覚知覚は生成的なアプローチが不可欠と考えられており，そのメカニズム解明はAI分野の進歩に繋がる。
- 既存の高性能な視覚モデルは非生成的であり，構成的一般化能力に課題があることが知られている。
- エンコーダーに適切な帰納バイアスを課すことの理論的限界を明らかにし，生成モデルの優位性を示す。
- 理論的に，エンコーダーに構成的一般化に必要な帰納バイアスを課すことは一般的に不可能であることが示された。
- 一方，生成モデルでは，デコーダーに適切な帰納バイアスを課すことで，構成的一般化が容易に実現される。
- 実験的に，生成モデルは追加のデータや教師なしで，構成的一般化において非生成モデルを上回る性能を示した。
MindShift：心理学的プロンプトに対する言語モデルの反応分析 [cs.CL, cs.AI]目的：言語モデルの心理的適応性評価基準
- 言語モデルは人間との対話において重要な役割を担うため，その性格特性や態度を理解する必要がある。
- 言語モデルが持つ潜在的な心理的バイアスや，プロンプトへの過敏性を評価する客観的な基準が存在しなかった。
- 言語モデルが人格をどの程度模倣できるか，また，その特性がどのように変化するかを定量的に評価すること。
- 言語モデルは，トレーニングデータや調整技術の進歩により，役割理解能力が向上していることが示された。
- モデルの種類や系列によって，心理測定評価への反応に有意な差が見られ，人間らしい性格特性の模倣能力にばらつきがあることが確認された。
- 本研究で開発されたMindShiftは，言語モデルの心理的適応性を評価するための新たな基準として活用できる。
言語モデル，特性アラインメント，戦略的探索による閉ループ分子発見へ [cs.AI, cs.LG]目的：閉ループ型分子設計のためのフレームワーク
- 創薬は時間とコストがかかるため，効率的な手法が求められている。
- 既存の手法は成功率が低く，スケーラビリティに限界がある。
- 汎化性能，解釈可能性，薬理特性のバランスを考慮した設計手法を確立する。
- Trioは，分子の文脈に沿ったフラグメント組み立て，実現可能性の確保，探索と活用のバランスを実現した。
- 実験結果から，Trioは結合親和性，薬物らしさ，合成容易性において最先端手法を上回った。
- 分子多様性を4倍以上に拡大し，AI駆動型創薬の新たな基盤を確立した。
ノードレベルのトポロジカル特徴によるフェイクニュース検出の強化 [cs.SI, cs.LG]目的：フェイクニュース検出における性能向上
- 誤情報の拡散は個人や社会に深刻な脅威をもたらしており，自動検出法の研究が重要である。
- 既存研究ではグラフ全体の表現学習にGNNが頼りすぎ，トポロジカルな手がかりが活用されていない。
- ノードレベルのトポロジカル特徴を導入し，GNNの性能を補完することを目指す。
- 度中心性と局所クラスタ係数という2つのグラフ理論的指標をノード特徴量に追加した。
- UPFD Politifactデータセットにおいて，マクロF1スコアが0.7753から0.8344へと向上した。
- 本研究は，明示的なトポロジカル特徴がフェイクニュース検出に有効であることを示すとともに，他の情報拡散タスクへの応用可能性を示唆する。
空間スパイクニューラルネットワークは効率的で堅牢な時間計算を可能にする [cs.NE, q-bio.NC]目的：効率的かつ堅牢な時間計算の実現
- 現代の機械知能は，計算コストを最小限に抑えつつ高精度を達成する必要がある。
- 既存のスパイクニューラルネットワークでは，シナプス遅延が学習可能なパラメータとして扱われ，メモリ消費量や計算コストが増加している。
- 空間配置を利用することで，パラメータ数を削減しつつ時間的表現性を維持し，計算効率を向上させる。
- SpSNNsは，Yin-YangおよびSpiking Heidelberg Digitsベンチマークにおいて，制約のない遅延を持つSNNsを上回る性能を示した。
- 性能は2次元および3次元ネットワークでピークに達し，幾何学的な正則化効果が示唆された。
- 動的にスパース化されたSpSNNsは，90%のスパース率でも高い精度を維持し，標準的な遅延学習SNNsと同等でありながら，最大18倍少ないパラメータで動作する。
DCFO：外れ値に対する密度に基づく反事実 [cs.LG]目的：外れ値検出における反事実の説明生成
- 外れ値検出は，異常検知や不正検知など，様々な分野で重要な役割を担う。
- 既存の外れ値検出手法は説明可能性に乏しく，外れ値が検出された理由を理解することが困難である。
- 本研究は，広く利用されるLOFアルゴリズムに対する，解釈可能な反事実の説明を生成することを目指す。
- DCFOは，LOFが滑らかに動作する領域にデータ空間を分割し，効率的な勾配ベース最適化を可能にする。
- 50のOpenMLデータセットを用いた実験により，DCFOが既存手法と比較して，より高品質な反事実を生成することが示された。
- DCFOは，生成された反事実の説明の近接性と妥当性の両面で優れた性能を発揮する。
AI自律係数（α）：責任あるAIシステムの境界を定義する [cs.HC, cs.AI]目的：AIシステムの自律性の定量的な指標
- AI技術の発展は社会に大きな変革をもたらすが，倫理的・経済的な課題も存在する。
- AIシステムに人間が不可欠な部分として隠蔽されている場合，その持続可能性が危ぶまれる。
- AIシステムの自律性を検証可能な形で定義し，透明性と持続可能性を確保すること。
- AI自律係数は，人間の介入なしに完了したタスクの割合を測定する。
- HISOAIシステムは自律係数が0.38であったのに対し，AFHEフレームワーク下では0.85を達成した。
- AFHEは，AIシステムの自律性，透明性，運用における健全性を検証可能にするための指標を提供すると結論付けられる。
音声認識と大規模言語モデルを用いた音声対話アクションシステムの適応型エッジクラウド推論 [cs.SD, cs.AI]目的：音声対話アクションシステムの性能とシステムリソース利用のバランス
- IoTデバイスの制御において，音声インタラクションは自然で直感的な手段として重要性が高まっている。
- エッジデバイスでは，クラウドの高性能性と低遅延性・プライバシー保護を両立することが課題である。
- システム状態に応じて推論経路を動的に切り替えることで，ロバストかつ効率的な音声制御を目指す。
- 提案手法ASTAは，エッジとクラウド間の推論を動的に切り替えることで，全ての入力コマンドを確実に実行可能にした。
- ASTAは，オンライン推論とオフライン推論のバランスの取れた分布を実現し，ASRの認識精度は62.5％であった。
- コマンドの修復機構は，入力の47.5%で不要であったが，システムの堅牢性を向上させる上で重要な役割を果たすことが示された。
オープンボキャブラリ時代における教師なし変化検出の新手法UniVCD [cs.CV, cs.AI]目的：オープンボキャブラリ変化検出の新しいアプローチ
- 都市開発や環境モニタリングにおいて，変化検出は重要な役割を担う技術である。
- 既存手法は教師あり学習に依存し，データセットへの依存度が高く，アノテーションコストが課題である。
- ラベルなしデータやペア画像なしで，多様なシーンにおける変化検出を実現すること。
- UniVCDは，凍結されたSAM2とCLIPを活用し，カテゴリに依存しない変化検出を可能にする。
- 軽量な特徴量アライメントモジュールにより，高解像度で意味的に認識可能な変化推定を実現する。
- 複数のベンチマークにおいて，UniVCDは既存手法と同等またはそれ以上の性能を示す。
悪天候下におけるマルチモーダル3D物体検出のための拡散ベース復元 [cs.CV, cs.AI]目的：悪天候下でのマルチモーダル3D物体検出のロバスト性の向上
- ロボティクスや自動運転において，信頼性の高い知覚を実現するために重要である。
- 悪天候時の歪みや，異なるデータモダリティ間のずれにより，性能が制限される。
- 拡散ベース復元と適応的クロスモーダル融合により，悪天候下での課題を解決する。
- DiffFusionは，画像とLiDARデータの両方を復元することで，悪天候下でのロバスト性を向上させる。
- Bidirectional Adaptive Fusion and Alignment Module (BAFAM) により，モダリティ間のずれを解消し，空間的な整合性を維持する。
- 3つの公開データセットで最先端の性能を示し，実世界のDENSEデータセットでも汎化性能を実証した。
非解決推論（NRR）：文脈的同一性と曖昧性保持のための計算フレームワーク [cs.CL, cs.AI, cs.LG]目的：文脈的同一性と曖昧性保持を実現する計算フレームワーク
- AIの高度化に伴い，曖昧性の適切な処理が重要な課題となっている。
- 既存のAIシステムは，曖昧性を早期に解消し，複数の解釈を失いがちである。
- 曖昧性を積極的に保持し，多様な解釈を並行処理する手法を確立する。
- 本研究では，非解決推論（NRR）という新しいフレームワークを提案した。
- NRRは，文脈依存表現，解釈保持注意機構，文脈的同一性追跡により，曖昧性を保持する。
- 合成データを用いた実験で，NRRは標準的なアーキテクチャよりも高い分布外精度を示した。
深層演算ネットワークを用いた炭素/エポキシ複合材におけるプロセス誘発変形の確率的予測 [cs.CL, cs.CE, cond-mat.mtrl-sci, cs.LG]目的：炭素/エポキシ複合材のプロセス誘発変形の予測
- 複合材料の製造過程における熱膨張率の不一致は，製品品質に大きな影響を及ぼすため，その予測は重要である。
- 従来の予測手法では，複雑な熱履歴や材料特性を考慮することが難しく，高精度な変形予測が課題となっていた。
- 本研究は，深層学習を活用し，製造条件に応じた高精度な変形予測モデルを構築することで，この課題を解決することを目指す。
- 高精度な物理モデルと実験データを組み合わせることで，プロセス誘発変形の予測精度を向上させた。
- 深層演算ネットワーク（DeepONet）と特徴線形変調（FiLM）を組み合わせることで，硬化度や粘度といったプロセス変数の時間変化を予測可能にした。
- アンサンブルカルマン逆問題法（EKI）を用いることで，実験条件下での不確実性を定量化し，最適な硬化プロセスの設計を支援するフレームワークを構築した。
Cornserve：あらゆる種類への多Modalモデルの効率的な提供 [cs.LG, cs.DC]目的：あらゆる種類への多Modalモデルの効率的なオンライン提供システム
- 近年，テキストと画像などを組み合わせた多Modalモデルの需要が高まっており，その効率的な運用が重要である。
- 従来のモデル提供システムでは，多Modalモデルの多様性に対応できず，性能が十分でない場合がある。
- 本研究は，多Modalモデルの特性に合わせて最適な提供計画を自動的に作成し，効率的な運用を実現することを目的とする。
- Cornserveは，多Modalモデルの計算グラフを記述することで，最適なモデルの分散配置計画を自動的に生成する。
- 実験の結果，Cornserveは既存のソリューションと比較して，最大3.81倍の処理能力向上と，最大5.79倍のテールレイテンシ削減を達成した。
- 多様な多Modalモデルとワークロードに対して，効率的にモデルを提供できることが示された。
文脈からEDUへ：初等談話単位分解による忠実かつ構造化された文脈圧縮 [cs.CL, cs.AI]目的：大規模言語モデルにおける文脈圧縮のフレームワーク
- LLMの性能は文脈長に大きく依存する。長文処理の効率化が不可欠である。
- 既存手法は文脈の局所的整合性を損ねたり，位置バイアスが生じやすい。
- 文脈の構造を維持しつつ，詳細な情報を損失なく圧縮すること。
- 提案手法は，初等談話単位(EDU)を用いた構造化アプローチにより，文脈の構造を忠実に保持する。
- 構造予測の精度で最先端の結果を達成し，既存のLLMを大幅に上回る性能を示す。
- 長文コンテキストタスクやDeep Searchにおいて，性能が大幅に向上することが確認された。
TiCard：カーディナリティ推定のための展開可能なEXPLAINのみによる残差学習 [cs.AI, cs.DB]目的：カーディナリティ推定の精度向上
- クエリ最適化の性能に大きく影響するため，正確なカーディナリティ推定が重要である。
- 既存の推定器は相関を見逃したり，ワークロード固有の学習が必要であったりする。
- EXPLAINのみの情報を利用し，既存の推定器を補正することで，実用的な精度向上を目指す。
- TiCardは，Gradient Boosting RegressorとTabPFNの2つの実装で評価された。
- TPCHとJoin Order Benchmarkを用いた実験で，TiCardは演算子レベルのテール精度を大幅に改善した。
- 特に，P90 Q-errorはGBRで312.85から13.69へ，P99はTabPFNで37,974.37から3,416.50へと減少した。
心電図画像再構成のための変分オートエンコーダによる合成電気生理信号生成 [cs.LG, eess.SP]目的：心房電気生理信号の合成
- 心房細動は頻度の高い不整脈であり，正確な診断には心房電気活動の評価が重要である。
- 非侵襲的心電図画像再構成（ECGI）ではデータ不足が課題であり，深層学習の進展を阻害している。
- 変分オートエンコーダを用いて合成電気生理信号を生成し，データ不足を解消することを試みる。
- 正弦波リズムに特化したVAE-Sは，in silico電気生理信号に対して高い再現性を示した。
- クラス条件付きVAE-Cはリズム特異的な生成が可能だが，正弦波リズムの再構成品質は低下した。
- 生成された電気生理信号を用いたデータ拡張により，非侵襲的な電気生理信号再構成の性能が向上した。
Spoken DialogSum：音声対話要約のための感情豊かな会話データセット [cs.CL, cs.AI, cs.LG, eess.AS]目的：音声対話要約のための，音声，要約，およびパラ言語的特徴を結びつけたデータセット
- 近年の音声言語モデルの発展により，長時間の対話処理が可能となった。
- 感情を考慮した，あるいは音声対話の要約に関する研究は，データ不足に制約されている。
- 音声，要約，感情ラベルを包含するデータセットを構築し，音声対話要約の課題を解決する。
- Spoken DialogSumは，13,460件の感情多様性のある対話と，事実に基づいた要約，感情に焦点を当てた要約を含む。
- Audio-LLMは，従来のASR-LLMシステムと比較して，感情的要約のROUGE-Lスコアを28%向上させた。
- 本研究は，音声とテキストを統合したエンドツーエンドな音声モデリングの有効性を示唆している。
スペクトルエントロピーに基づく空間的・時間的依存性の評価による多変量時系列予測 [cs.LG, cs.AI]目的：多変量時系列予測における空間的・時間的依存性の評価
- 時系列予測は，経済，気象，医療など，多くの分野で重要な役割を果たす。
- 既存手法では，変数間の複雑な依存関係を正確にモデル化することが難しい。
- スペクトルエントロピーを用いて，空間的・時間的依存性を動的に評価し，予測精度を向上させる。
- 提案手法SEEDは，スペクトルエントロピーに基づいて依存性を評価することで，無関係な変数による影響を抑制し，負の相関関係を適切に扱える。
- SEEDは，時間的な文脈を考慮した空間特徴抽出により，より包括的な空間特徴を構築する。
- 12の現実世界のデータセットでの実験により，SEEDが最先端の性能を達成し，その有効性と汎用性が示された。
現実世界の集団データから合成患者データ生成規則を自動抽出する手法：グリオブラストーマを例として [cs.LG]目的：合成患者データ生成規則の自動抽出
- 医療データの二次利用を促進するため，プライバシー保護技術が重要である。
- 意味のある規則の作成には専門知識と現実的なサンプルデータが必要となる。
- 現実世界のデータから統計情報に基づいたSynthea規則を自動生成する。
- 癌報告書から抽出したデータを用いて，グリオブラストーマのSyntheaモジュールを作成した。
- 生成された合成データは，既知の疾患経過を再現し，統計的特性を保持していた。
- 合成患者データは，プライバシーを保護した研究に大きな可能性を持つ。
異邦人を招き入れよ：AIがシステム性能研究を加速する方法 [cs.SE, cs.AI]目的：AIを活用したシステム性能研究の加速
- システム性能は，現代の情報技術基盤において不可欠であり，その向上は経済活動や社会生活に直接的な影響を与える。
- 従来のシステム性能改善は，専門家の経験と試行錯誤に依存しており，時間と労力を要する。
- AIを活用し，システム性能改善のプロセスを自動化することで，効率的な研究開発を目指す。
- AI駆動型システム研究（ADRS）により生成されたソリューションが，人間の最先端設計と同等またはそれを上回る性能を示すことが，10のケーススタディで実証された。
- ADRSを効果的に活用するためのベストプラクティス（プロンプトの具体性，フィードバック量，堅牢な評価など）が示された。
- 今後の研究方向性や，研究者の役割の変化（問題設定と戦略的監督）に関する考察が提示された。
LADY：Transformerを用いない自律運転効率のための線形注意機構 [cs.CL, cs.HC, cs.AI]目的：自律運転のためのエンドツーエンド線形注意機構に基づく生成モデル
- 自律運転は，安全性向上や効率化に不可欠であり，その実現には高度な環境認識と予測が求められる。
- Transformerは高性能だが，計算コストが大きく，特にエッジデバイスでのリアルタイム処理が困難である。
- 本研究は，Transformerに頼らず，効率的な線形注意機構を用いて自律運転を可能にすることを目指す。
- LADYは，カメラとLiDARの特徴量を融合し，過去の情報を効率的に活用することで，高度な計画性能を実現した。
- 実験結果から，LADYは既存のモデルと同等以上の性能を，一定時間・メモリコストで達成することが示された。
- エッジデバイスへの実装により，リソース制約下での実用性が確認された。
「私はあなたのそばにいる」：関係性に着目した会話型AIが，特に社会性と情緒に課題を抱える青少年をどのように引きつけるか [cs.HC, cs.AI, cs.RO]目的：青少年における会話型AIの人間化と感情的依存に対する会話スタイルの影響
- 青少年期は社会性と情緒が不安定な時期であり，精神的なサポートが重要である。
- 会話型AIが普及する中で，その会話スタイルが青少年の心理に及ぼす影響が不明確である。
- 会話型AIの会話スタイルが，青少年の人間化，信頼，感情的な近さに与える影響を明らかにすること。
- 青少年は，透明なスタイルよりも関係性に着目したスタイルを好む傾向が見られた。
- 関係性に着目したスタイルは，人間らしさ，好感度，信頼性，感情的な近さの評価が高かった。
- 家族や友人関係の質が低く，ストレスや不安が高い青少年ほど，関係性に着目したスタイルを好む傾向があった。
様式化された合成データ拡張がロバスト性向上に貢献 [cs.HC, cs.CV, cs.LG]目的：深層画像モデルの一般的な破損に対する脆弱性に対処するための訓練データ拡張パイプライン
- 画像認識技術は様々な分野で応用が広がっているため，その信頼性確保が重要である。
- 深層学習モデルは，ノイズや破損に対して脆弱であり，そのロバスト性向上が課題となっている。
- 合成データとスタイル変換を組み合わせることで，モデルの破損に対する耐性を高めることを目指す。
- スタイル変換を施した合成画像は，FID指標では品質が低下するが，モデル訓練には有効であることが示された。
- 本手法は，既存のデータ拡張技術と組み合わせることで，相乗効果を発揮し，高いロバスト性を実現する。
- CIFAR-10-C, CIFAR-100-C, TinyImageNet-Cにおいて，最先端のロバスト精度を達成した。
住宅ローン信用リスクに対する時空間機械学習モデル：デフォルト確率とローンポートフォリオ [q-fin.RM, cs.LG, q-fin.ST]目的：住宅ローン信用リスクのモデリング
- 金融安定性を維持するため，住宅ローン信用リスクの正確な評価が不可欠である。
- 従来の線形モデルでは，予測変数の非線形性や空間的・時間的相関を捉えきれない。
- 空間的・時間的相関を考慮した新たな機械学習モデルにより，リスク評価の精度向上を目指す。
- 提案モデルは，従来の線形モデルと比較して，個々のローンのデフォルト確率とローンポートフォリオ損失分布の予測精度を向上させた。
- この性能向上は，予測変数の強い相互作用と非線形性，および空間的・時間的脆弱性効果に起因すると考えられる。
- 計算効率も高く，実用的な住宅ローン信用リスク管理に貢献できる。
微生物学およびマイクロバイオーム研究のための人工知能 [q-bio.QM, cs.AI, cs.LG, stat.ML]目的：微生物学およびマイクロバイオーム研究における人工知能の応用
- 微生物は地球環境や健康に不可欠であり，その理解は重要である。
- 微生物データの解析は複雑で，従来の手段では限界がある。
- 人工知能を用いて，微生物データの解析効率と精度を向上させる。
- 本レビューは，微生物学およびマイクロバイオーム研究のための人工知能の進歩を包括的に概観している。
- 機械学習や深層学習などの基礎的な人工知能技術と，その具体的な応用例を紹介している。
- 今後の微生物研究における人工知能の可能性を示唆し，新たな方法論への道を開く。
一般化された確率的ハルペルン法の漸近的規則性 [math.OC, cs.LG, math.PR]目的：一般化された確率的ハルペルン型反復の漸近的規則性に関する速度
- 最適化問題解決において，効率的な反復法は不可欠である。特に確率的勾配降下法等の高速化が求められる。
- 既存手法では，確率的環境下での収束速度が理論限界に達していない場合がある。また，多様な最適化スキームへの適用が難しい。
- 本研究では，より一般的な確率的ハルペルン型反復の収束速度を解析し，最適化アルゴリズムの性能向上を目指す。
- 本研究では，確率的ハルペルン型反復の漸近的規則性に関する，抽象的で一般的な速度を導出した。
- 特定のケースでは線形収束速度が確認され，既存の確率的最適化手法における最良の結果を改善または同等とした。
- 内積空間においては，一般化された反復に対して二次収束速度が得られた。
ポリシー勾配法による離散拡散モデルのファインチューニング [stat.ML, cs.AI, cs.CL, cs.LG]目的：離散拡散モデルのファインチューニング手法
- 言語モデリングにおいて，複雑な離散構造を扱える離散拡散モデルが注目されている。
- 人間のフィードバックからの強化学習(RLHF)のように，ポリシー勾配法を用いたファインチューニングは困難である。
- 非微分可能な報酬に対する離散拡散モデルの効率的なファインチューニングを目指す。
- 提案手法であるスコアエントロピーポリシー最適化(\SEPO)は，様々な離散生成タスクにおいてスケーラビリティと効率性を示すことが確認された。
- 理論的な正当性に基づいた，広く適用可能な効率的なポリシー勾配アルゴリズムである。
- コードは公開されており，再現性も確保されている。
フラグを用いたネストされた部分空間学習 [stat.ML, cs.LG]目的：データ表現の一貫性確保
- 機械学習において，データの低次元表現は重要である。高次元データを効率的に処理するため不可欠。
- 部分空間の次元選択が独立しているため，異なる次元の表現間に一貫性がなく，性能低下を招く。
- フラグ多様体を用いることで，次元が増加するにつれてネストされた部分空間を学習し，一貫性を保つ。
- 提案手法は，古典的な機械学習手法に容易に適用可能であり，既存手法におけるネスト性の問題を解決する。
- フラグ多様体への最適化基準の持ち込みにより，一貫性のある低次元表現を獲得できる。
- 実験により，提案手法がデータ表現の一貫性を改善し，学習性能を向上させることが示された。
ブラウン橋をポアソン方程式に対する物理情報に基づいた事前分布と解釈する試み [stat.ML, cs.LG, physics.comp-ph]目的：ポアソン方程式に対する物理情報に基づいた事前分布の解釈
- 逆問題において，限られたデータから物理場を復元する重要性。
- 既知の支配方程式を組み込みながら，ノイズに弱いデータからの復元が困難。
- ベイズ推論による関数空間での物理的意味のある事前分布の設定。
- ブラウン橋ガウス過程がポアソン方程式に対するソフトな物理制約事前分布として解釈できる。
- ポアソン方程式の変分問題とカーネルリッジ回帰の目的関数との等価性が示された。
- 有限次元表現における事前分布と事後分布のWasserstein距離での収束が証明された。
タンパク質構造への数学的考察：鞭毛モーターへの持続ホモロジーと機械学習の応用 [math.AG, cs.SC, q-bio.BM, cs.LG, math.AT]目的：細菌鞭毛モーターの状態分類
- タンパク質構造解析は生命現象の理解に不可欠であり，機能予測の基盤となる。
- 従来の幾何学的記述子では捉えきれない機能に関連するパターンが存在する。
- トポロジーデータ解析を用いて，新たな機能予測手法を開発すること。
- 持続ホモロジーにより抽出されたトポロジー不変量が，モーター機能との相関を示した。
- 抽出された特徴量を機械学習パイプラインに組み込み，高精度な状態分類を実現した。
- 多様な細菌種由来の鞭毛モーターデータセットで，高い分類精度と構造変化へのロバスト性が確認された。
交差型ランダム効果を持つ一般化混合効果モデルに対するスケーラブルなクリロフ部分空間法 [stat.ME, cs.LG, stat.ML]目的：交差型ランダム効果を持つ一般化混合効果モデルの計算効率向上
- 階層構造を持つデータや高次元のカテゴリ変数を含むデータ分析において，混合効果モデルは重要な役割を果たす。
- 高次元の交差型ランダム効果を扱う場合，既存のCholesky分解法は計算コストが非常に高くなるという課題がある。
- 計算ボトルネックを解消し，混合効果モデルの推定を高速化するとともに，数値安定性を向上させる。
- 提案手法は，Cholesky分解法と比較して，最大で約10,000倍の高速化を実現した。
- 理論的・実験的な分析により，事前条件付き確率的Lanczos直交化法や共役勾配法の収束性と精度について新たな知見が得られた。
- 予測分散の計算についてもスケーラブルな手法を開発し，lme4やglmmTMBなどの既存パッケージよりも数値的に安定した結果を示した。
離散選択のためのベイジアン深層学習 [stat.ML, cs.LG, econ.EM, stat.AP]目的：離散選択モデルにおける予測性能と経済量の推定の向上
- 個人の意思決定分析は，交通，政治，消費など広範な分野で不可欠である。
- 従来の離散選択モデルは予測性能が低く，深層学習モデルは解釈性と不確実性評価に課題がある。
- 深層学習とベイジアン推論を統合し，解釈性と推定精度を両立させることを目指す。
- 提案モデルは，データが限られた場合，行動経済学に基づいた仮説に収束し，過学習を防ぐ。
- 十分なデータがあれば，複雑な非線形関係を捉え，高い予測性能と推定精度を両立する。
- モンテカルロシミュレーションおよび実証分析により，提案手法の有効性が確認された。
力指標を超えて：安定した分子動力学シミュレーションのためのMLFFの事前学習 [quant-ph, cs.NI, physics.chem-ph, cs.LG]目的：安定した分子動力学シミュレーションの実現
- 分子動力学シミュレーションは，物質の性質解明や新物質設計に不可欠な手法である。
- 高精度な力場の計算は計算コストが高く，大規模シミュレーションのボトルネックとなっている。
- 大規模データでの事前学習が，より安定した分子動力学シミュレーションに貢献しうる。
- 事前学習を行った機械学習力場（MLFF）モデルは，ゼロから学習したモデルと比較して，3倍長い軌跡を維持できることが示された。
- 事前学習により，MLFFの潜在表現がより構造化され，局所的な幾何学的変化に対する力応答が滑らかになることが確認された。
- 力場のエラー平均絶対値（MAE）だけでは，分子動力学シミュレーションの安定性を十分に評価できないことが示唆された。
TACE：原子レベル機械学習のための統一された既約カルテシアンテンソルフレームワーク [stat.ML, cond-mat.mtrl-sci, cs.LG, physics.chem-ph]目的：原子レベル機械学習のための，構造依存テンソル特性の系統的かつ一貫した予測
- 物質科学における分子動力学計算や第一原理計算では，原子間の相互作用を正確に記述することが重要である。
- 従来のモデルでは，複雑なテンソル特性の記述や，対称性の取り扱いが課題であった。
- TACEは，カルテシアンテンソルを用いた統一的なフレームワークを構築し，これらの課題を解決する。
- TACEは，分子および拡張された材料において，既存の等方性フレームワークと同等かそれ以上の精度，安定性，効率を達成した。
- TACEは，スカラーモデリングとテンソルモデリングを統合し，カルテシアン空間におけるパラダイムを確立した。
- 本研究は，単一の包括的なフレームワーク内で，構造，場，物質特性間の複雑な相互作用を系統的に捉える次世代の普遍的な原子レベル機械学習モデルの基礎を築く。
GeoGraph：内在的に無秩序なタンパク質のための幾何学的・グラフベースのアンサンブル記述子 [q-bio.BM, cs.LG]目的：内在的に無秩序なタンパク質のアンサンブル平均統計量の予測
- タンパク質の機能理解には，立体構造の解析が不可欠である。無秩序タンパク質はその構造多様性から解析が困難である。
- 既存のAIモデルは，物理的根拠の欠如，または計算コストの高さという課題を抱えている。
- 粗視化された分子動力学シミュレーションを基に，効率的かつ高精度なアンサンブル予測を目指す。
- 本研究で開発したGeoGraphは，既存手法よりもタンパク質の物理化学的特性予測において高い性能を示した。
- アミノ酸配列から，残基-残基接触マップのトポロジー統計量を直接予測する新たなアプローチを提案した。
- 残基レベルおよび配列レベルのグラフ記述子を用いることで，堅牢かつ情報豊富な学習ターゲットを構築した。
機械学習と制御：基礎，進展，そして展望 [math.OC, cs.LG, cs.NA, math.NA]目的：深層学習を含む機械学習アーキテクチャにおける制御理論の応用
- 機械学習の発展は，社会の様々な分野において革新をもたらしており，その重要性は増している。
- 深層学習モデルの解釈性や最適化，計算効率などの課題が残されており，更なる改善が求められている。
- 制御理論の枠組みを機械学習に応用し，その性能向上と新たな知見の獲得を目指す。
- 深層学習の分類・表現特性において，同時可制御性やアンサンブル可制御性といった制御理論的概念が新たな洞察を提供する。
- 静的システムの制御と最適化は，浅いネットワークの性能理解に役立つ。
- 拡散過程の古典的性質が，現代の生成AIの成功を説明する上で重要な役割を果たす。
確率的最適化におけるランダムサーチ [quant-ph, cs.CC, math.OC, cs.LG]目的：確率的最適化のためのランダムサーチ手法
- 機械学習や深層学習の効率的な学習には，最適化技術が不可欠である。
- ノイズを含む関数評価のみで最適化を行う場合，既存手法では制約が多い。
- より弱い条件下でも有効なランダムサーチ手法の開発と高速化。
- ランダムサーチが，従来考えられていたよりも弱い滑らかさの仮定のもとでも機能することが示された。
- より強い仮定を用いることで，より厳密な保証が得られることが明らかになった。
- 有限和設定においては，分散削減型変種により収束が加速されることが示された。
二次の最適化に対する分割クライアントアプローチ [math.OC, cs.LG]目的：二次の最適化手法における計算効率の向上
- 機械学習モデルの規模拡大に伴い，高速な最適化手法の需要が高まっている。
- ヘッセ行列の計算・分解コストが高く，二次の最適化手法の実用化が課題となっている。
- 非同期処理によるヘッセ行列の近似計算で，計算コストを削減し，高速化を図る。
- 分割クライアントフレームワークにより，勾配と曲率を非同期に計算することで，並列処理が可能となる。
- 理論的分析により，ウォールクロック時間で$\sqrt{\tau}$の加速効果が証明された（$\tau$はヘッセ行列計算/分解にかかる相対時間）。
- 実験結果から，提案手法は既存手法と比較して，二次の精度を維持しつつ，優れた性能を発揮することが確認された。
ノイズと部分的測定のみからの画像逆問題におけるベイズモデル選択と誤指定検定 [eess.IV, cs.LG, stat.ME, stat.ML]目的：ベイズモデルの評価手法
- 画像再構成・復元にはベイズ統計モデルが不可欠であり，その性能評価が重要である。
- 真の値がない状況でのモデル評価は計算コストが高く，機械学習モデルとの互換性が課題である。
- ベイズクロスバリデーションとデータフィッションを組み合わせた，効率的なモデル評価手法の提案。
- 提案手法は，既存のベイズサンプラーと互換性があり，幅広いモデルと評価基準に適用可能である。
- 様々なモデル誤指定シナリオにおいて，高い選択および検出精度を低い計算コストで達成した。
- 本手法は，真の値を必要としない，画像科学におけるモデル選択と誤指定検定の新たな道を開く。
生成AIによる数学研究の進展 [math.HO, cs.AI, cs.HC, math.GR, math.LO]目的：生成AIの数学研究への応用可能性
- 数学研究は科学技術の根幹であり，その進歩は社会全体の発展に不可欠である。
- 既存のAIモデルは論理的推論に弱く，高度な数学研究への応用が限定的であった。
- 生成AIのパターン認識能力を活用し，数学研究の新たな支援ツールを開発すること。
- 生成AIは，数学における複雑なパターンを捉え，人間には困難な視点を提供する。
- AIは，煩雑な計算，コード生成・デバッグ，具体例の検証，予想の立案などの作業を支援できる。
- ニューロシンボリックソルバー，数式処理システム，形式証明支援システムとの連携により，数学研究はさらに加速する。
組織学的画像からの空間パスウェイ活性のデジタルモデリングが腫瘍微小環境の不均一性を示す [q-bio.QM, cs.AI]目的：腫瘍微小環境の不均一性の解析
- 腫瘍微小環境は，がんの進行と治療反応に深く関わる重要な要素である。
- 従来の解析法では，腫瘍微小環境の空間的な複雑さを捉えることが困難であった。
- 組織学的画像から空間パスウェイ活性を予測し，腫瘍微小環境の理解を深める。
- ヘマトキシリン・エオジン染色画像から空間パスウェイ活性を予測する計算フレームワークを開発した。
- TGFβシグナル伝達経路が最も正確に予測され，腫瘍と非腫瘍領域間の期待されるコントラストを反映した。
- ルーチンな組織病理学的画像から生物学的に解釈可能なパスウェイパターンを回復できる可能性が示唆された。
生存モデルにおける過剰パラメータ化の理解：補間を通して [stat.ML, cs.LG, math.ST, stat.TH]目的：生存モデルにおける過剰パラメータ化の現象解明
- 医療データ分析において，生存時間予測は患者の予後予測や治療方針決定に不可欠である。
- 従来の学習理論では，モデルの複雑さと汎化性能の間に単純なトレードオフが存在すると考えられていた。
- 生存分析における過剰パラメータ化の挙動を明らかにし，適切なモデル設計の指針を示す。
- 生存モデルにおいて，モデルのパラメータ数が増加すると，テスト損失が一旦増加した後，再び減少する「ダブル・デスセント」現象が確認された。
- この現象は，モデルの補間能力（interpolation）と密接に関連しており，損失関数の特性やモデルの実装に依存することが示された。
- 過剰パラメータ化は，生存モデルにおいて必ずしも無害ではなく，慎重な検討が必要であるという知見が得られた。
少数の弱教師ありデータによる眼底画像からの視神経円板およびカップ領域のセグメンテーションのためのメタ学習器 [eess.IV, cs.AI, cs.CV]目的：緑内障診断のための視神経円板（OD）および視神経カップ（OC）セグメンテーションにおける，少数の弱教師ありセグメンテーション（FWS）のためのメタ学習器の開発
- 緑内障は世界的に失明原因の主要なものであり，早期発見と正確な診断が重要である。
- 眼底画像の正確なセグメンテーションには大量のラベル付きデータが必要であり，アノテーションコストが高い。
- ラベル付きデータが限られた状況でも高精度なセグメンテーションを実現することを目的とする。
- 提案手法であるEfficient Omni ProtoSeg (EO-ProtoSeg)は，REFUGEデータセットにおいて，わずか1枚の疎なラベル付き画像のみで，ODのIoUスコア88.15%，OCのIoUスコア71.17%を達成した。
- EO-ProtoSegは，より多くのラベル付き画像が必要な少数の教師あり学習法や半教師あり学習法と比較して，優れた性能を示した。
- EO-ProtoSegは，200万パラメータ未満と軽量であり，再学習を必要としないため，教師なしドメイン適応法と同等の性能を持ちながら，計算コストを抑えることができる。