arXiv雑要約
AI - 2025/12/16 公開
Do-Undo:ビジョン言語モデルにおける物理的行動の生成と逆転 [cs.CV, cs.LG]目的:物理的に妥当なシーン変換の理解と生成
- 現実世界とのインタラクションを理解するAIの実現には,物理法則に基づく推論能力が不可欠である。
- 既存のモデルは,物体レベルの編集に焦点を当てており,物理的な因果関係の理解が不十分である。
- 物理的な可逆性の理解を深め,マルチモーダルシステムにおける物理的推論能力を向上させる。
- Do-Undoタスクとベンチマークを新たに提案し,現在のモデルが物理的な可逆性において課題を抱えていることを示した。
- 大規模な可逆的行動データセットを構築し,一貫性を重視した学習戦略が頑健な行動の理解に貢献することを確認した。
- 本研究は,具現化されたAI,ロボット工学,物理に基づいた生成モデリングの発展に資する。
LightTopoGAT:トポロジー特徴を用いたグラフ注意ネットワークの効率的なグラフ分類への応用 [cs.LG]目的:グラフ分類におけるグラフ表現学習の改善
- グラフ構造データは,分子構造やソーシャルネットワークなど,様々な分野で現れるため重要である。
- 従来のグラフニューラルネットワークは計算コストが高く,グラフ全体の構造を捉えきれない場合がある。
- トポロジー特徴を活用することで,計算効率を維持しつつグラフ表現の質を高めることを目指す。
- 提案手法LightTopoGATは,MUTAGデータセットにおいて,既存手法と比較して6.6%高い精度を達成した。
- PROTEINSデータセットにおいても2.2%の精度向上を示し,トポロジー特徴の有効性が確認された。
- LightTopoGATは,計算コストを抑えつつ,グラフニューラルネットワークの性能を向上させる簡潔かつ効果的な手法である。
大規模言語モデルを用いたイベント系列モデリングにおける時間トークン化戦略 [cs.CL, cs.LG]目的:イベント系列のモデリングにおける時間トークン化手法の比較
- イベント系列データは,金融,医療,Webアクセスログなど多岐にわたる分野で重要である。
- 既存手法では,現実世界のイベントデータの多様な統計的分布に対応できていない。
- イベントデータの統計的特性に合わせたトークン化戦略の有効性を検証すること。
- 時間トークン化戦略は,データの統計的特性と予測性能に強い相関があることが示された。
- 対数に基づく戦略は,歪んだ分布を持つデータに対して特に有効であることが確認された。
- 人間が理解しやすいカレンダー形式は,多様なモダリティのデータに対してロバストであることが示された。
StutterFuse:ジャカード重み付き距離学習とゲート付き融合による吃音検出における様相崩壊の緩和 [cs.LG]目的:吃音検出における多重ラベル分類の精度向上
- 吃音はコミュニケーションに大きな影響を与え,早期発見と適切な治療が重要である。
- 既存の吃音検出モデルは,複数の流暢性障害が重なる場合に識別が困難である。
- 臨床例を参照することで,学習データに乏しい複合的な障害の識別精度を高める。
- StutterFuseは,臨床例の非パラメトリックメモリバンクを参照するRetrieval-Augmented Classifierである。
- ジャカード重み付き距離学習とゲート付き融合戦略により,「様相崩壊」と呼ばれる問題を緩和し,適合率を向上させた。
- SEP-28kデータセットにおいて,従来のモデルを上回り,ゼロショットによるクロスリンガル汎化性能も示した。
コードからフィールドへ:マンゴーの葉の病気診断における畳み込みニューラルネットワークの頑健性の評価 [cs.LG, cs.AI, cs.CV]目的:マンゴーの葉の病気診断のための畳み込みニューラルネットワークの頑健性評価
- 農業分野におけるAI活用は,食糧生産の安定化や効率化に不可欠である。
- 現実環境における画像劣化(ノイズ,ぼかし等)に対するAIモデルの頑健性が課題となっている。
- マンゴーの葉の病気診断AIモデルの現実環境下での信頼性を検証すること。
- LCNNは,現実的な劣化条件(デフォーカスぼかし,モーションぼかし等)下で複雑なモデルよりも優れた性能を示した。
- ResNet-101等の高性能モデルは,劣化条件下で性能が大幅に低下することが示された。
- 軽量かつ特化したモデルが,エッジデバイス等の実用環境においてより適している可能性が示唆された。
ワールドモデルは,器用な操作のために人間のビデオを活用できる [cs.SI, cs.RO, cs.AI, cs.CV]目的:器用な操作に関する環境の次の潜在状態の予測
- 器用な操作は,物体の接触を通じて微妙な手の動きが環境に与える影響を理解する必要があり,複雑である。
- 器用な操作のデータセットは不足しており,学習が困難である。
- 人間のビデオを活用することで,データ不足を克服し,より正確な予測を目指す。
- DexWMは,テキスト,ナビゲーション,全身アクションに基づく既存のワールドモデルを上回り,より正確な将来の状態予測を実現した。
- DexWMは,Franka Pandaアームを用いた実験で,未知の操作スキルに対する優れたゼロショット汎化能力を示した。
- 把持,配置,到達タスクにおいて,Diffusion Policyを平均で50%以上上回る性能を発揮した。
米国最高裁判例の分類における大規模言語モデルの記憶 [cs.CL, cs.AI, cs.ET, cs.IR]目的:米国最高裁判例の分類タスクにおける大規模言語モデルの記憶戦略
- 自然言語処理の進展に伴い,大規模言語モデルの応用範囲が拡大している
- 大規模言語モデルは,分類タスクにおいて期待される結果を出力しない場合がある
- 大規模言語モデルの記憶メカニズムを理解し,分類精度の向上を目指す
- プロンプトベースのモデル(DeepSeekなど)は,従来のBERTベースのモデルよりも高いロバスト性を示す
- 15件のトピック分類タスクおよび279件のトピック分類タスクにおいて,約2ポイントの性能向上が確認された
- 大規模言語モデルの記憶戦略と分類精度の関係について新たな知見が得られた
学習成果の整合性に基づく教育リソースの埋め込みランキング:ベンチマーク,専門家による検証,学習者パフォーマンス [cs.CY, cs.AI]目的:教育リソースと意図された学習成果の整合性評価
- オンライン学習の普及に伴い,学習者のニーズに合わせた個別最適化が重要になっている。
- 教育リソースは増加の一途をたどる一方,学習成果との整合性確認にコストがかかる。
- 埋め込みを用いた自動評価フレームワークにより,スケーラブルな個別最適化を実現すること。
- LLMによるテキスト埋め込みモデルのベンチマーク結果,最も精度が高かったVoyageは79%の精度を達成。
- 専門家による評価の結果,最適モデルは学習成果との対応を信頼性高く評価することが確認された(83%の精度)。
- 360人の学習者による実験の結果,整合性スコアの高さが学習パフォーマンス向上と有意な関連を示した (p < 0.001)。
SEDULity:分散型・安全なブロックチェーンのための学習証明フレームワーク - 効率的な有用な作業を伴う [cs.CR, cs.DC, cs.IT, cs.LG, math.IT]目的:分散型かつ安全なブロックチェーンにおける効率的な有用な作業のための学習証明フレームワーク
- 既存のブロックチェーンはPoWで安全性を確立。しかし,そのエネルギー消費が持続可能性への懸念を高めている。
- PoUWやPoLの研究が進むも,セキュリティ,分散化,効率性の問題が残されている。
- セキュリティと分散性を維持しつつ,効率的に機械学習モデルを学習するフレームワークを提案する。
- 提案フレームワークSEDULityは,ブロックテンプレートを学習プロセスに組み込み,PoWパズルに代わる有用関数を設計する。
- 理論的に,適切なシステムパラメータ下では,合理的なマイナーは正直に学習するインセンティブがあることを示す。
- シミュレーション結果から,フレームワークの性能が検証され,分析結果と整合性があることが確認された。
有機合成手順生成のための科学的推論モデル [cs.CL, cs.LG]目的:有機合成手順の自動生成
- 創薬効率向上の鍵となりうる,ロボット支援合成ワークフローの実現に不可欠である。
- 計算による経路設計と実際の実験手順との乖離が課題であり,適切な実験手順の予測が困難である。
- 反応式から直接,正確かつ構造化された実験手順を生成することで,この課題を解決する。
- QFANGは,905,990件の化学反応と手順シーケンスからなる高品質なデータセットを用いて開発された。
- 化学知識に基づく推論フレームワークCGRと,検証可能な報酬を用いた強化学習RLVRにより,手順の正確性が向上した。
- 既存モデルと比較して,QFANGはNLP指標とLLMによる化学的評価の両方で優れた性能を示し,ドメイン外の反応にも適用可能である。
パーソナライズされたテキストから画像生成のための方向性テキスト反転 [cs.LG, cs.CV]目的:テキストから画像へのパーソナライズ生成における性能向上
- 画像生成技術の発展は,多様なコンテンツ作成を可能にする重要な研究分野である。
- テキスト反転は効率的だが,複雑なプロンプトに対しては性能が低下する課題があった。
- 埋め込みベクトルの方向のみを最適化することで,より忠実なパーソナライズを目指す。
- 提案手法DTIは,テキストの忠実性をTIやその変種よりも向上させることを確認した。
- DTIは,学習された概念間の滑らかな補間(slerp)を可能にし,標準的なTIでは得られない能力を提供する。
- 方向のみの最適化が,プロンプトに忠実なパーソナライズのための堅牢かつスケーラブルな手法であることを示唆する。
テキスト指示による3D編集:画像から3Dへの生成モデルへの応用 [cs.CV, cs.AI]目的:テキストによる制御可能な画像から3Dへの生成手法の開発
- デザイン,AR/VR,ロボティクス等の分野において,3Dコンテンツの重要性が増している。
- 生成された3Dアセットの容易な編集機能が,実用的な応用において課題となっていた。
- 言語指示に基づいて3Dアセットを編集し,より実用的な3Dコンテンツ生成を目指す。
- 提案手法Steer3Dは,ControlNetに着想を得て,画像から3Dへの生成時にテキスト指示を直接反映する。
- 大規模なデータ生成エンジンと,フローマッチング学習およびDPOに基づく二段階の学習レシピを開発した。
- Steer3Dは既存手法と比較して,指示への追従性と3Dアセットの一貫性が高く,高速な処理を実現した。
拡散ブラウザ:マルチブランチデコーダによるインタラクティブな拡散プレビュー [cs.CV, cs.AI, cs.GR, cs.LG]目的:拡散過程におけるインタラクティブなプレビュー生成
- 動画生成AIの発展は,映像制作やコンテンツ生成に革新をもたらす可能性を秘めている。
- 既存の動画拡散モデルは,生成速度が遅く,生成過程が不透明であるという課題がある。
- 拡散過程の途中段階でのプレビューを高速化し,生成過程の制御性を向上させる。
- 拡散ブラウザは,軽量なデコーダフレームワークにより,リアルタイム以上の速度でRGB画像とシーン情報をプレビュー生成できる。
- プレビューを通して,ノイズ注入やモーダルステアリングによる生成過程のインタラクティブな制御が可能となった。
- 学習されたデコーダを用いて,シーンやオブジェクトの組み立て過程など,拡散モデル内部の挙動を解析した。
混合ディリクレ・ノイマン境界条件に対するニューラル事前条件子付きポアソンソルバー [math.NA, cs.GR, cs.LG, cs.NA]目的:混合境界条件を持つポアソン方程式の求解
- ポアソン方程式は,物理シミュレーションなど広範な分野で基礎となる計算である。
- ポアソン方程式の離散化は,大規模で条件数の悪い線形システムを生み出しやすい。
- 変化する形状や境界条件に対して,効率的な事前条件付け手法が求められている。
- 提案手法は,形状や境界条件の変化に強いニューラルネットワークに基づく事前条件子を用いる。
- この事前条件子は,従来の多重グリッド法よりも高速かつ汎用的に求解できることを示した。
- 非圧縮流体シミュレーションにおける困難なテストケースで,最先端手法を上回る性能を示した。
時系列データの前処理と血糖値予測のためのマルチタスクVAE [eess.SP, cs.AI, cs.LG]目的:時系列データの前処理と血糖値予測
- 医療データの解析は,患者の健康管理に不可欠であり,その精度向上は重要な課題である。
- 医療デバイスからのデータには欠損値や異常値が多く,適切な前処理が困難である。
- 前処理の仮定によるバイアスを軽減し,予測精度を向上させることを目指す。
- 提案手法は,既存の最先端手法と比較して,予測精度が向上した。
- VAEを利用した潜在空間と再帰型VAEによる時間的動態の保持が,効果的な前処理を可能にした。
- 糖尿病患者の血糖値予測において,実用的な性能が確認された。
連立形成のためのAI生成妥協案 [cs.MA, cs.AI, cs.GT]目的:連立形成における妥協案生成
- AI分野,特に議論,仲介,交渉において,妥協点の発見は不可欠である。
- エージェントの合理性の限界や不確実性を考慮した妥協案生成手法が課題であった。
- AIを用いて大規模な民主的なテキスト編集を可能にする妥協案生成を目指す。
- 自然言語処理と大規模言語モデルを用いてテキストのセマンティック空間を構築した。
- この空間に基づき,幅広い支持を得られる可能性のある妥協点を提案するアルゴリズムを設計した。
- シミュレーションにより,AIが大規模な民主的なテキスト編集を促進できることを示した。
EMNLP:教師役の倫理・規範的大規模言語モデルのプロファイリング [cs.CL, cs.AI]目的:教師役大規模言語モデルの性格プロファイリング,倫理発達段階の測定,およびソフトプロンプト注入下における倫理的リスク
- 教育現場でのAI活用が進む中,その倫理的・心理的側面を理解することは重要である。
- 大規模言語モデルが特定の役割を模倣する際の倫理的評価や心理的評価が十分でない。
- 教師役大規模言語モデルの倫理的・心理的整合性を評価するための基盤を確立すること。
- 教師役のLLMは,人間の教師と比較して,より理想化された,あるいは極端な性格を示す傾向がある。
- 抽象的な倫理的推論においては優れた能力を示す一方,感情的に複雑な状況への対応には苦慮する。
- 推論能力が高いモデルほど,有害なプロンプト注入に対して脆弱であるという,能力と安全性の間の逆説が明らかになった。
Balanced Group Softmaxと距離学習による長尾オブジェクト検出の性能向上 [cs.CV, cs.AI, cs.LG]目的:長尾分布データに対するオブジェクト検出性能の向上
- 実世界のデータはクラスの出現頻度に偏りがあることが多く,オブジェクト検出の精度低下を招く。
- 従来のオブジェクト検出手法は,頻出クラスに偏った学習となり,稀少クラスの検出性能が低い。
- 長尾分布データにおける稀少クラスの識別能力向上を目指す。
- 提案手法は,LVISv1データセットにおいて平均適合率(mAP)24.5%を達成し,既存の最高性能を上回った。
- 距離学習により,特徴空間におけるクラス間分離性とクラス内凝集性を向上させ,稀少クラスの分類性能を改善した。
- 推論時にk-最近傍法を用いることで,特に稀少クラスの分類精度が向上した。
Vision Foundry:基礎的な視覚AIモデルの学習システム [q-bio.QM, cs.AI, cs.CV, cs.LG]目的:基礎的な視覚AIモデルの学習,適応,展開のためのプラットフォーム
- 医療画像解析において,AI技術の活用は診断精度向上や効率化に不可欠である。
- 臨床研究者は,高度な技術的障壁により,自己教師あり学習を十分に活用できていない。
- 臨床専門家が容易に最先端の臨床AIツールを開発できるよう支援すること。
- Vision Foundryを用いることで,セグメンテーションの精度と回帰の正確性が,汎用的なベースラインを大きく上回ることが示された。
- 異なる画像プロトコル間でのゼロショット汎化能力も高く,頑健性も確認された。
- 本プラットフォームは,アノテーションの負担を軽減し,臨床的発見に焦点を当てたAI開発を可能にする。
ポリマー用基盤モデルにおける構造表現の理解 [cond-mat.soft, cs.AI, cs.LG]目的:ポリマーの構造表現
- 材料開発において,ポリマーの物性予測は不可欠であり,効率的な設計を可能にする。
- ポリマーの構造を適切に表現する手法が確立されておらず,モデルの性能が制限されている。
- SMILESに基づくポリマーグラフ表現を用いて,ポリマー構造の表現能力を向上させる。
- 開発されたポリマー基盤モデルは,28の異なるベンチマークデータセットで優れた性能を示した。
- 制御実験の結果,提案手法が言語ベースの基盤モデルにおいてポリマーを表現する上で非常に有効であることが示された。
- SMILES表現全体に強い不変性があり,化学的または意味的に無効なバリエーションも高い性能を達成した。
因果空間における因果効果の詳細な検討 [stat.ME, cs.AI, math.ST, stat.TH]目的:イベントレベルにおける因果効果
- 科学研究において因果関係の解明は重要であり,特に介入効果の定量的な評価が求められる。
- 従来の因果推論は変数レベルに焦点を当てていたため,意味のある因果的問いを立てることが困難なデータが多い。
- イベントレベルでの因果効果を定義し,その強度と性質を定量化することで,より詳細な分析を可能とする。
- 因果空間の測度論的枠組みにおいて,因果効果の有無を判定するための二値定義が導入された。
- これらの定義は,介入測度下における独立性との関連性が証明された。
- イベント上の因果効果の強さと性質を捉える定量化手法が提示され,既存の治療効果指標が特殊なケースとして導出された。
スペクトル符号付き有向グラフ畳み込みに基づく遺伝子制御ネットワーク推論アルゴリズム [q-bio.MN, cs.AI]目的:遺伝子制御ネットワークの推論
- 遺伝子機能や疾患メカニズムの理解には,正確な遺伝子制御ネットワークの再構築が不可欠である。
- 従来のスペクトルグラフ畳み込みは,遺伝子制御ネットワークの構造的特徴を捉えるのに課題がある。
- 符号付き有向グラフとして遺伝子制御ネットワークを明示的にモデル化し,その推論精度を向上させる。
- 提案手法MSGRNLinkは,シミュレーションデータおよび実データにおいて,既存のモデルを凌駕するAUROCスコアを示した。
- パラメータ感度分析および廃止実験により,MSGRNLinkの堅牢性と各モジュールの重要性が確認された。
- 膀胱がんのケーススタディでは,MSGRNLinkはベンチマークモデルよりも多くの既知のエッジとエッジの符号を予測し,生物学的な妥当性が示された。
区間Fisher判別分析と可視化 [quant-ph, cs.CC, stat.ML, cs.LG, math.ST, stat.TH]目的:区間値データに対する多クラスFisher判別分析の拡張
- データ科学において,多様なデータ構造の表現が重要視されている
- 従来の判別分析は単一の値で表現されるデータに限定される
- 区間値データのような内部変動を持つデータの分類手法を開発する
- 区間算術とMallows距離を用いて,区間値データに対するFisher判別分析を拡張した。
- 区間の中央値と範囲の両方を考慮した判別方向を導出し,分類に利用した。
- クラスマップやシルエットプロットなどの可視化手法を拡張し,分類結果の評価を支援した。
AI生成キャプションを用いた1億件以上の銀河画像に対する意味検索 [astro-ph.IM, cs.AI, cs.CV, cs.LG]目的:銀河画像の意味検索エンジンの開発
- 天文学研究において,大量の銀河画像データの効率的な探索は重要である。
- 手動ラベル付けには膨大な時間と労力がかかり,データ探索のボトルネックとなっている。
- ラベル付けされていない画像データから意味検索を可能にし,効率的な探索を実現する。
- AI生成キャプションと多種多様な天文モデルを組み合わせることで,画像類似度検索を上回る性能を達成した。
- 特に珍しい現象の検出において,ゼロショット性能で最先端の結果を得ている。
- VLMベースのリランキング手法により,上位100件の結果で再現率がほぼ2倍に向上した。
グラフ畳み込みネットワークに基づく多オミクスモダリティ融合とタンパク質ネットワーク埋め込みによるダブラフェニブ応答モデリング [quant-ph, cs.AR, cs.DC, cs.ET, quant-ph, cs.ET, math.OC, cs.SY, eess.SY, q-bio.BM, cs.LG]目的:ダブラフェニブ感受性の予測モデル
- 癌治療において,薬剤応答性の予測は個別化医療の実現に不可欠である。
- 単一のオミクスデータでは,複雑な分子間相互作用を捉えきれず,予測精度に限界がある。
- 多オミクスデータを統合し,タンパク質ネットワーク情報を活用することで,より高精度な予測を目指す。
- プロテオミクスとトランスクリプトミクスの選択的統合が,最高のテスト性能(R2約0.96)を示した。
- ゲノミクスやエピゲノミクスデータよりも,プロテオミクスとトランスクリプトミクスデータの方が,MAPK阻害活性に関連する表現型シグナルが強かった。
- アテンション機構を用いた多オミクス融合とGCNの組み合わせが,薬剤応答予測の改善とダブラフェニブ感受性の分子決定因子解明に貢献する。
LSTMネットワークを用いた確率的ボラティリティモデル:S&P 500指数のボラティリティ予測に対するハイブリッドアプローチ [q-fin.TR, cs.AI, cs.LG, cs.NE, q-fin.PM]目的:S&P 500指数のボラティリティ予測手法
- 金融市場において,正確なボラティリティ予測は,リスク管理や投資戦略に不可欠である。
- 従来のモデルでは,金融時系列データの非線形性や潜在的な変動を捉えることが困難であった。
- 確率的ボラティリティモデルとLSTMネットワークの組み合わせにより,予測精度向上を目指す。
- ハイブリッドモデルは,単独の確率的ボラティリティモデルやLSTMネットワークよりも優れた予測性能を示した。
- 特に,市場の潜在的な変動や非線形パターンを捉える能力が向上し,より精度の高い予測が可能となった。
- 本研究は,リスク評価や投資計画の改善に貢献するボラティリティモデリング技術の開発に繋がる。
敵対的生成ネットワークのためのヘリンガー損失関数 [math.CO, cs.DM, stat.ML, cs.LG]目的:敵対的生成ネットワークの学習におけるヘリンガー型損失関数の提案
- GANは,画像生成などの分野で重要な役割を担うが,学習の安定性が課題である。
- 従来のGAN損失関数は,勾配消失やモード崩壊といった問題を抱えている。
- ヘリンガー距離の特性を利用し,より安定した学習を可能にする損失関数を開発する。
- ヘリンガー距離に基づく損失関数は,GANの学習において,推定精度とロバスト性を向上させる。
- 提案手法では,生成器と識別器のパラメータの推定に関する漸近的性質が理論的に示された。
- シミュレーション実験により,データ汚染に対する耐性が向上することが確認された。
変修飾プロテオームの正確なde novoシーケンス決定:OmniNovo [q-bio.QM, cs.AI]目的:変修飾プロテオームのde novoシーケンス決定手法
- タンパク質機能調節の鍵となる翻訳後修飾の研究は,生命現象解明に不可欠である。
- 既存のプロテオミクス手法では,多数の変修飾プロテオームが未検出のままとなっている。
- 未知または複雑な修飾の特定を可能にする,新しいde novoシーケンス決定手法の開発が求められている。
- OmniNovoは,タンデム質量分析データから,参照データベースを用いずにペプチドと修飾を正確に特定する。
- 既存手法と比較して,偽発見率1%で51%多くのペプチドを同定できた。
- 訓練データに含まれない生物学的部位にも適用可能であり,プロテオームの未解明部分の解析を可能にする。
V-Rex:動的KVキャッシュ検索によるリアルタイム動画LLM加速 [math.CO, cs.DM, eess.IV, cs.AI, cs.AR, cs.CV, cs.MM]目的:ストリーミング動画LLMの推論における高速化
- 動画LLMは,キャプション生成や対話など多様な応用が期待されるため,重要性が増している。
- 連続する動画入力に対してKVキャッシュが肥大化し,計算量やデータ転送量が増大する課題がある。
- エッジデバイスでのリアルタイム推論を可能にするため,KVキャッシュの効率的な検索手法を開発する。
- V-Rexは,アルゴリズムとハードウェアを共同設計し,ストリーミング動画LLMのボトルネックを克服する。
- ReSVアルゴリズムにより,動画フレーム間の類似性に基づき,KVキャッシュメモリを削減する。
- エッジデバイス上での推論において,最大19.7倍の高速化と3.1~18.5倍の省電力化を達成した。
データストリーム回帰におけるロバスト外れ値検出と低遅延概念ドリフト適応:デュアルチャネルアーキテクチャ [stat.ME, cs.LG]目的:データストリーム回帰における外れ値と概念ドリフトの同時検出
- データ分析において,外れ値や概念ドリフトの検出は重要な課題である。リアルタイム性の高い分析が求められる現代において,その重要性は増している。
- 従来の多く研究では外れ値と概念ドリフトを別々に扱っており,特に回帰問題では連続的な出力空間が両者の区別を困難にしている。
- 本研究は,外れ値と概念ドリフトを同時に検出し,より正確で迅速なデータ分析を実現することを目的とする。
- 提案手法は,予測残差を2つのチャネルに分割し,外れ値の迅速なフィルタリングと概念ドリフトの深層分析を同時に行うことで,ロバストな回帰分析を可能にする。
- 新たに開発したEWMAD-DT検出器は,動的な閾値設定により,急激なドリフトと漸進的なドリフトを自動的に識別し,適応的な対応を可能にする。
- 合成データと実データを用いた実験により,提案手法が,外れ値と概念ドリフトが同時に発生する場合でも,優れた検出性能を発揮することが示された。
市場リスクの算出における動的ベイジアンネットワークの応用拡大:標準およびストレステスト期待手 shortfall [math.CO, cs.DM, math.CO, cs.DM, q-fin.RM, cs.LG, q-fin.CP, q-fin.ST]目的:市場リスクの期待手 shortfallおよびストレステスト期待手 shortfallの推定最適化
- 金融危機以降,市場リスク規制において期待手 shortfallが重要な指標となっている。
- 金融市場のテールリスク(極端な変動)のモデリングは困難である。
- 動的ベイジアンネットワークを用いたテールリスク推定の改善を目指す。
- 動的ベイジアンネットワーク構造学習アルゴリズムと伝統的な市場リスクモデルの性能を比較した結果,両者の予測精度に大きな差は見られなかった。
- 期待手 shortfallの予測ではEGARCH(1,1)モデル(正規分布)が最も正確で,ストレステスト期待手 shortfallの予測ではGARCH(1,1)モデル(正規分布)が最も優れていた。
- 歪んだ学生t分布を用いた場合,分布依存型モデルの性能は著しく低下した。
Linfoot情報相関の事前学習済み深層学習推定器 [physics.soc-ph, cs.CY, cs.DL, cs.SI, stat.ML, cs.LG, stat.ME]目的:2つの連続確率変数の相互情報量の推定
- 情報理論は,データ間の依存関係を定量化し,機械学習や統計分析に不可欠である。
- 既存の相互情報量推定器は,高次元データや複雑な分布に対して,精度や効率に課題がある。
- Linfoot情報相関に基づく深層学習モデルにより,より正確で効率的な推定を実現する。
- 提案手法は,カーネル密度,k近傍法,ニューラル推定器と比較して,一般的に低いバイアスと低い分散を示す。
- ガウス型およびクレイトン型コプラを基にした正解ラベルを用いてモデルを学習した。
- 本研究は,他のコプラからの多様なデータセットを用いてモデルを学習することで,更なる性能向上が期待できることを示唆する。
自律系および強制系のデータ駆動モデリング [stat.ME, cs.CL, physics.soc-ph, stat.AP, math.DS, cs.LG, physics.data-an]目的:物理システムのデータ駆動モデリングにおける不変葉の利用
- 物理現象の理解や予測には,その背後にある力学系の正確なモデルが不可欠である。
- 従来のモデリング手法では,データの不足や複雑な系の解析が困難な場合が多い。
- データから直接不変葉を同定し,長期的挙動の正確な予測を可能にすること。
- 不変葉は,相空間全体を覆うデータや,不変多様体近傍に集まるデータに適合可能である。
- 適切な関数表現とハイパーパラメータの選択により,過学習や学習不足を回避できる。
- 強制系やパラメータ依存系にも適用可能であり,長期的な力学系の予測精度が高い。
理論的保証付き共同ハブノードに基づく多視点グラフ学習 [physics.chem-ph, cond-mat.mtrl-sci, cs.DL, stat.ML, cs.LG]目的:多視点グラフ学習におけるハブノードの共有構造のモデル化
- 多変量データの本質的なグラフ構造の特定は,様々な応用において不可欠である。
- 既存手法は単一のグラフ推測に限定され,データの異質性を考慮できていない。
- 共通ハブノードに着目し,多視点グラフ学習の精度向上と解釈可能性の提供を目指す。
- 提案手法は,異なる視点間で共通のハブノード群が存在するという仮説に基づいている。
- これらの共同ハブノードの接続に対して構造化スパース性を課す最適化フレームワークを開発した。
- 層の識別可能性に関する理論的検討を行い,推定誤差の上限を導出した。
ガウス過程モデル化データに対する効率的なレベルクロス確率計算 [stat.ML, cs.GR, cs.LG]目的:ガウス過程モデル化データにおけるレベルクロス確率の効率的な計算
- 科学データには不確実性が伴うことが一般的であり,その正確な評価は重要である。
- ガウス過程回帰は不確実性を扱うのに適しているが,計算コストが高いという課題がある。
- 高解像度データにおけるレベルクロス確率計算の効率化を目指す。
- 提案手法では,階層的なデータ構造を用いて計算領域を分割し,確率がゼロでない領域のみを再構成する。
- ガウス過程カーネルと観測データを利用して,領域内のレベルクロス確率の上限を効率的に計算する。
- 実験により,提案手法が低い計算コストで正確な確率推定を実現することが示された。
生存モデルにおける過剰パラメータ化の理解:ダブル・デスセントによる考察 [stat.ML, cs.LG, math.ST, stat.TH]目的:生存モデルにおけるダブル・デスセント現象の解明
- 生存分析は,医療分野などにおいて,イベント発生までの時間を分析する上で不可欠である。
- 従来の統計学習理論では説明できない,過剰パラメータ化されたモデルの汎化性能が課題となっていた。
- 生存モデルにおけるダブル・デスセント現象を明らかにし,モデルの適切な設計に貢献することを目指す。
- ダブル・デスセント現象が,DeepSurv,PC-Hazard,Nnet-Survival,N-MTLRの4つの生存モデルで確認された。
- モデルの損失関数と実装方法が,補間可能性に影響することが示された。
- 過剰適合は,生存モデルにおいても必ずしも無害ではないことが明らかになった。
経済時系列における説明可能な人工知能:手法と概念の包括的レビューと体系的な分類 [econ.GN, cs.AI, q-fin.EC]目的:経済時系列分析における説明可能な人工知能(XAI)の手法と概念の体系化
- 経済予測において機械学習の重要性が増す中,その解釈可能性が政策決定への応用を阻害する要因となっている。
- 従来のXAI手法は,経済時系列特有の自己相関や非定常性などの性質に対応できず,信頼性や妥当性に課題がある。
- 経済時系列分析に適応したXAI手法を分類し,政策分析への応用可能性を検討することで,解釈可能性の向上を目指す。
- 本研究では,XAI手法を説明メカニズムと時系列適合性に基づいて分類する体系を提案した。
- ベクトルベースやウィンドウベースのXAI手法は,ラグの断片化を軽減し,計算コストを削減しつつ,解釈性を向上させることが示された。
- 介入的帰納(Causal Shapley値)や制約付き反事実的推論を通じて,説明可能性と因果推論,政策分析との関連性が示唆された。
シンクホーン分散ロバスト最適化のための反復サンプリング法 [stat.ML, cs.LG]目的:シンクホーン不一致に基づく分散ロバスト最適化問題の解法
- 不確実性の下での意思決定において,ロバストな最適化手法の重要性が高まっている。
- 既存手法は双対的な視点に偏り,損失関数の有界性への依存や,最悪分布の直接的な算出が困難である。
- 本研究は,最悪分布とロバスト決定を同時に取得できる原始的な視点からの解法を提案する。
- シンクホーンDROを,確率空間上の無限次元下位問題を伴う二重最適化問題として定式化した。
- 二重ループおよび単一ループのサンプリングベースアルゴリズムを提案し,理論的保証を与えた。
- 敵対的分類問題における数値実験により,提案手法の有効性を実証した。
不連続性を持つ多次元応答曲面に対するスケーラブルなロバストな局所ガウス過程 [stat.ML, cs.LG, stat.AP]目的:不連続性を持つ多次元応答曲面のモデリング手法
- 科学技術分野において,応答曲面の正確なモデリングは重要であり,最適化や予測に不可欠である。
- ガウス過程モデルは滑らかな関係を捉えるのに優れるが,不連続性への対応が課題である。
- 外れ値の影響を軽減し,予測精度と計算効率を向上させることで,不連続性モデリングを改善する。
- 提案手法であるRLGPは,適応的な最近傍探索とスパース駆動型ロバスト化メカニズムを統合することで,予測精度を向上させる。
- RLGPは,実世界のデータセットにおいて高い予測精度を示し,特に不連続性が存在する場合に既存手法を上回る。
- スケーラビリティテストは,RLGPがより高次元の設定においても安定性と信頼性を示すことを確認した。
近傍情報に基づく学習によるスケーラブルな量子誤り緩和 [quant-ph, cs.CC, cs.LG]目的:量子誤り緩和の新たな枠組み
- 量子コンピュータの実用化には,量子ビットのノイズが大きな障壁となっている。
- 既存の誤り緩和手法は,性能,計算コスト,理論的保証のバランスが課題である。
- 近傍回路からの学習により,より効率的かつ高精度な誤り緩和を実現することを目指す。
- 近傍情報に基づく学習(NIL)という,汎用的でスケーラブルな誤り緩和フレームワークを提案した。
- NILは,ゼロノイズ外挿法や確率的誤りキャンセル法を統合し,それらの手法を強化する。
- トレーニングデータセットのサイズは,近傍回路数に対して対数的にしか増加しないことが示された。
ミン-マックス中央集約によるロバスト変分ベイズ法 [stat.ME, cs.LG, stat.ML]目的:データセット内の汚染および外れ値への効果的な対処を可能にするロバストかつスケーラブルな変分ベイズ(VB)フレームワーク
- ベイズ推論は,不確実性の定量化と意思決定において重要な役割を果たす。
- 現実のデータセットには,汚染や外れ値が含まれることが多く,従来のVB法は影響を受けやすい。
- データ分割とロバスト集約原理に基づくVB法を開発し,汚染や外れ値に対するロバスト性を向上させる。
- 提案手法は,平均 Kullback-Leibler (KL) ダイバージェンスをミン-マックス中央値形式に置き換えることで,ロバスト性を強化する。
- 二段階アプローチは,直接集約よりも小さい近似誤差を示すことが実験的に示された。
- 提案された事後分布の平均に対して,ほぼ最適な統計的レートが確立され,既存の理論が進歩した。
3Dシーン再構成と新規視点合成のための量子暗黙ニューラル表現 [quant-ph, cs.AI, cs.CV]目的:3Dシーンの再構成と新規視点合成における量子暗黙ニューラル表現の有効性
- 3Dシーンの再構成は,コンピュータビジョンやロボティクスなど幅広い分野で不可欠な技術である。
- 従来の暗黙ニューラル表現は,高周波の詳細を捉える能力に限界があり,表現力に課題がある。
- 量子回路を活用することで,古典的なモデルのスペクトルバイアスを軽減し,より高精度な3次元再構成を目指す。
- 提案手法Q-NeRFは,古典的なNerfactoフレームワークに量子暗黙表現ネットワーク(QIREN)を統合したハイブリッドモデルである。
- 実験の結果,限られた計算資源下で古典的なモデルと同等の再構成品質を達成し,特に微細な視点依存的な外観表現において有効性が示された。
- 本研究は,量子エンコーディングが暗黙表現におけるスペクトルバイアスを軽減する可能性を示唆し,スケーラブルな量子3Dシーン再構成の基礎となる。
実ハードウェアにおける可観測読み出し機能を持つ実用的なハイブリッド量子言語モデル [quant-ph, cs.LG]目的:実ハードウェア上での量子言語モデルの構築
- 近年の量子デバイスの発展により,系列データ処理への応用が期待されている。
- 現在の量子デバイスはノイズの影響が大きく,複雑なモデルの学習が困難である。
- ノイズに強く,実用的な量子言語モデルの実現を目指す。
- 量子再帰型ニューラルネットワーク(QRNN)と量子畳み込み型ニューラルネットワーク(QCNN)を提案し,実ハードウェア上での言語モデルの生成実証に成功した。
- ハードウェア最適化された量子回路と軽量な古典射影層を組み合わせ,多サンプルSPSA戦略を用いて効率的な量子パラメータの学習を実現した。
- 実験により,回路の深さと学習可能性のトレードオフが明らかになり,可観測読み出しがNISQデバイス上での系列パターン学習を可能にすることが示された。
機械学習の限界 [q-fin.CP, cs.CE, stat.ML, cs.LG]目的:機械学習における学習の限界
- 金融市場の予測において,機械学習の活用が期待されている。
- 限られたサンプルデータからの学習では,真のデータ生成過程を捉えきれない。
- 観測された予測性能の過小評価を修正し,真の予測可能性を評価する。
- 機械学習モデルの性能には,普遍的な下限が存在することが示された。
- 金融データ分析において,標準的な機械学習手法は予測可能性を過小評価する可能性がある。
- LLGに基づいてHansen-Jagannathanの限界を修正し,過剰なボラティリティのメカニズムを説明した。
正規化フローによる変分推論を用いた提案生成による輸送型可逆ジャンプマルコフ連鎖モンテカルロ法 [stat.ML, cs.LG]目的:変分推論と正規化フローを用いた提案生成による,効率的な超次元ベイズ推論手法
- ベイズ推論は,不確実性を含む問題解決に不可欠であり,幅広い分野で応用されている。
- 既存の超次元MCMC法は,計算コストが高く,混合が遅いという課題がある。
- 正規化フローを用いることで,ターゲット分布からのサンプリングコストを削減し,効率的な超次元ベイズ推論を実現する。
- 本手法は,従来の輸送型可逆ジャンプ法と比較して,より迅速な混合と効率的なモデル空間探索を可能にする。
- 変分近似による周辺尤度推定により,効率的なモデル比較と提案適応を促進する。
- 提案アルゴリズムは,モデル間およびモデル内の提案生成に適用可能な条件付きフローにも拡張可能である。
残差増強確率的学習のためのフローマッチング演算子 [stat.CO, cs.LG, stat.ML]目的:偏微分方程式の確率的代理モデル学習
- 偏微分方程式の近似解法は,科学技術計算の中核であり,様々な分野で利用されている。
- データが少ない状況下では,ニューラル演算子や生成モデルは十分な性能を発揮できない場合がある。
- 低精度解から高精度解への確率的変換学習により,データ不足問題を克服することを目指す。
- 提案手法は,異なる解像度と精度で解を正確に学習し,モデルの信頼度を反映した不確実性推定が可能である。
- フローマッチングを無限次元関数空間で定式化することで,学習効率と表現力の向上を実現している。
- 残差増強学習戦略により,高精度解の学習に必要なデータ量を削減している。
大規模言語モデルの意識の反証:意識に向けた継続学習の必要性 [q-bio.NC, cs.AI]目的:大規模言語モデルの意識に関する反証と,意識に向けた継続学習の必要性
- 意識の研究は,人間理解の根幹であり,倫理的・社会的な影響も大きい。
- 現在のLLMは,入力と出力が似たシステムとの区別が難しく,意識の有無を判断できない。
- 継続学習を意識の必要条件とすることで,LLMの意識欠如の理由を説明する。
- 新たな「近接性論法」により,現在のLLMに非自明な意識の理論を適用することが困難であることを示した。
- 継続学習に基づく意識の理論は,厳格な形式的制約を満たすことが示された。
- 人間の意識と継続学習の関連性を示唆し,LLMの意識欠如は継続学習能力の欠如に起因すると考えられる。
Meta-GPT:生成AIによるメタサーフェスのゲノム解読 [physics.optics, cs.AI, cs.CL, cs.LG]目的:メタサーフェスの構造と光学特性を記述する記号言語METASTINGSと,それを用いて学習した基盤モデルMeta-GPT
- 物理科学におけるAI応用の進展は,解釈可能性と自然法則との整合性が重要である。
- メタサーフェス設計は複雑であり,直感的かつ効率的な設計手法が求められている。
- METASTINGSとMeta-GPTを用いて,AI駆動型フォトニクス設計の基盤を確立すること。
- Meta-GPTは,METASTINGSを通して光と物質の相互作用の構成規則を学習することが示された。
- 様々な設計タスクにおいて,平均二乗誤差が3%以下,構文の妥当性が98%以上を維持するメタサーフェス原型を生成した。
- 実験的に測定された光学応答がターゲットスペクトルと一致し,AI駆動型フォトニクスの可能性を示した。
多変量線形回帰と線形オートエンコーダに対するPAC-Bayes限界 [stat.ML, cs.LG]目的:多変量線形回帰と線形オートエンコーダの一般化性能
- 推薦システム等の性能向上に貢献する線形オートエンコーダの理論的理解が求められている。
- 線形オートエンコーダの成功は経験則に頼る部分が大きく,理論的な保証が不足している。
- 線形オートエンコーダの一般化性能を評価するためのPAC-Bayes限界を確立し,最適化効率を改善する。
- 多変量線形回帰に対するPAC-Bayes限界を提案し,その収束のための十分条件を確立した。
- 線形オートエンコーダは,制約付き多変量線形回帰モデルとして解釈でき,提案した限界を適用できることを示した。
- 限界の最適化効率を向上させる手法を開発し,大規模モデルや実データへの適用を可能にした。
深層ニューラルネットワークの重み行列に対する特異値閾値の評価:確率行列理論に基づく [stat.ML, cs.LG]目的:深層ニューラルネットワーク重み行列の特異値分解に基づく低ランク近似における特異値除去閾値の評価
- 深層学習の発展に伴い,モデルの効率化が重要視されているため。
- 重み行列の低ランク近似は計算コスト削減に有効だが,適切な閾値設定が課題。
- 確率行列理論に基づき,信号とノイズを分離する閾値を提案し,その有効性を検証する。
- 提案手法では,信号とオリジナル重み行列の特異ベクトル間のコサイン類似度を評価指標として用いる。
- 数値実験により,2つの閾値推定方法を比較し,提案指標の有効性を示す。
- 特異値閾値の適切な設定が,低ランク近似の精度に影響を与えることを確認した。
