arXiv雑要約
AI - 2026/06/05 公開
HyFAD:周波数認識埋め込みを用いたハイブリッド時周波数拡散による時系列補完 [stat.ML, cs.LG]目的:時系列データの補完
- 時系列データは,様々な分野で重要な役割を担っており,その分析と活用が求められている。
- 既存手法では,周波数に対する適切なノイズ除去や高周波成分の再構成が困難であり,大域的な傾向と局所的な変動のバランスを取ることが課題となっている。
- 周波数情報を考慮した拡散モデルにより,時系列データの高精度な補完を目指す。
- 提案手法HyFADは,時周波数結合拡散フレームワークを採用し,時間領域から周波数領域への逐次的な逆拡散処理を行うことで,粗から細への生成を可能にする。
- HyFADは,時間領域で低周波の全体的な傾向を捉え,周波数領域で高周波スペクトル成分を洗練させる。
- 周波数認識ステップ埋め込みを導入することで,拡散ステップとスペクトル成分の関係性を活用し,バンドごとのより正確な再構成を促進する。
テイムされたSGLDのための決定論的エンベロープ:確率的勾配ノイズの分離と局所的なテイミング [stat.ML, cs.LG, cs.NA, math.NA, math.PR]目的:テイムされたSGLDにおける確率的勾配ノイズの分離と局所的なテイミング手法の開発
- 確率的勾配法は機械学習の基盤であり,大規模データに対する最適化に不可欠である。
- 非グローバルリプシッツドリフトを持つ確率的勾配ランジェバンアルゴリズムは不安定になりやすい。
- 確率的オラクルに依存したテイミングによるバイアスを回避し,安定性と正確性を両立させる。
- 確率的勾配に依存したテイミングステップが,オラクル自体を変化させ,定常バイアスを生み出すことが示された。
- 決定論的エンベロープを用いることで,不必要なテイミングを避けつつ,安定化効果を維持できることが示された。
- 実験により,確率的分子の定常歪み,決定論的エンベロープによるバイアス削減,ハイブリッド構成の安定化効果が確認された。
ソースの異質性を活用したクラスタ構造を持つ転移学習 [stat.ML, cs.LG, stat.AP]目的:転移学習におけるソースの異質性に対処するためのクラスタ構造転移学習手法
- ターゲットデータの不足を補う転移学習は,複数の関連補助ソースが存在する場合に有効である。
- 補助ソースの有用性は異なり,その違いを考慮しないと性能が低下する可能性がある。
- ソース間の関連性を捉え,より効果的な転移学習を実現することを目的とする。
- 提案手法Trans-GLMCは,ソース間の距離に基づいて潜在的なクラスタを特定し,それを利用して予測精度を向上させる。
- シミュレーションおよび実際の自殺リスク研究において,施設ごとの予測性能が改善された。
- Trans-GLMCは,互いに転移可能性のある病院の解釈可能なコミュニティを特定し,臨床的に整合性のある自殺リスク因子を回収した。
安定性の限界における勾配降下法:自由エネルギーモデルと二層ネットワークの運動論的記述 [math.OC, cs.AI, cs.LG, math-ph, math.AP, math.MP]目的:不安定領域における勾配降下法のダイナミクス解析
- 深層学習の性能向上のため,最適化手法の理論的理解が不可欠である。
- 勾配降下法において,学習率が大きい場合,損失とシャープネスの振動が持続する問題がある。
- 振動を伴う不安定領域における学習過程を記述するモデルの構築とその解析。
- 有効自由エネルギーを監視することで,不安定な領域における学習ダイナミクスを捉えることができる。
- 二層ネットワークにおいて,重みとその変動の結合分布を記述する運動論的方程式を導出した。
- マトリックス分解やCIFAR-10などのタスクにおいて,モデルの精度が検証された。
TabSODA:欠損パターン検出と順序認識を用いた表形式拡散による補完 [stat.ML, cs.LG]目的:大規模調査における欠損値補完の改善
- 大規模調査は政策決定や社会科学研究に不可欠であり,データの信頼性が重要である。
- 既存の表形式拡散法は,質問票設計による構造的な欠損や順序データの取り扱いに課題がある。
- 構造的な欠損を適切に識別し,順序データの特性を考慮した補完手法を開発すること。
- TabSODAは,構造的な欠損を拡散過程で適切に伝播させ,順序変数を累積プロビット潜在変数で表現することで,補完精度を向上させた。
- PATH研究とNSDUH調査において,TabSODAは既存手法と比較して,順序MACEを最大23.7%,カテゴリ分類精度を最大9%改善した。
- 欠損パターンマイナーは両データセットでほぼ完璧な精度を達成し,TabSODA+SKIPはコードブックマスク版と遜色ない性能を示した。
経験ベイズ法による環境ロバストな表現学習 [stat.ML, cs.LG]目的:多環境予測問題における表現学習
- データ収集環境の変化に対応した予測モデルの構築が重要である。
- 環境特有のバイアスが予測性能を低下させるという課題がある。
- 環境変化にロバストな潜在変数を学習し,予測精度を向上させる。
- 提案手法は,潜在変数の分布の変化を考慮したベイズモデルを構築した。
- 経験ベイズ法を用いて事前分布を設定し,環境間バランス項を導入した。
- シミュレーションと実データ分析において,既存手法を上回る予測性能を示した。
AIは経済理論を反駁できるか:知識の限界を超える証拠 [econ.GN, cs.AI, econ.TH, q-fin.EC]目的:経済理論の正誤検証におけるAIの能力評価
- 経済学研究の質を担保するためには,厳密な検証が不可欠である。
- 査読制度には限界があり,見落としや偏りが生じる可能性がある。
- AIを活用することで,査読の精度向上と新たな発見に繋げることが期待される。
- ChatGPT Proは,反例の構築や証明の修正において,他のモデルより優れた性能を示した。
- しかし,AIが自力で真の誤りを発見するには,人的な指導が不可欠であり,データ汚染の問題も存在する。
- 熟練した研究者と最先端のAIモデルの組み合わせは,現在の査読制度を上回る可能性がある。
AlloGen:差分状態スコアリングによる立体選択的バインダー生成 [q-bio.BM, cs.LG]目的:タンパク質バインダーの立体選択的設計
- タンパク質の機能調節において,立体構造変化が重要な役割を果たすため,選択的なバインダー設計が不可欠である。
- 従来のバインダー設計は親和性のみを最適化しており,目的とする立体構造を選択的に認識するバインダーは少ない。
- 目的とするタンパク質の構造状態に選択的に結合するバインダーを,計算と実験の両面から設計することを試みる。
- AlloGenは,学習された状態選択性スコアラーを用いて,タンパク質バインダーの立体選択性を制御するフレームワークである。
- このフレームワークは,様々なタンパク質ファミリーにおいて,目的とする構造状態を選択的に認識し,他の構造状態を拒否するバインダーを特定することに成功した。
- 実験的に検証されたカルモジュリンにおいて,計算された選択性シグナルが実際の分子に反映され,目的の構造状態に結合し,非結合状態には結合しない新規ペプチドが得られた。
疎な関数型特異値分解による縦断データのバイクラスタリングとトリクラスタリング [stat.ML, cs.LG, stat.ME]目的:縦断データにおけるバイクラスタおよびトリクラスタの発見
- 複雑な疾患のサブタイプ特定には,縦断的オミクスデータに潜むパターンを捉えることが重要である。
- オミクスデータは高次元で,不規則な時間間隔でのサンプリングが課題となる。
- 既存手法の課題を克服し,高次元データにおける局所的な構造を明らかにする。
- Tri-SfSVDは,欠損値補完や形状同質性の制限を必要とせず,連続的な軌跡推定と選択を統合した。
- シミュレーション実験により,Tri-SfSVDは高次元設定において既存手法を上回る性能を示した。
- IBDや脳波データへの適用により,疾患の異質性やアルコール関連表現型を特徴付ける有用な関連性が明らかになった。
行動条件付き保証を持つ順形リスク回避意思決定 [stat.ML, cs.AI, cs.LG]目的:機械学習モデルを用いた信頼性の高い意思決定パイプラインの構築
- 機械学習の利用拡大に伴い,安全性と信頼性の確保が不可欠となっている。
- 既存の不確実性定量化手法では,十分な安全性の保証が得られない場合がある。
- 行動ごとの安全性保証を提供し,リスク回避型意思決定を最適化すること。
- 行動条件付き順形予測を導入し,各行動に対する明確な安全性を保証する。
- 行動条件付き予測セットが,リスク回避型意思決定者の実行可能領域の代替となることを示す。
- ピンボール損失最小化に基づくアルゴリズムを提案し,実証実験で既存手法を上回る性能を確認した。
予測と制御のための極端事象メカニズムの解明:感度均衡射影によるアプローチ [nlin.CD, cs.LG, math.DS]目的:極端事象のメカニズム解明,データ駆動型予測モデルの構築,直感的な事象抑制制御器の設計
- 地震やコロナ質量放出など,カオス的な力学系において極端事象は頻繁に発生する。その特性把握と予測は重要である。
- 極端事象を引き起こす不安定メカニズムは微細であり,その特性評価と予測が困難であるという課題が存在する。
- 感度均衡射影を用いて極端事象のメカニズムを明らかにし,予測精度向上と事象抑制を実現することを目指す。
- 本研究で開発した手法は,多様なシステムにおける極端事象のメカニズムを解明し,高精度な予測モデルの構築に貢献する。
- 得られたメカニズムに基づき,直感的な制御則を設計することで,極端事象の抑制が可能となる。
- ニューラルネットワークを用いた代替モデルにより,実験システムや自動微分が困難なシステムへの応用も期待できる。
確率プログラミングにおける相関シナリオ生成のための拡散モデル:Diff2SP [stat.CO, cs.LG]目的:確率プログラミングにおけるシナリオ生成
- 不確実性の下で意思決定を行う上で,現実的なシナリオの質が重要である。
- 従来のシナリオ生成手法は,複雑な依存関係や稀な事象の表現が難しい。
- 最適化目標を組み込んだシナリオ生成により,より高品質なシナリオを生成する。
- Diff2SPは,拡散モデルを用いて,統計的に一貫性があり,かつ意思決定を考慮したシナリオを生成する。
- 理論的な分析により,分布の正確性と意思決定の質を結びつけるリグレット境界が示された。
- 合成データおよび電力システムデータを用いた実験により,Diff2SPの有効性が確認された。
ライプツィヒにおけるベンチマーク [math.HO, cs.AI, math.AG, math.CO, math.RT]目的:研究レベルの数学問題のデータセット
- 大規模言語モデルの数学的推論能力評価は,AI研究の重要な進展を測る上で不可欠である。
- 既存の数学問題データセットは,難易度や問題の種類が十分でなく,高度なLLMの能力を正確に評価できない場合がある。
- LLMの数学的推論能力を客観的に評価するための,高品質で多様な問題群を構築すること。
- 研究者49名が,難易度の高い数学問題を100問収集した。
- 最先端のLLMによる評価の結果,段階的に未解決問題数が減少し,最終的には2問にまで絞られた。
- この結果は,LLMの数学的推論能力が著しく向上していることを示唆している。
神経変性疾患における脳組織の空間的パターンを捉える転写プログラムのクロススケール生成モデリング [q-bio.NC, cs.LG, q-bio.QM]目的:神経変性疾患における脳の脆弱性パターンを理解するための転写プログラム
- 神経変性疾患は,特定の脳領域に選択的に影響を与えるが,そのメカニズムは不明な点が多い。
- 従来の遺伝子発現と神経画像データの相関分析では,分子組織から神経変性がどのように生じるかをモデル化するのに限界がある。
- 本研究は,分子レベルとマクロレベルを繋ぎ,空間情報を考慮した生成モデルを開発し,病態の脆弱性を予測することを目指す。
- 提案されたフレームワークは,脳の脆弱性を高い精度で予測し,説明分散0.8604,空間相関0.9439 (p < 0.001)を達成した。
- 学習された潜在表現は,分散型疾患感受性と関連する構造化された転写組織を示した。
- 生物学的制約のある生成モデリングが,分子組織とマクロスケールの神経変性を繋ぐ基盤となり,空間を意識した神経生物学と計算神経科学への道を開く。
最も影響力のある集合の発見 [stat.ML, cs.LG, econ.EM, stat.CO]目的:最も影響力のある集合の同定
- 因果推論や機械学習において,データへの影響を評価する上で重要な概念である。
- 全ての部分集合を探索する必要があり,計算量が指数関数的に増加する点が課題である。
- 線形分数leave-set-out効果を持つ estimand に対して,MIS選択をtop-$k$問題に帰着させる。
- 線形分数leave-set-out効果を持つ estimand において,MIS選択がtop-$k$問題に還元されることを示した。
- Dinkelbach法を用いることで,反復ごとの計算コストが$\mathcal{O}(n)$で,有限回で終了するアルゴリズムが得られる。
- シミュレーションおよび応用実験により,これまで計算困難であった正確なMISが特定可能であることが示された。
EML-CD:構造学習におけるEMLシンボリック木による因果メカニズムの復元 [stat.ML, cs.LG]目的:構造学習における因果メカニズムの復元
- 複雑なシステムを理解するには,変数間の因果関係を明らかにすることが重要である。
- 従来の因果推論手法では,非線形な因果関係を捉えるのが困難であった。
- ニューラルネットワークの解釈性を高め,閉じた形の因果式を導出することを目指す。
- EML-CDは,EML演算子を構造学習に組み込むことで,解釈可能なメカニズムの復元を可能にする。
- Sachsタンパク質シグナル伝達データにおいて,EML-CDはPC/GESと同等の性能を示し,各エッジに対して閉じた形の式を付与した。
- 合成データ実験では,EML-CDは固定されたSINDy辞書と比較して,より低い安定したメカニズムMSEを達成した。
線形関数近似を用いたTD(0)の高速かつロバストな収束率:普遍的な学習ステップと独立同一分布サンプル [physics.soc-ph, cs.SI, nlin.AO, stat.ME, stat.ML, cs.LG]目的:線形関数近似を用いたTD(0)の有限時間挙動
- 強化学習における価値関数の近似は,高次元の状態空間を扱う上で不可欠である。
- 従来のTD(0)の収束率解析は,状態空間の共分散行列の最小固有値に依存しており,悪条件の場合に性能が低下する。
- 悪条件のケースでも高速に収束する新たなTD(0)の収束率を確立し,マルコフ連鎖の強い混合性に基づいた改良版を提案する。
- 提案手法は,反復回数kに対して1/kオーダーの最適依存性を示す高速な収束率を達成する。
- 収束率は,悪条件に対してロバストであり,初期誤差やモデルに依存しない定数のみに依存する。
- 改良版PCTD(0)は,マルコフ連鎖の強い混合性を仮定することで,より優れた収束特性を示す。
摂動リーダー追随における代理確率を用いた適応学習率 [stat.ML, cs.LG]目的:オンライン学習における適応学習率の設計
- オンライン学習は,リアルタイムな意思決定を必要とする様々な応用分野で重要である。
- FTPLは計算効率が良いが,確率依存の適応学習率の設計が困難である。
- 利用可能な情報のみから計算可能な代理確率関数を用いて,FTPLの適応学習率を設計する。
- 提案手法により,FTPLにおいて,任意の形状パラメータα>1に対するBOBW保証が実現された。
- この結果は,α=2に限定されていた既存の結果を一般化するものである。
- 専門家のアドバイスを用いたバンディット問題においても,BOBW保証が示された。
トポロジカル機械学習におけるp-進二重濾過:ゲノム配列への応用 [q-bio.QM, cs.LG, math.AT, q-bio.GN]目的:ゲノム配列の非アラインメント分類のためのトポロジカル機械学習フレームワーク
- ゲノム解析は生物学において基盤であり,疾患理解や個別化医療への貢献が期待される。
- 従来のゲノム解析手法はアラインメントに依存し,計算コストが高いことや,配列の進化的な関係性を捉えにくいという課題がある。
- p-進数とトポロジカルデータ解析を組み合わせ,アラインメント不要でゲノム配列の構造的特徴を捉え,分類精度向上を目指す。
- pVRフレームワークは,p-進距離とk-mer頻度に基づく距離を組み合わせた二重濾過を用いることで,配列の階層的構造と局所的な内容を捉える。
- 12のゲノムベンチマークにおいて,pVRは低サンプルデータセットで4つの既存手法を最大21%上回り,良好な性能を示した。
- 大規模データセットでは既存手法と同程度の結果となったが,変異の大きいSARS-CoV-2データセットでは性能が低下した。
物理を保存する制約適応のための作用素不変量としての有効次元 [stat.ML, cs.LG, cs.NA, math.NA, physics.comp-ph]目的:物理知識を組み込んだニューラルネットワークにおける制約適応の構造的理解
- 物理現象のシミュレーションにおいて,ニューラルネットワークの活用が注目されている。
- 物理知識とデータ制約を同時に満たす場合,タスク間の干渉が生じやすい。
- 有効次元を用いて,物理制約がネットワークの自由度をどれだけ制限するかを定量化する。
- 有効次元は,微分作用素のカーネルの次元に収束し,ネットワーク構造に依存しない不変量となる。
- 有効次元は,物理制約と境界条件がネットワークの自由度を吸収しているかを事前に診断できる。
- 境界適応のための部分空間投影戦略を導入し,物理知識を保持しつつ,迅速に新しい境界条件に対応可能にした。
拡散モデルは勾配のみを観測する:スコアマッチング誤差の幾何学的視点 [stat.ML, cs.LG]目的:拡散モデルにおけるスコアマッチング誤差の幾何学的構造の解明
- 拡散モデルは高品質な生成モデルとして注目されており,その理論的理解が不可欠である。
- 従来のスコア誤差は,生成分布の質を正確に反映していないという問題があった。
- スコア誤差を勾配と非発散成分に分解し,分布の質に影響を与えるのは勾配成分のみであることを示す。
- 従来のスコア誤差は,生成分布と真の分布の間のずれを正確に評価できないことが示された。
- スコア誤差の勾配成分のみに依存するKullback-Leiblerダイバージェンスの上界が導出された。
- 勾配成分の推定器が提案され,その推定値が従来のスコア誤差よりもサンプル品質と強い相関があることが実証された。
抵抗低減か報酬ハックか?報酬を得る再帰型マルチエージェント強化学習 [eess.AS, cs.CL, math.CO, cs.DM, physics.flu-dyn, cs.LG]目的:壁面乱流における抵抗低減のための強化学習エージェントの報酬最大化とその問題点
- 流体力学における抵抗低減は,エネルギー効率向上に不可欠であり,輸送効率を大きく左右する。
- 従来の強化学習では,設計意図と異なる報酬最大化が起こり,実際にはエネルギー消費が増加する可能性がある。
- 報酬の歪みを修正し,エネルギー収支内で作用する,真の抵抗低減を実現することを目指す。
- エージェント間の報酬配分に関する問題を,微分可能な投影によって解決し,正当な評価を実現した。
- 再帰型ポリシーと広範囲なセンシングにより,壁面近傍の複雑なサイクルを捉え,制御性能を向上させた。
- 真の壁面電力に基づいて報酬を算出し,エネルギー浪費を抑制し,17%の抵抗低減を達成した。
アンカーPCA [stat.ML, cs.LG, stat.ME]目的:複数ドメインのデータに対する共有低ランク埋め込みの獲得
- 多岐にわたるデータ解析において,次元削減は計算コスト削減やノイズ除去に不可欠である。
- ドメインごとに主成分が異なる場合,単純な結合によるPCAは虚偽の方向性に影響を受けやすい。
- 見えない類似ドメインでも有効な,ロバストな埋め込み空間の構築を目指す。
- アンカーPCAは,全体的な説明分散と共有・ドメイン固有埋め込み間の合意をトレードオフする。
- シミュレーションデータにおいて,最大不変部分空間を正確に復元することが示された。
- 実世界のガスセンサーデータにおいて,未観測ドメインでの分散説明力が既存手法を上回ることが確認された。
異質ドメインからの離散的因果表現:社会調査への応用を伴うベイズ的アプローチ [stat.ML, cs.LG]目的:異質データからの因果表現学習
- 多様な環境下でのデータ解析は重要であり,分布のシフトに適応する必要がある。
- 因果表現の識別可能性は研究されているが,不確実性を考慮した実用的な手法は不足している。
- 多環境データからの因果表現学習における,離散的因果概念の推論を可能にする。
- ベイズ的アプローチにより,多環境データからの因果表現学習を可能とした。
- 階層モデルと逐次モンテカルロ法を用いて,多峰性を持つ事後分布を近似した。
- 社会調査データを用いた事例研究で,文化や政治的意見といった高レベル概念と因果関係を推論できた。
濃度からの壁せん断応力再構成:微分可能な物理学と物理情報ニューラルネットワーク [physics.flu-dyn, cs.LG, physics.comp-ph]目的:濃度観測からの壁せん断応力の再構成
- 壁せん断応力は近壁輸送現象を支配し,心血管流体力学の重要な指標である。
- 正確な壁せん断応力の推定には近壁速度勾配の精密な計算が必要であり,困難を伴う。
- 濃度などの受動的スカラー場を利用し,壁せん断応力の推定を試みる。
- 微分可能な物理学フレームワークは,あらゆる測定シナリオで高精度な壁せん断応力の再構成を可能にした。
- 物理情報ニューラルネットワークは,近壁データが利用可能な場合に高い精度を達成するが,遠方場のみの測定では失敗する。
- 3D患者固有の狭窄冠動脈においても,微分可能な物理学フレームワークが物理情報ニューラルネットワークを上回る性能を示した。
量子強化された稀少事象の発見とサンプリング [quant-ph, cs.AI, cs.DS]目的:稀少事象の発見とサンプリング手法
- 金融崩壊やシステム障害など,稀な事象は社会に大きな影響を与えるため,その予測が重要である。
- 稀少事象は発生確率が低いため,十分なデータを収集するには膨大な計算資源が必要となる。
- 未知の稀少事象を効率的に発見し,古典・量子アルゴリズムの課題を克服することを目指す。
- 本研究では,事前に稀少事象を特定することなく,それらを発見・サンプリングする量子アルゴリズムを提案した。
- 提案アルゴリズムは,稀少性の閾値に対して最適な量子スケーリングを達成することを示した。
- 特に,裾が重いシステムや定常確率過程において,それぞれ2次加速と多項式加速が期待できる。
対称的発散と正規化された類似性:表現分析のための統一されたトポロジー的枠組み [stat.ML, cs.LG]目的:ニューラル表現の比較のための原理に基づいた内在的な視点
- 深層学習モデルの表現の理解は,モデルの動作原理の解明に不可欠である。
- 既存のトポロジー的発散指標は,非対称性やサンプルサイズ依存性といった問題を抱えている。
- 信頼性の高いクロスシナリオベンチマークを可能にする,堅牢で標準化された評価手法を開発すること。
- 本研究では,対称的表現トポロジー発散 (SRTD) およびその効率的なバリアント SRTD-lite を提案し,既存手法の非対称性を解消した。
- SRTD は,構造的差異の正確な局在化を可能にし,二方向計算のオーバーヘッドなしで最適化の目的関数として機能する。
- 提案する正規化トポロジー類似性 (NTS) は,階層的マージ順のランク相関を測定し,-1 から 1 の範囲に制限されたスケール不変指標を提供する。
ベイズニューラルODEにおける関数空間事前分布:船舶軌跡予測への応用 [stat.ML, cs.LG]目的:船舶軌跡予測のためのベイズニューラルODEにおける関数空間事前分布の導入
- 船舶の安全な運航や海洋環境の監視に,船舶の軌跡予測は不可欠である。
- AISデータの不規則性や欠損,複雑な動力学が,高精度な軌跡予測の課題となっている。
- 船舶の運動特性を反映した事前分布により,予測精度と不確実性評価の向上を目指す。
- 本研究では,ニューラルODEのベクトル場にガウス過程カーネルに基づく関数空間事前分布を導入した。
- これにより,ベクトル場の滑らかさや局所性を事前分布として組み込むことが可能となった。
- 提案手法は,不規則で長時間のAISデータに対しても有効であり,予測性能が向上した。
LatentWave:ワイヤレス基盤モデルのためのJEPA事前学習 [eess.SP, cs.AI]目的:ワイヤレス基盤モデルの事前学習手法
- 無線通信技術は現代社会の根幹であり,その効率化と高度化は重要課題である。
- 各ワイヤレスタスクごとにモデルを構築するのは非効率であり,汎用的な基盤モデルが求められている。
- 低レベル信号詳細への偏りを軽減し,多様なタスクへの転移性を高めることを目指す。
- LatentWaveは,Joint-Embedding Predictive Architecture (JEPA)を用いて,ワイヤレススペクトログラムとチャネル状態情報(CSI)で事前学習されたワイヤレス基盤モデルである。
- 潜空間でのマスク領域予測により,多様な下流タスクへの転移性を高めた。
- 周波数マスキングは位置特定やビーム予測に強く,領域マスキングは信号分類に有効であることが示された。
コンフォーマルリスク分担:参加保証付き費用配分保証 [stat.ML, cs.LG]目的:費用配分規則,義務上限,参加者への悪影響防止
- 稀な災害等の経済的影響を分散化することで,個人の負担を軽減し,集団全体の安定性を高めることが重要である。
- 費用配分において,一部の参加者が不利になる場合,離脱を招き,システム全体の信頼性が損なわれるという問題がある。
- 本研究は,データに基づき費用配分を最適化し,参加者全員にとって不利にならない保証された義務上限を定めることを目指す。
- 提案手法であるコンフォーマルリスク分担は,解釈可能な分担ポリシーとスプリットコンフォーマルキャリブレーションを組み合わせることで,上記問題を解決する。
- 学習データを用いて分担強度を調整し,独立したキャリブレーションデータを用いて,交換可能性の下で参加者ごとの保証を提供する。
- 合成データおよび実際のデータを用いた実験により,高リスクな参加者の義務を大幅に削減しつつ,他の参加者への悪影響を抑制できることが確認された。
良い補間器はどれくらい存在するのか [math.ST, cs.LG, math.PR, stat.TH]目的:線形分類器の補間性能の分布
- 過パラメータ化されたモデルにおける汎化性能の理解は,機械学習の重要な課題である。
- 補間器は多数存在するが,それらの汎化性能は大きく異なると考えられる。
- 補間器の汎化性能分布を明らかにし,効率的な学習アルゴリズムの優位性を示す。
- データ生成分布(ガウス混合モデル,ロジスティックモデル)の下で,補間器の汎化誤差に関する大偏差原理を確立した。
- 補間器のほとんどは,レート関数の最大化子によって与えられる近似的に同じ汎化性能を持つことが示された。
- 勾配降下法や線形計画法などの効率的な手続きは,補間器の大多数を上回る性能を示すことが数値的に確認された。
最適化されたテキスト生成のための半オフライン強化学習 [cs.FL, math.CO, cs.CL, cs.CY, cs.SI, physics.soc-ph, cs.LG, cs.AI, cs.CL]目的:最適化されたテキスト生成のための半オフライン強化学習手法
- 自然言語処理において,テキスト生成の自動化は重要な課題であり,その品質向上は不可欠である。
- 強化学習は探索に時間コストがかかる一方,オフライン学習では探索能力が制限されるという課題がある。
- オフライン学習とオンライン学習のバランスを取り,効率的な学習と高い性能の両立を目指す。
- 本研究では,半オフライン強化学習という新しいパラダイムを提案し,その理論的根拠を示した。
- 半オフライン強化学習は,最適化コスト,漸近誤差,過学習誤差の観点から最適な設定を提供する。
- 実験結果から,提案手法が既存手法と同等以上の性能を発揮することが示された。
非負ペル例Fisher因子分解によるモデルの処理戦略の解明 [cs.LG]目的:モデルの予測生成に用いられる処理戦略
- 機械学習モデルの解釈性は,モデルの信頼性と改善に不可欠である。
- モデルの内部処理は複雑で,どのような戦略で予測を行っているか不明確である。
- モデルが用いる処理戦略を明確にし,解釈可能性を高めることを目指す。
- 本研究では,非負ペル例Fisher因子分解(NPEFF)という解釈手法を提案し,モデルの予測戦略を明らかにすることに成功した。
- NPEFFは,各例におけるFisher行列を分解することで,学習されたランク1の正半定値行列として表現される成分を抽出する。
- これらの成分は,様々な言語モデルやテキスト処理タスクにおいて,モデルの処理戦略に対応することが確認された。
線形摂動損失最小化による探索 [cs.LG, stat.ML]目的:構造化確率的バンディット問題における探索手法
- 強化学習の効率的な学習には,適切な探索が不可欠である。特に,高次元な問題空間では,効率的な探索戦略が重要となる。
- 既存の探索手法では,報酬の摂動に依存する場合があり,摂動の設計が性能に大きく影響する。
- 線形摂動による損失最小化を通じて,報酬摂動の設計を改善し,より安定した学習を実現すること。
- 提案手法EVILLは,一般化線形バンディット問題において,perturbed history exploration (PHE) と等価になることを示した。
- データ依存型の摂動を導入することで,EVILLはThompson samplingと同等の性能を理論的にも実験的にも達成した。
- PHEが矛盾した推定値を生み出すケースにおいて,EVILLは優れた性能を維持することを示した。
自分自身をより良く知る:多様な物体関連特徴が開放集合認識を向上させる [cs.CV, cs.LG]目的:開放集合認識の性能向上
- 機械学習において,未知のクラス検出は重要な課題である。実環境での応用には不可欠。
- 従来の深層学習モデルは未知クラスを正しく識別できず,誤った予測を引き起こす。
- 特徴量の多様性を活用し,開放集合認識のメカニズムを解明することを目指す。
- 特徴量の多様性と開放集合認識性能の間には有意な相関関係が認められた。
- 提案手法は,標準的な評価ベンチマークにおいて最先端手法を大きく上回る性能を示した。
- 本研究は,開放集合認識における特徴量の重要性を明らかにした。
グリッドPE:任意の次元空間のためのグリッドセルに着想を得た統一的な位置埋め込み [cs.NE, cs.LG]目的:高次元空間における位置情報の埋め込み手法
- 知能システムにおいて,あらゆる次元での空間関係の理解は不可欠である。
- 既存の位置埋め込みは,ビデオ理解やロボットナビゲーションのような高次元空間タスクに対して理論的な保証がない。
- 哺乳類の空間認知におけるグリッドセルの周期的な符号化に着想を得て,高次元空間における位置埋め込みの理論的基盤を確立する。
- GridPEは,ランダムフーリエ特徴に基づき,神経科学の原理を組み込んだ効率的な埋め込みを構築する。
- 任意の翻訳不変な空間関数は,有限のフーリエ基底の和で近似できることを理論的に証明し,一次元の場合にはRoPEに帰着する。
- 様々な次元における周波数ベクトルの方向と量,および異なるスケール間の最適な比率を導出し,2D画像分類と3D点群認識で有効性を示した。
等変ニューラルネットワークの識別力 [cs.LG, cs.AI]目的:等変ニューラルネットワークの識別力の解析
- 機械学習モデルの表現力を測る上で,識別力は重要な指標である。
- モデルのアーキテクチャ選択が識別力にどのように影響するか不明確である。
- アーキテクチャやハイパーパラメータが識別力に与える影響を解明する。
- ReLUやシグモイドといった非多項式活性化関数は表現力において等価であり,最大識別力を達成する。
- 深さは一定の閾値まで識別力を向上させるが,それ以上の深さは効果がない。
- 隠れ層への不変特徴量の追加は,識別力に影響を与えない。
IDEAL:クエリに焦点を当てた要約のための大規模言語モデルの無限かつ動的な特徴の活用 [cs.CL, cs.AI, cs.CL]目的:クエリに焦点を当てた要約技術の向上
- 情報過多な現代において,必要な情報を効率的に取得する要約技術の重要性が高まっている。
- 従来の要約技術では,クエリとの関連性が低く,ユーザーのニーズに合わない場合がある。
- 大規模言語モデルの能力を活用し,クエリとの関連性が高く,長い文書に対応可能な要約を実現する。
- 提案手法は,クエリと大規模言語モデルの効率的なアラインメントを可能にするQuery-aware HyperExpertモジュールを導入した。
- さらに,長い文書の要約を可能にするQuery-focused Infini-attentionモジュールを開発した。
- 既存のクエリに焦点を当てた要約ベンチマークでの実験により,提案手法の有効性と汎用性が確認された。
FATE:焦点変調注意エンコーダによる多変量時系列予測 [cs.LG, cs.CV]目的:多変量時系列予測のための新たなTransformerアーキテクチャ
- 気候変動は21世紀における喫緊の課題であり,その監視と対策には正確な予測が不可欠である。
- 既存の時系列予測モデルは,長期間の多変量気象データにおいて,系列依存性や並列化に課題がある。
- 時系列データの空間的・時間的相関を明示的に捉え,予測性能と解釈性を向上させることを目指す。
- FATEは,ETTh1,ETTm2,Trafficなど7つの実世界データセットで,最先端手法を安定的に上回る性能を示した。
- 提案するテンソル化された焦点変調メカニズムが,時系列データの空間的・時間的相関を効果的に捉えていることが示唆された。
- FATEは,温度データセットを含む広範な多変量時系列予測タスクへの汎化性能も確認された。
逆エントロピー最適輸送がデータ尤度最大化による半教師あり学習を解決する [cs.LG, cs.AI]目的:半教師あり学習における条件付き分布の学習
- 機械学習において,条件付き分布の学習は中心的課題であり,様々な応用が存在する。
- ペアデータ取得の困難さから,ペアデータと非ペアデータの組み合わせが必要となる場合がある。
- ペアデータと非ペアデータを活用し,条件付き分布を効率的に学習することを目指す。
- 提案手法EBiEOTは,データ尤度最大化を通じてペアデータと非ペアデータをシームレスに統合する。
- EBiEOTは,逆エントロピー最適輸送(OT)と密接に関連しており,OTの計算効率を活用できる。
- 理論的に真の条件付き分布を任意に小さい誤差で復元できることが示された。
大規模言語モデルのチャネルワイズ混合精度量子化 [cs.CL, cs.AI]目的:大規模言語モデルのメモリフットプリント削減
- 大規模言語モデルは様々なタスクで成功を収めているが,メモリ消費量が課題である。
- 既存の量子化手法は整数ビット量子化に偏っており,柔軟性に欠ける。
- チャネルごとに精度を調整し,より効率的な量子化を実現する。
- 提案手法CMPQは,チャネルワイズに量子化精度を割り当てることで,低ビット条件下での柔軟な量子化を可能にする。
- CMPQは,異常値抽出技術を組み合わせることで,量子化損失を最小限に抑え,性能を向上させる。
- 9つの異なる大規模言語モデルを用いた実験により,CMPQが整数ビット量子化と混合精度量子化の両方で優れた性能を示すことが確認された。
多様なモダリティとモデルに対する包括的かつ信頼性の高い特徴帰属の解析:周波数領域からの洞察 [cs.LG, cs.AI]目的:多様なモダリティとモデルにおける特徴帰属の包括的かつ信頼性の高い解析
- 機械学習モデルの解釈可能性は,その信頼性向上や意思決定プロセスの透明化に不可欠である。
- 連合学習におけるデータプライバシー保護とモデルのパーソナライズ化の両立は困難であり,解釈可能性が求められる。
- プライバシーを保護しつつ,低コストで詳細な解釈情報を提供する手法の確立を目指す。
- 提案手法FreqXは,特徴帰属情報と概念情報を同時に提供する。
- FreqXは,概念情報を含む既存手法と比較して,少なくとも10倍高速に動作する。
- 信号処理と情報理論に基づいたFreqXは,連合学習における解釈可能性の課題解決に貢献する。
大規模システムにおけるスケーラブルな時系列異常因果関係の発見:バイナリ異常フラグデータを用いた計算効率の達成 [cs.LG, stat.ML]目的:大規模システムにおける時系列異常因果関係の発見
- システム監視において,障害診断は不可欠であり,異常因果関係の特定はその鍵となる。
- 大規模システムでは,調査対象変数が多く,既存手法の計算負荷が課題となる。
- バイナリ異常フラグデータの特性に対応し,効率的かつ正確な因果関係発見を目指す。
- 提案手法AnomalyCDは,異常データに配慮した因果性検定やデータ圧縮技術により,計算負荷を大幅に削減した。
- CERNの実験データと公開IT監視データを用いた評価により,バイナリ異常データセットにおいて計算効率と精度の向上が確認された。
- 時系列グラフィカル因果モデルの構築において,既存手法と比較して優れた性能を示した。
時間点過程の進展:ベイジアン,ニューラル,LLMアプローチ [cs.LG, stat.ML]目的:時間点過程の進展に関する研究
- イベント発生順序の分析は,医療,金融,ソーシャルメディアなど,様々な分野で重要である。
- 従来の統計モデルは表現力に限界があり,複雑な時間的パターンを捉えきれない場合がある。
- 深層学習やLLMを活用し,より柔軟かつ高精度な時間点過程モデリングを目指す。
- 本調査は,ベイジアン,深層学習,LLMの3つの観点から,時間点過程に関する近年の研究を包括的にレビューする。
- 各フレームワークにおけるモデル設計とパラメータ推定技術について詳細な議論を行う。
- 時間点過程の古典的な応用分野を再検討し,その実用的な関連性を強調する。
効率的な大規模圧縮のためのデータセット剪定と蒸留の統合 [cs.CV, cs.LG]目的:データセット圧縮の効率化
- 大規模なデータセットは深層学習モデルの性能向上に不可欠だが,計算コストやストレージ容量が課題となる。
- データセット剪定と蒸留は圧縮手法だが,それぞれ異なるアプローチを取っており,その比較・統合が不足している。
- データセット剪定と蒸留の特性を理解し,両者の利点を組み合わせた効率的な圧縮手法を開発すること。
- ソフトラベルを用いたデータセット蒸留では,ラベルの情報が有用である一方,蒸留の必要性が低下する場合があることが示された。
- 小規模なデータセットにおいては,データセット剪定がデータセット蒸留よりも優れた性能を示すことが明らかになった。
- PCAフレームワークは,ソフトラベルに依存せず,画像品質に焦点を当てたハードラベルデータセット圧縮のアプローチを提案している。
敵対的エージェント:強化学習によるブラックボックス回避攻撃 [cs.CL, eess.AS, cs.CR, cs.AI]目的:機械学習モデルに対する敵対的サンプル生成戦略
- 機械学習の安全性確保は重要であり,その脆弱性を評価し対策を講じる必要がある。
- 従来の敵対的攻撃手法は個々のサンプルに依存し,過去の経験を活かせない点が課題である。
- 強化学習を用いて,過去の攻撃経験を活かせる効率的な攻撃手法を確立すること。
- 本研究では,強化学習エージェントが敵対的サンプル生成において,最先端の手法を上回る成功率を達成した。
- エージェントは学習を通じて攻撃成功率を最大13.2%向上させ,モデルへのクエリ回数を最大16.9%削減した。
- 学習後に未知の入力に対する攻撃成功率も17%向上し,強化学習を用いた新たな攻撃経路の有効性を示した。
PC-Talk:音声駆動型顔生成における精密な表情制御 [cs.CV, cs.AI]目的:音声駆動型顔生成における表情の精密制御
- 近年,動画生成技術が発展し,リアルな人物の表現が求められている。
- 既存手法では,口の動きは再現できても,感情表現や話し方が単調になりがちである。
- 多様で自然な表情生成と,ユーザーによる細やかな制御を実現することを目指す。
- 本研究では,PC-Talkという新しいフレームワークを提案し,キーポイント変形を通じて精密な表情制御を可能にした。
- 提案手法は,単語レベルでの話し方編集や,音声の大きさに応じた口の動きの調整により,口と音声の同期精度を高めた。
- さらに,感情の強度調整や複数感情の組み合わせにより,生き生きとした感情表現の生成に成功した。HDTFとMEADデータセットで最先端の性能を達成した。
大規模言語モデルにおけるライブラリとプログラミング言語の選好に関する研究 [cs.SE, cs.AI]目的:大規模言語モデルのライブラリとプログラミング言語の選好
- コード生成AIの発展は目覚ましいが,設計選択の評価は不十分である。
- 既存の研究では,ライブラリや言語選択の妥当性に着目した評価が不足している。
- 大規模言語モデルのライブラリとプログラミング言語の選好傾向を明らかにすること。
- 大規模言語モデルは広く利用されているライブラリ(NumPyなど)を過度に利用する傾向がある。
- Pythonがデフォルト言語として強く選ばれる傾向があり,適切な言語でない場合でも選ばれやすい。
- モデルは,適合性やタスク固有の最適性よりも,慣習や人気を優先することが示唆された。
性能向上の幻想:コントラストデコーディングはMLLMにおける物体幻覚を軽減できないのか? [cs.CL, cs.AI, cs.CV]目的:マルチモーダル大規模言語モデルにおける物体幻覚の軽減
- MLLMは画像とテキストを理解するため重要であり,その性能は様々な応用を支える。
- MLLMはしばしば存在しない物体を幻覚し,その原因と対策が課題となっている。
- コントラストデコーディングの有効性に対する誤解を解き,真の解決策の探求を促す。
- コントラストデコーディングによる性能向上は,出力分布の粗雑な調整や貪欲探索に起因する。
- 性能向上が幻覚の軽減とは無関係であることが,偽の改善手法を用いた実験で示された。
- コントラストデコーディングの有効性に対する従来の認識に疑問を投げかける結果となった。
CLASH:高リスクの倫理的ジレンマに対する言語モデルの判断能力評価 [cs.CL, cs.AI]目的:高リスク倫理的ジレンマにおける多角的な視点判断の評価
- AIの倫理的判断は,社会実装において不可欠であり,人間と同等以上の能力が求められる。
- 従来の評価は日常的なシナリオに限られており,高リスク場面でのAIの判断能力は未解明であった。
- 倫理的ジレンマにおける価値観の変化や葛藤を理解するAIの能力向上を目指す。
- 強力な大規模言語モデル(GPT-5,Claude-4-Sonnet等)でも,葛藤を伴う判断は苦手であり,精度が低い。
- 言語モデルは心理的苦痛は予測できるものの,価値観の変化を捉える能力は不十分である。
- 数学やゲーム戦略で有効な認知行動は,価値判断には通用せず,新たな問題点が明らかになった。(早期コミットメント,過度なコミットメント等)
