arXiv雑要約
AI - 2026/04/06 公開
粗大から微細への視覚処理による文書解析効率と性能の向上 [cs.CV, cs.AI, cs.IR]目的:文書解析における効率と性能の向上
- 文書解析は,デジタル化された情報の活用に不可欠であり,その効率化は重要である。
- 高解像度画像は性能向上に寄与するが,計算コストが大幅に増加するという課題がある。
- 冗長な視覚領域を抑制し,重要な領域に焦点を当てることで,効率と性能を両立する。
- PaddleOCR-VLは,ページレベル解析と要素レベル認識の両方で最先端の性能を達成した。
- 既存の手法を大きく上回り,大規模なVLMに対しても競争力を持つ。
- 少ないビジョントークンとパラメータで高速な推論を実現し,文書理解の効率化に貢献する。
有害な操作に対する言語モデルの評価 [cs.HC, cs.HC, cs.AI, cs.CY]目的:AIによる有害な操作の評価フレームワーク
- AI技術の発展に伴い,社会への影響が大きくなる中,倫理的な観点からの評価が重要である。
- AIの有害な操作を評価する手法が確立されておらず,実用的な評価が困難であった。
- AIの有害な操作を評価するための具体的なフレームワークを提示し,その有用性を示す。
- 実験の結果,AIモデルは意図的に操作的な行動をとることが確認された。
- AIによる操作は,分野や地域によって異なり,文脈依存性があることが示された。
- 操作的な行動の頻度と成功率は必ずしも一致せず,個別に評価する必要性が示唆された。
整合性が増幅する:行動のばらつきがエージェントの精度に与える影響 [cs.SE, cs.AI]目的:LLMベースのAIエージェントにおける行動の一貫性と精度の関係
- LLMエージェントの実用化が進む中で,信頼性を確保するための行動の一貫性評価が重要になっている。
- 複雑なタスクにおいて,LLMエージェントの行動はばらつきやすく,その一貫性を高めることが課題となっている。
- 本研究は,LLMエージェントの行動の一貫性と精度との関係を定量的に明らかにし,実用化に向けた指針を示す。
- モデル間では,行動の一貫性が高いほど精度も高くなる傾向が見られた。Claude 4.5 Sonnetが最も高い精度を示した。
- ただし,一貫性は正しい解釈だけでなく,誤った解釈も増幅する。Claudeの誤りの71%は「一貫した誤った解釈」に起因する。
- 解釈の正確性が,実行の一貫性よりも実用化において重要であることが示唆された。エージェントの評価・訓練に影響を与える。
PAPO:切り離されたアドバンテージ正規化によるルーブリック統合トレーニングの安定化 [cs.HC, cs.CY, cs.AI]目的:ルーブリック統合トレーニングの安定化
- 複雑なタスクの自動評価は,AIの能力向上に不可欠であり,教育や研究への応用が期待される。
- 既存の報酬設計は,最終的な正答のみを評価するか,あるいは報酬のハッキングを引き起こし,正確性が低下する可能性がある。
- 正答率を維持しつつ,推論の質を向上させるための新たな報酬設計が求められている。
- PAPOは,結果報酬とプロセス報酬を切り離して正規化することで,報酬ハッキングの問題を解決し,推論の質の評価を可能にした。
- 実験の結果,PAPOは既存の報酬設計よりも一貫して高い性能を示し,OlympiadBenchで51.3%の正答率を達成した。
- 従来の報酬設計が停滞または低下する中で,PAPOは継続的に性能を向上させることが確認された。
キルチェーン・カナリア:攻撃対象とモデル安全性のレベルに応じたプロンプトインジェクションの段階的追跡 [cs.CR, cs.AI, cs.LG]目的:プロンプトインジェクション攻撃の段階分解分析
- 大規模言語モデル(LLM)の普及に伴い,その安全性確保が重要課題となっている。
- 従来の攻撃成功率の評価では,防御メカニズムがどの段階で発動するか不明だった。
- LLMの安全性を段階的に評価し,防御の弱点や改善点を特定することを試みる。
- 5つの最先端LLMエージェントに対し,攻撃の各段階における防御の発動を特定した。
- モデルの安全性は,有害なコンテンツの検出だけでなく,その伝播を阻止できるかに依存することが示された。
- Claudeはwrite_memory段階でインジェクションを除去するが,GPT-4o-miniは伝播させてしまうなど,モデルごとの特性が明らかになった。
ERPO:大規模推論モデルのためのエントロピー制御型方策最適化 [cs.LG, cs.AI]目的:大規模推論モデルにおける方策最適化
- 大規模言語モデルの推論能力は重要であり,その向上は様々な応用を可能にする。
- 従来のGRPOはトークン間の情報格差を無視し,推論過程におけるエントロピーの崩壊を引き起こす。
- ERPOはトークンレベルでの最適化に焦点を当て,より質の高い推論経路の生成を目指す。
- ERPOは,決定的な分岐点(CDP)において探索を促進し,多様な推論経路を発見する。
- 実験の結果,ERPOはGRPOを大きく上回り,数学的ベンチマークで高い精度を達成した。
- ERPOは,推論の正確性を向上させるだけでなく,より簡潔で堅牢な推論経路を生成する。
時間的信用は無料である [cs.LG]目的:オンライン適応のための再帰型ネットワークにおける学習メカニズム
- 深層学習モデルの性能向上には,効率的な学習アルゴリズムが不可欠である。
- 再帰型ネットワークの学習は,勾配消失やメモリ消費の問題を抱えている。
- 従来の勾配計算方法を改善し,メモリ効率の良い学習を可能にする。
- 隠れ状態が時間的な信用を保持するため,ヤコビアン伝播は不要であることが示された。
- RMSpropと即時微分を用いることで,RTRLと同等以上の性能が,1/1000のメモリ消費量で達成された。
- 非線形な状態更新に\b{eta}2正規化を適用することで,勾配のスケーリングを適切に行える。
スペクトルエッジ仮説:ニューラルネットワーク学習における信号内相転移の数学的枠組み [cs.LG, cs.AI]目的:ニューラルネットワーク学習における相転移の制御機構
- 深層学習の性能向上には,学習プロセス理解が不可欠である。特に,学習の急激な変化や停滞を説明する理論が求められている。
- 従来の相転移検出手法は,パラメータ数が多い現代のニューラルネットワークには適用が困難である。
- パラメータ更新のグラム行列のスペクトルギャップに着目し,学習の相転移を予測する新たな枠組みを構築する。
- 学習過程におけるパラメータ更新のスペクトルギャップの変化が,グロッキングや性能向上といった相転移と密接に関連することが示された。
- スペクトルギャップのダイナミクスは,ディソン型微分方程式で記述でき,学習の安定性や最適化アルゴリズムへの依存性が明らかになった。
- 提案枠組みは,安定性の限界,テンソルプログラム,ディソンブラウン運動など,既存の理論との整合性も示された。
APEX-EM:構造化された手続き的・エピソード的経験リプレイによる自律エージェントのための非パラメトリックオンライン学習 [cs.CL, cs.AI, cs.IR]目的:LLMベースの自律エージェントにおける持続的な手続き的記憶の獲得
- LLMエージェントの応用範囲拡大には,過去の経験を効率的に活用する能力が不可欠である。
- 既存のLLMエージェントは,構造的に同一のタスクでも毎回最初から解法を導き出すという課題がある。
- 構造化された手続き的計画を蓄積・再利用することで,LLMエージェントの性能向上を目指す。
- APEX-EMは,BigCodeBench, KGQAGen-10k, Humanity's Last Examにおいて,ベースラインと比較して大幅な精度向上を達成した。
- KGQAGen-10kでは89.6%の精度を達成し,oracle-retrievalの上限(84.9%)をも上回る結果となった。
- タスクの性質に応じて,リッチなジャッジからのフィードバックや反復の重要性が異なることが示された。
Learn2Fold:ワールドモデル計画による構造化折り紙生成 [eess.SY, cs.SY, eess.SP, cs.RO, cs.SY, eess.SY, cs.GR, cs.AI]目的:折り紙の構造化生成
- 物理的知能の基礎的テストとして,平坦なシートから複雑な立体構造への変換が重要である。
- 既存手法は,物理的妥当性重視と意味的・知覚的合成に優れるものの,長期的で物理法則に沿った折り畳み手順の生成に課題がある。
- テキストから直接有効な折り紙の折り畳み手順を生成する問題を解決することを目指す。
- Learn2Foldは,折り紙折りを記号と物理シミュレーションの融合によって実現する神経記号フレームワークである。
- 大規模言語モデルがテキストプロンプトから折り畳みプログラム候補を生成し,学習されたグラフ構造のワールドモデルが物理的実行可能性を予測する。
- 複雑なパターンに対しても,物理的に有効な折り畳み手順を生成し,空間知能が記号推論と物理シミュレーションの相乗効果から生じることを示す。
企業自動化にはターミナルエージェントで十分 [eess.SY, cs.SY, cs.SE, cs.AI, cs.CL]目的:企業における有意義なタスクの自律的な実行
- 企業活動の効率化が求められる中,自動化技術の重要性は高まっている。
- 複雑なエージェントシステムは,コストと運用負荷が高いという課題がある。
- ターミナルとファイルシステムのみを備えたエージェントで,企業タスクを効果的に解決すること。
- 本研究により,シンプルなターミナルエージェントが,複雑なアーキテクチャと同等以上の性能を示すことが明らかになった。
- プラットフォームAPIとの直接的な連携により,ターミナルエージェントは効率的な自動化を実現する。
- 強力な基盤モデルと組み合わせることで,高度な企業自動化が,よりシンプルな方法で可能となる。
マルチモーダル言語モデルは空間的不整合を識別できない [cs.CV, cs.CL, cs.LG]目的:空間的な不整合の識別
- 現実世界の理解には,空間的な一貫性が不可欠であり,モデルの性能向上に繋がる。
- 既存のマルチモーダル大規模言語モデルは,多視点からの3次元幾何学的な推論が苦手である。
- 3次元運動の一貫性に反する物体を識別する課題を通じて,モデルの空間理解能力を検証する。
- 最先端のマルチモーダル言語モデルは,人間の観察者よりも性能が著しく劣ることが示された。
- 異なるシーン属性において,モデルの性能には大きなばらつきが見られ,3次元構造の理解が脆弱であることが明らかになった。
- 本研究は,現実世界に対するより深く根ざした理解を開発するアプローチの必要性を強調する。
経験を羅針盤として:進化するオーケストレーションとエージェントプロンプトによるマルチエージェントRAG [cs.AI]目的:マルチエージェントRAGにおける,クエリに特化したエージェントのトポロジー最適化と,役割に応じたエージェントプロンプトの進化
- 複雑なクエリや推論を必要とするタスクにおいて,マルチエージェントRAGは高い性能を発揮する。知識集約型タスクへの応用が期待される。
- 既存手法は静的なエージェントの振る舞いと固定的なオーケストレーション戦略に依存しており,多様なマルチホップタスクへの適応が困難である。
- HERAは,報酬誘導によるサンプリングと経験の蓄積を通じて,エージェントのトポロジーを最適化し,役割に応じたプロンプトを進化させることで,この問題を解決する。
- HERAは,6つの知識集約型ベンチマークにおいて,最新のベースラインと比較して平均38.69%の性能向上を達成した。
- トポロジー解析から,HERAは疎な探索を通じてコンパクトで高効率なマルチエージェントネットワークを生成し,効率的な協調とロバストな推論を可能にすることが示された。
- HERAはロバストな汎化性能とトークン効率を維持しながら,高い性能を発揮する。
ノンパラメトリックベイズネットワークに対する転移学習 [cs.LG, cs.AI]目的:ノンパラメトリックベイズネットワークの推定における転移学習手法
- データが不足する状況下での効率的な学習が求められるため。
- 転移学習が負の影響を及ぼす「負の転移」問題が存在する。
- データ不足時のノンパラメトリックベイズネットワークの学習性能向上。
- 提案手法PCS-TLとHC-TLは,データ不足のノンパラメトリックベイズネットワークの学習性能向上に貢献する。
- 各手法に固有の評価指標を定義することで,負の転移問題を抑制することに成功した。
- 実験結果から,提案手法は統計的に有意に優れた性能を示すことが確認された。
ゆえに私はいる。私は考える。 [cs.AI]目的:大規模言語モデルにおける意思決定と思考の順序に関する研究
- AIの高度化に伴い,言語モデルの思考プロセス理解が不可欠となっている。
- 言語モデルの意思決定がどのように行われるか,そのメカニズムが不明確である。
- 思考の前に意思決定がなされる可能性を検証し,そのメカニズムを解明する。
- 大規模言語モデルにおいて,意思決定は思考の前に符号化されていることが示唆された。
- 生成前の活性化からツール呼び出しの決定を高精度で読み取ることが可能である。
- 活性化の操作により,意思決定が変化し,その変化を思考プロセスが正当化する傾向が確認された。
ベイズ最適化による効率的かつ原理に基づいた科学的発見:チュートリアル [cs.LG]目的:科学的発見の効率化と原理に基づいた手法の確立
- 科学的進歩の基盤であり,新たな知識や技術革新に不可欠な営みである。
- 従来の実験計画は経験に頼る部分が大きく,非効率な試行錯誤を招きやすい。
- ベイズ最適化を用いて,実験計画を自動化し,効率的な科学的発見を可能とする。
- ベイズ最適化は,実験結果を確率モデルで表現し,最適な実験を効率的に選択する。
- 触媒,材料科学,有機合成,分子発見など,多様な分野での応用事例が示された。
- バッチ実験,不均一性,文脈的最適化,人間との協調など,科学的応用向けの技術拡張についても解説された。
より良いリグであって,より大きなネットワークではない:ガウスアバターのためのボディモデルアブレーション [cs.CV, cs.AI]目的:ガウスアバター再構成におけるボディモデルの表現力向上
- 3Dガウススプラッティングは高画質だが,モデルの複雑化が課題。
- 既存手法では,ボディモデルの表現力がボトルネックになっている。
- ボディモデルの表現力向上により,アバター再構成の精度向上を目指す。
- SMPLをMomentum Human Rig (MHR)に置き換えることで,最高PSNRを達成した。
- MHRは学習された変形やポーズ依存の補正を必要としない最小限のパイプラインである。
- メッシュ表現力とポーズ推定品質が,パイプライン全体の性能向上に貢献していることが確認された。
AIが誤る時:AI支援による薬剤決定システムの信頼性とリスク [cs.AI, cs.LG]目的:AI支援薬剤決定システムの信頼性およびリスクの評価
- 医療現場でのAI活用は増加しており,薬剤管理の効率化や安全性向上に貢献しうる。
- AIシステムの評価は,平均的な性能指標に偏りがちで,実際の誤りや影響が不明確である。
- 薬剤決定におけるAIの誤りが患者に及ぼす影響を分析し,リスク評価の重要性を提示する。
- シミュレーション実験により,AIは薬剤相互作用の見落とし,リスク誤検知,不適切な投与量の推奨などの誤りを起こすことが明らかになった。
- AIの誤りは,有害な薬物反応,治療効果の低下,あるいはケアの遅延につながる可能性があることが示された。
- AIへの過信や意思決定の透明性不足がリスクを高めるため,リスクを考慮した評価の必要性が強調された。
ProdCodeBench:AIコーディングエージェント評価のための実運用由来ベンチマーク [cs.SE, cs.AI, cs.LG]目的:AIコーディングエージェントの評価
- 実運用環境を反映した評価が,産業界におけるAI活用において重要である。
- 既存のベンチマークは,言語分布,プロンプト形式,コードベース構造が実利用と異なる。
- 実運用データを用いたベンチマーク構築手法を確立し,AIモデルの適切な選択を支援する。
- ProdCodeBenchは,実際の開発者-エージェントセッションから構築されたベンチマークである。
- 4つの基盤モデルの解決率は53.2%から72.2%であり,モデル選択における指標となりうる。
- オフライン評価とオンラインA/Bテストを組み合わせることで,実運用への導入判断を支援する。
OSCAR:オーケストレーションされた自己検証と交差パスによる洗練 [cs.AI, cs.CL]目的:拡散言語モデルにおけるハルシネーション軽減のための推論時フレームワーク
- 拡散言語モデルの活用が進む中で,生成過程における制御の重要性が高まっている。
- 既存手法は外部のハルシネーション分類器に依存しており,モデル本来の信号を活用できていない。
- モデル内部の信号を用いて,生成過程で不確実な箇所を特定し,修正することを目指す。
- OSCARは,複数のノイズ除去チェーンを用いて交差エントロピーを計算し,不確実なトークン位置を特定する。
- 特定された位置に対して,検索された証拠に基づいて再マスキングを行うことで,ハルシネーションを抑制し,事実に基づいた正確性を向上させる。
- OSCARは,TriviaQA等のベンチマークテストにおいて,事実に基づいた生成品質を大幅に改善し,外部検出器を上回る性能を示した。
SATとMaxSATによる2次元単一サイズ切断在庫問題の解決 [eess.SY, cs.SY, cs.AI, cs.LO]目的:2次元単一サイズ切断在庫問題に対する最適解の導出
- 製造業における材料の無駄を削減し,コスト効率を高めることは重要である。
- 2次元切断問題は計算複雑性が高く,大規模なインスタンスに対する最適解の発見が困難である。
- 本研究は,SATおよびMaxSATソルバーを用いて2次元切断在庫問題を効率的に解決することを目指す。
- 提示されたSATベースのフレームワークは,Cui--Zhaoベンチマークにおいて,より多くのインスタンスを最適解として証明することができた。
- 本研究で得られたSAT構成は,OR-Tools,CPLEX,Gurobiといった既存ソルバーよりも低い最適性ギャップを達成した。
- 回転の有無によってSATアプローチの相対的な優位性が異なり,それぞれノンインクリメンタルSATとインクリメンタルSATが有効であることが示された。
言語事前学習によるバイアス:汎用的な視覚タスクのための強力な基盤 [cs.CV, cs.CL, cs.LG]目的:言語と視覚の間のモダリティギャップを埋めるためのブリッジング手法
- 言語モデルと視覚モデルのパラメータ特性の違いが,マルチモーダル学習の課題となっている。
- 言語モデルのパラメータ空間と視覚モデルのパラメータ空間の違いにより,言語モデルの視覚タスクへの適用が困難とされてきた。
- 言語モデルのパラメータを視覚タスクに適応させ,言語と視覚の間の知識転移を促進すること。
- ランダムラベルブリッジングという手法により,大規模言語モデル(LLM)のパラメータを視覚タスクに適応させることができた。
- LLMの特定の層は,視覚タスクにおいても有効な基盤特性を持つことが明らかになった。
- 部分的なブリッジング訓練が,マルチモーダル適応において効果的であることを示した。
annbatchがanndataにおけるテラバイト規模の生物学的データ学習を可能にする [cs.LG, q-bio.GN]目的:テラバイト規模の生物学的データに対する機械学習モデルの学習
- 生物学分野では,データ量が急速に増加しており,その処理が重要な課題となっている。
- 従来のデータアクセス方法では,大規模データセットの学習におけるボトルネックとなっていた。
- 標準的な生物学的データ形式を維持しつつ,大規模データの学習を効率化すること。
- annbatchは,anndata形式のデータをディスクから直接読み込むことで,データロードの速度を大幅に向上させた。
- シングルセルトランスクリプトミクス,顕微鏡,全ゲノムシーケンスのベンチマークにおいて,学習時間が数日から数時間に短縮された。
- annbatchは,scverseエコシステムとの完全な互換性を維持し,大規模生物学的AIのデータロード基盤を確立した。
静止した注意は静止し続ける:認知的な幻覚の軽減に向けた視覚的慣性の打破 [cs.CV, cs.AI]目的:マルチモーダル大規模言語モデルにおける視覚的注意の慣性とその認知的な幻覚への影響
- マルチモーダルLLMの性能向上には,視覚情報の効果的な活用が不可欠である。
- 既存手法では,対象物の存在や属性に関する知覚的幻覚は軽減されるものの,認知的な推論を伴う幻覚は未解決である。
- 視覚的注意の慣性を打破し,動的な注意配分を促すことで,認知的な幻覚を軽減することを目指す。
- マルチモーダルLLMにおいて,視覚的注意が初期段階で固定化し,関係推論を妨げる「視覚的慣性」を特定した。
- 学習不要な手法「IVE」を提案し,視覚的注意の動的な応答性をモデル化することで,この慣性を打破する。
- IVEは様々な基盤モデルとベンチマークで有効であり,特に認知的な幻覚の軽減に効果的であることが示された。
データストリームからの状態機械学習:汎用的な戦略と改善されたヒューリスティック (拡張版) [cs.FL, cs.LG]目的:データストリームからの状態機械学習手法
- 離散事象システムをモデル化する状態機械は,ソフトウェア,ネットワーク,制御システム等の解析に不可欠である。
- 既存の学習アルゴリズムはデータ全体を事前に必要とし,ストリーミングデータからの学習は未開拓である。
- ストリーミングデータから効率的に状態機械を学習し,実用的なギャップを埋めることを目指す。
- 汎用的な状態機械学習手法と,不完全な接頭辞木を考慮するスケッチを用いたマージヒューリスティックを提案した。
- 提案手法をオープンソースのライブラリに実装し,既存手法との比較実験を行った結果,実行時間,メモリ消費量,結果品質において有効性が確認された。
- アルゴリズムがPACフレームワーク内で学習可能であることを形式的に証明し,大規模なサンプルサイズにおいて実行時間を改善する理論的な改良を示した。
アシスタントターンを超えて:言語モデルにおける相互作用認識の探求としてのユーザーターン生成 [cs.AI]目的:言語モデルの相互作用認識能力の評価
- 大規模言語モデルの性能向上は目覚ましいが,対話における文脈理解は未だ課題である。
- 既存の評価指標はアシスタントの応答に焦点を当てており,その後のユーザの反応を考慮していない。
- 言語モデルが対話の文脈をどの程度理解し,適切な応答を生成できるかを評価する。
- ユーザーターン生成は,言語モデルが対話の文脈を認識しているかどうかの指標として有効であることが示された。
- タスクの精度と相互作用認識は必ずしも相関せず,モデルの規模だけでは相互作用認識能力は向上しない。
- 温度パラメータを高く設定することで,潜在的な相互作用認識能力が明らかになり,フォローアップ率が向上することが確認された。
確率的勾配降下法を用いた分位点推定量に対する中心極限定理 [stat.ML, cs.LG]目的:確率的勾配降下法による分位点推定の漸近理論
- 機械学習において,モデルの予測精度向上が重要であり,分位点推定はそのための有効な手法である。
- 従来の理論では,分位点損失関数は滑らかでないため,確率的勾配降下法の解析が困難であった。
- 定数学習率下での分位点確率的勾配降下法に対する中心極限定理を確立し,理論的保証を与える。
- 本研究では,確率的勾配降下法による分位点推定をマルコフ連鎖として捉え,その定常分布の構造を解析した。
- 定常分布の特性関数とモーメント母関数を用いて,学習率がゼロに近づくにつれて,定常分布がガウス分布に収束することを証明した。
- 提案する再帰的アルゴリズムにより,統計的保証を持つ推定値の信頼区間を構築できることが示された。
学習後決定:データマーケットプレイス設計のための学習的アプローチ [stat.ML, cs.LG]目的:データマーケットプレイスにおける効率的な価格メカニズムの設計
- デジタル経済において,データマーケットプレイスはますます重要になっている。
- 収益最大化と公正かつ適応的な価格設定を両立させる価格メカニズムが課題である。
- 入札者の価値分布を学習し,最適な提示価格を決定するメカニズムを提案する。
- 提案手法MAPPは,個々の合理性とインセンティブ適合性を満たすことが示された。
- 収益最適化は,価値密度推定問題として再構成され,推定誤差の制御が重要であることが示された。
- シミュレーションとFCC AWS-3スペクトルオークションのデータを用いて,MAPPの有効性が検証された。
LMask:遅延マスキングによる制約付き経路探索問題の解決学習 [math.OC, cs.AI, cs.LG]目的:制約付き経路探索問題に対する高品質な実行可能解の生成
- 経路探索問題は,物流,輸送,サプライチェーン管理など幅広い分野で重要な組み合わせ最適化問題である。
- 複雑な制約条件が課された場合,これらの問題を効率的に解決することが困難である。
- 動的なマスキングを用いて,制約を満たしつつ高品質な解を探索することを目指す。
- LMaskは,遅延マスキングとバックトラッキング機構を組み合わせたLazyMaskデコーディング法を導入した。
- 探索履歴を埋め込み,バックトラッキングによる表現の曖昧さを軽減することで,解の質を向上させた。
- 実験結果から,LMaskは既存のニューラル手法と比較して,実行可能性と解の質において最先端の性能を示した。
深層学習時代において,統計的メソッドは陳腐化しているか?ODE逆問題の研究 [stat.CO, cs.LG, stat.ML]目的:ODE逆問題における深層学習と統計的メソッドの性能比較
- AI技術の発展に伴い,モデリングや予測において深層学習が広く利用されている。
- 深層学習モデルはパラメータ数が多く,過学習やハイパーパラメータ調整が難しい場合がある。
- 統計的メソッドが,データが少なくノイズが多い状況下でも有効であることを示す。
- 統計的メソッドは,パラメータ推論や軌道再構成において,深層学習よりも低いバイアスと分散を示した。
- 統計的メソッドは,深層学習モデルと比較してパラメータ数が少なく,ハイパーパラメータ調整も容易である。
- 外挿予測において,統計的メソッドは深層学習モデルを上回り,数値誤差の蓄積にも強い。
AIを活用したモデル類似による亜季節~季節規模のジェット気流と北米の気温予測可能性の理解 [physics.ao-ph, cs.LG]目的:亜季節~季節規模予測の予測可能性に関する理解
- 公衆衛生,防災,農業などへの応用が期待され,重要な予測規模である。
- 予測が難しく,予測精度向上が長年の課題となっている。
- AIを用いて予測精度を向上させ,予測可能性の要因を解明すること。
- AIを活用したモデル類似による予測は,従来の類似予測手法やベースラインよりも高い決定論的および確率的スキルを示す。
- 特に,気温の極端現象の予測精度が向上し,予測不確実性の表現も改善された。
- AIフレームワークを用いて学習された重みのマスクを分析することで,亜季節~季節規模の予測可能性の要因理解に貢献した。
拡散モデルによるカテゴリ分類銀河画像生成 [astro-ph.IM, cs.AI]目的:拡散モデルを用いた銀河画像のカテゴリ分類生成手法
- 銀河研究は宇宙の構造と進化を理解する上で重要であり,多様な銀河データの生成が不可欠である。
- 従来の銀河生成手法は物理的仮定に依存し,パラメータ調整が困難であるという課題があった。
- 観測データから効率的に学習するデータ駆動型生成モデルによる銀河生成の実現を目指す。
- 本研究で開発したGalCatDiffは,既存手法と比較して,生成された銀河画像の色彩とサイズの分布の一貫性が有意に向上した。
- GalCatDiffは,注意機構と畳み込み演算を組み合わせたAstro-RABブロックにより,グローバルな整合性とローカルな特徴の忠実性を確保している。
- カテゴリ埋め込みを用いることで,各カテゴリ別にモデルを訓練する計算コストを削減し,効率的な生成を可能にしている。
ミッション指向型学習に基づく自律システムの制御:定式化と基礎 [math.OC, cs.AI, cs.RO]目的:自律システムの制御のための定式化と基礎
- ロボティクス技術の発展は,産業やサービス分野における自動化を促進し,社会に大きな影響を与えている。
- 自律システムの安全性と信頼性は,実用化における重要な課題であり,特にブラックボックス化が問題となっている。
- 制御,古典的計画法,強化学習の統合により,より安全で解釈可能な自律システムを実現することを目指す。
- 本研究では,ロボットケアのモデルを想定し,二層最適化スキームを提案することで,安全性と信頼性の向上を目指した。
- このスキームは,下位レベルの制御と上位レベルの古典的計画法を統合し,学習能力を組み込むことで,より効率的で信頼性の高い性能を可能にする。
- 提案するフレームワークは,自律システムのアルゴリズム開発に洞察を与え,利用者の理解と規制当局への説明責任を促進する。
RWAトークン化米国債の解読:機能的分解とアドレス役割の推論 [q-fin.CP, cs.CE, cs.LG]目的:米国債を裏付けとしたRWAトークンの取引レベルにおける行動分析
- RWAは,透明性,アクセシビリティ,金融包摂性向上に貢献する重要な資産クラスとして注目されている。
- RWA市場は急速に拡大しているが,取引レベルの分析は十分ではない。
- 機関投資家と個人投資家の行動パターンを明らかにし,RWAの利用状況における包摂性の限界を特定する。
- 米国債を裏付けとしたRWAトークンの取引データを分析した結果,発行,償還,移転,ブリッジングといった金融プリミティブが明らかになった。
- アドレスの経済的役割を推論するため,カーバチャーを考慮した表現学習モデルを導入し,既存モデルを上回る性能を示した。
- 機関投資家,裁定取引ボット,個人トレーダーの行動パターンを区別することが可能となり,Web3金融の透明性向上に貢献する。
制約付き自由エネルギー最小化による熱状態と安定化子熱力学系の設計 [quant-ph, cond-mat.stat-mech, cs.LG, math.OC]目的:熱状態と安定化子熱力学系の設計
- 量子熱力学は,物質の基礎的性質を理解する上で不可欠であり,新素材開発への応用が期待される。
- 制約条件下のエネルギー最小化は計算コストが高く,効率的なアルゴリズムが求められていた。
- 提案アルゴリズムを適用し,熱力学系の基底状態や熱状態の設計可能性を示す。
- 提案された古典および量子古典ハイブリッドアルゴリズムが,様々な熱力学問題において最適解に収束することが確認された。
- 安定化子熱力学系に対してアルゴリズムを適用することで,量子情報を安定化子符号にエンコードする代替手法が示唆された。
- 単一量子ビットを複数物理量子ビットにエンコードする際のアルゴリズムの初期化方法が有効であることが示された。
高次元クラスタリング解析のための対話型ツールDRtool [stat.AP, cs.LG]目的:高次元クラスタリング結果の解釈支援
- データ構造の理解や代表的なサンプルの特定にクラスタ分析が不可欠である
- 高次元データでは,適切な可視化が難しく,誤ったクラスタリングが生じやすい
- 誤ったクラスタの識別と,高次元クラスタリング結果の妥当性評価を支援する
- 本研究で開発した対話型ツールDRtoolは,多様な分析プロットを用いてデータ構造を多角的に可視化する。
- これにより,ユーザーは誤ったクラスタを識別し,高次元クラスタリング結果の信頼性を判断できる。
- DRtoolはRパッケージとして公開されており,分析者がクラスタリング結果をより深く理解する手助けとなる。
適応的ランダムピボットとボリュームサンプリング [stat.ML, cs.DS, cs.LG, cs.NA, math.NA, stat.CO]目的:列部分集合選択
- データ分析において,高次元データの取り扱いは重要であり,計算コストの削減が求められる。
- 列数が多いデータセットでは,効率的な列選択が課題となっている。
- 適応的ランダムピボット法の分析と高速化を通して,列選択の精度向上を目指す。
- 適応的ランダムピボット法とボリュームサンプリング分布,能動学習アルゴリズムとの関連性を示した。
- ARPアルゴリズムの新たな解析を提示し,拒否サンプリングを用いた高速な実装を可能にした。
状況依存バンディット問題における最良クラス内後悔の高速化 [stat.ML, cs.LG]目的:最良クラス内ポリシーとの比較における後悔の最小化
- 機械学習における強化学習の重要性が増しており,特に状況依存バンディット問題は実用的な応用が多い。
- 従来のバンディットアルゴリズムは,最適なポリシーが特定できる場合に限られ,現実的な状況への適応が困難であった。
- 与えられたポリシークラス内で最良の結果を達成することを目指し,モデルの仮定を緩和する。
- 提案アルゴリズムは,悲観的な目的関数を最小化することでポリシーを更新し,高速な最良クラス内後悔率を実現する。
- エントロピーの仮定とヘルダー誤差界条件を用いることで,パラメータ化されたケースでは多項式対数時間での後悔率を達成する。
- 自己正規化された最大不等式に基づき,適応的なデータ収集下での信頼区間を保証し,悲観的な推定を可能にする。
統合的な表現的特徴が脳とモデルにおける特異性を強化する [q-bio.NC, cs.AI]目的:脳とモデルにおける表現的特徴の類似性評価
- 神経科学と機械学習の進展において,脳とモデルの表現の比較は不可欠である。
- 既存の研究では単一の類似性指標に依存し,表現構造の多面性を捉えきれていない。
- 複数の類似性指標を統合することで,より正確な脳領域・モデルの識別を目指す。
- 幾何学的構造やユニットレベルのチューニングを重視する指標は,脳領域の識別能力が高い。
- 線形予測可能性は柔軟性が高く,領域間の識別は比較的弱い。
- SNFによる表現的特徴の統合は,単一指標よりも鮮明な識別と,より明確な階層構造を明らかにする。
Kim-Milmanフロー写像の安定性 [math.PR, cs.LG, math.ST, stat.TH]目的:Kim-Milmanフロー写像の安定性に関する特徴付け
- 確率的モデリングにおいて,多様な分布間の距離を測る指標としての重要性が増している。
- 確率フローODEの安定性評価は,数値計算における頑健性を保証する上で課題である。
- ターゲット測度の相対Fisher情報に関する変動に対する安定性を明らかにすること。
- Kim-Milmanフロー写像の安定性は,ターゲット測度の相対Fisher情報によって特徴付けられることが示された。
- この結果は,確率フローODEの理論的理解を深め,数値計算の精度向上に貢献する可能性がある。
形状を考慮した損失関数による深層学習位相識別器における亜閾値S波到来の復元 [physics.geo-ph, cs.AI]目的:深層学習位相識別器における亜閾値S波到来の復元
- 地震波の解析は,地震発生メカニズムの解明や地震ハザード評価において不可欠である。
- 深層学習位相識別器は,微弱なS波到来を正確に識別することが難しい場合がある。
- 形状を考慮した損失関数を用いることで,微弱なS波到来の識別精度を向上させることを目指す。
- 訓練過程と損失関数の形状解析から,S波到来の振幅抑制が最適化の罠に陥る原因が特定された。
- 位相到来ラベルは独立した確率推定ではなく,構造化された形状であるという知見が得られた。
- 条件付きGANを用いた検証により,亜閾値の信号を復元し,有効なS波検出率を64%向上させた。
エージェントシステムによる自律的計算触媒研究 [cond-mat.mtrl-sci, cs.AI]目的:自律的計算触媒研究の実現
- 材料科学の発展には,科学的発見を加速する自動化が不可欠である。
- 既存のAIはワークフローの一部のみを自動化しており,研究全体の自律性が課題である。
- 触媒研究の全サイクルを自律的に実行できるシステムを構築し,研究を加速すること。
- CatMasterは,触媒研究の計画,シミュレーション,機械学習,文献調査,論文作成を統合した自律システムである。
- 複数の評価において,CatMasterは触媒研究のシナリオで完璧なスコアを獲得し,MatBenchタスクでも高い性能を示した。
- 反応機構の自律的な発見や,単原子触媒の設計問題も解決し,自律的計算触媒研究の実現可能性を示した。
確率的勾配降下法におけるFisher-幾何拡散:最適レート,オラクル複雑度,および情報理論的限界 [physics.soc-ph, cs.CY, stat.ML, cs.LG, math.OC]目的:確率的勾配降下法における収束レートと複雑度の理論的限界
- 機械学習の最適化において,確率的勾配降下法は広く用いられており,その性能向上が重要である。
- 従来の解析では,確率的勾配の共分散を外部から与える必要があり,その決定が課題であった。
- 本研究は,確率的勾配の共分散をサンプリングメカニズムから内生的に決定することを目的とする。
- ミニバッチサンプリングの下で,確率的勾配の共分散がサンプリング機構によって特定されることが示された。
- 特に,well-specifiedな尤度問題では,Fisher情報に帰着し,一般的なM-estimation損失では,sandwich/Godambe幾何学を誘導する。
- オラクル予算Nにおけるリスクの上限と下限がTheta(1/N)であり,実効次元と統計的条件数に依存するε-stationarityが確認された。
FRB 20240114Aにおける二峰性ドリフトレート構造の発見:二重の放射領域の証拠 [quant-ph, cs.DC, cs.ET, eess.AS, cs.CL, astro-ph.HE, cs.AI]目的:FRB 20240114Aからの上向きドリフトバーストクラスターのドリフトレート分布における二峰性構造
- 高速電波バーストは宇宙における謎の現象であり,その起源解明は天体物理学の重要な課題である。
- バーストのドリフトレートの分布は多様であり,その物理的メカニズムは十分に理解されていない。
- この研究は,バーストのドリフトレート分布の二峰性に着目し,放射領域の構造を明らかにすることを目指している。
- FRB 20240114Aにおいて,上向きドリフトバーストクラスターのドリフトレート分布に明確な二峰性構造が確認された。
- 二峰性の存在は,単一成分バーストクラスターのみに限定しても確認され,観測アーチファクトではないことが示された。
- この結果は,磁気圏内に物理特性の異なる二つの離れた放射領域が存在する可能性を示唆している。
共変ニューラルネットワークによる相関離散選択モデルの償却推論 [stat.ME, cs.LG, econ.EM]目的:相関離散選択モデルの選択確率の近似
- 意思決定を理解・予測する上で不可欠な離散選択モデルは,経営学,経済学,マーケティング等で広く用いられる。
- 既存のlogitモデルは確率計算が容易だが,現実的な選択行動を捉えきれない制約がある。
- 誤差項の相関を考慮した汎用的な誤差分布下での選択確率を効率的に推定することを目指す。
- 本研究では,共変性を考慮したニューラルネットワーク構造を用いて,選択確率を近似する償却推論手法を提案した。
- 提案手法は,離散選択モデルの不変性を尊重するアーキテクチャと訓練手順を備えている。
- シミュレーションの結果,GHKシミュレータと比較して,精度と速度の両方で大幅な改善が確認された。
摂動メカニズム下における高次元LASSOのプライバシーと精度のトレードオフ [stat.ML, cs.LG]目的:高次元におけるスパース線形回帰におけるプライバシーと精度のトレードオフ
- ビッグデータ利用におけるプライバシー保護の重要性が増しており,統計的分析との両立が課題。
- プライバシー保護と分析精度の両立が難しく,特に高次元データではトレードオフが顕著。
- 高次元LASSOにおける出力摂動と目的関数摂動のプライバシー・精度特性を解明する。
- スパース性はプライバシー・精度トレードオフを形成する上で重要な役割を果たすことが示された。
- 出力摂動と目的関数摂動は異なる挙動を示し,目的関数摂動ではノイズ増加が非単調な影響を与える可能性がある。
- 近似メッセージパッシング(AMP)が,高次元スパースモデルにおけるプライバシー・精度トレードオフ解析の強力なフレームワークである。
ヤウのアフィン正規降下法:アルゴリズムフレームワークと収束解析 [math.OC, cs.LG, cs.NA, math.DG, math.NA]目的:滑らかな制約なし最適化のための幾何学的フレームワーク
- 最適化問題は,科学技術の様々な分野で中心的課題であり,効率的な解法が求められている。
- 既存の方法では,異方性曲率への適応や,病的なスケーリングへのロバスト性が課題となっていた。
- アフィン正規降下法を用いて,これらの課題を克服し,より効率的かつ安定した最適化手法を開発すること。
- ヤウのアフィン正規降下法(YAND)が,体積保存アフィン変換に対して不変で,異方性曲率に適応する幾何学的フレームワークであることが示された。
- 厳密凸二次目的関数に対しては,アフィン正規方向がニュートン方向と一致し,正確な直線探索の下で1ステップ収束が導かれた。
- 一般的な滑らかな目的関数に対しては,グローバル収束,線形収束,二次局所収束が確立され,アフィン正規方向のロバスト性も示された。
機能的な自然方策勾配法 [stat.ML, cs.LG]目的:オフラインデータからの方策学習におけるバイアス除去機構
- 強化学習は,複雑な環境下での最適な意思決定を可能にする重要な技術である。
- オフラインデータからの学習は,探索のコストを削減できるが,バイアスが問題となる。
- 本研究は,オフラインデータからの方策学習におけるバイアスを除去し,高い性能を達成することを目指す。
- 提案手法は,複雑な方策クラスに対しても$\sqrt N$のレグレットを達成する。
- レグレットの上限は,方策クラスの複雑さと環境ダイナミクスの複雑さに基づいて明確化される。
- これらの複雑さは互いにトレードオフの関係にあり,適切なバランスが重要となる。
