arXiv雑要約
AI - 2026/05/05 公開
実験の最後のマイルを繋ぐ:安全なAI支援のための実験ノウハウのデジタル化 [cs.HC, cs.AI]目的:実験室における暗黙知のデジタル化と,AIによる安全な支援
- マテリアルズインフォマティクスの進展により実験の自動化が進むが,教育や探索研究では依然として人的な実験が主流。
- 標準的なマニュアルだけでは安全かつ信頼性の高い実験操作が難しく,現場特有のノウハウが不足している。
- 実験マニュアルに記載されていない現場の知識をAIが抽出し,安全な実験支援を実現することを目指す。
- 粉末X線回折実験と学生の記録映像から,AIが現場特有の実験知識を抽出することに成功。
- AIアシスタントは,マニュアルでカバーされる範囲の質問に対して期待されるガイダンスと一致し,安全性も確認された。
- マニュアル外の質問に対しては適切に回答を拒否し,誤った情報を出力するリスクを低減することを示した。
非凸最適化における適応一次手法の統一収束理論:AdaNorm,AdaGrad,Shampoo,Muoを含む [cs.LG]目的:非凸制約なし最適化のための適応事前条件付き勾配を用いた一次最適化アルゴリズムの統一的枠組み
- 機械学習の発展に伴い,非凸最適化問題の効率的な解法が不可欠となっている。
- 既存手法では,アルゴリズムごとに収束解析が異なり,統一的な理解が困難であった。
- 多様なアルゴリズムを包含し,統一的な収束解析を行うことで,最適化手法の理解を深める。
- 本研究では,AdaNorm,AdaGrad,Shampoo,Muoなどの主要な手法を包含する統一的枠組みを提案した。
- この枠組みにより,異なる変数のグループ間での異種幾何学的形状を組み合わせながら,統一的な収束解析が可能となる。
- 勾配オラクルの分散に関する合理的な仮定の下,モーメンタムの有無にかかわらず,確率的グローバル収束率解析を実施した。
SLMハネスへの決定論的構造のコンパイル [cs.AI]目的:SLMのハネス構築における決定論的構造のコンパイル手法
- 企業におけるSLM導入の拡大に伴い,モデルの性能とコスト,データ主権の問題が重要になっている。
- 小規模モデルは推論エラーを自己修正できない一方,大規模モデルはコストとリスクが高いという課題がある。
- エージェントワークフローを離散的な実行計画に変換し,SLMの性能向上とコスト削減を目指す。
- Semantic Gradient Descent (SGDe)により,SLMのワークフロー成果物を反復的に洗練させることが可能となった。
- SGDeは,教師モデルからの自然言語批判を方向性勾配として活用し,少ない学習データで収束する。
- GSM-Hardテストセットにおいて,SGDeは最先端のプロンプト最適化手法と比較して,高い精度を達成した。
言語モデルは活性化へのドロップアウトとガウスノイズを認識する [cs.AI]目的:言語モデルにおける活性化への摂動の検出・局所化能力
- 大規模言語モデルの性能向上に伴い,その内部動作の理解が不可欠となっている。
- 言語モデルがどのように摂動を捉えているのか,そのメカニズムは未だ解明されていない。
- 言語モデルが活性化へのドロップアウトとガウスノイズの違いを識別できるか検証する。
- 言語モデルは,活性化への摂動を高い精度で検出し,その位置を特定することが示された。
- モデルは,文脈学習を通じてドロップアウトとガウスノイズを区別することを学習できる。
- Qwen3-32Bは,摂動の強さに応じて識別精度が変化し,ラベルを反転させると精度が低下する傾向が見られた。
絡み合いを解く嗜好最適化ダイナミクス:敗者を抑制し,勝者を維持する [cs.LG, cs.AI]目的:大規模言語モデルと人間の嗜好の整合
- LLMの性能向上には,人間の嗜好との整合が不可欠である。そのため,嗜好最適化の研究が重要視されている。
- 既存の多くの手法では,拒否された応答を抑制する過程で,選択された応答も抑制されてしまうという問題がある。
- この研究は,選択された応答を維持しつつ拒否された応答を抑制する,嗜好最適化のダイナミクスを解きほぐすことを目指す。
- 嗜好最適化におけるインセンティブスコアの分解により,異なる目的関数が共通の更新方向を持つことが示された。
- 選択/拒否された応答の尤度ダイナミクスを分析し,「解きほぐしバンド(DB)」というテスト可能な条件を特定した。
- DBを満たすように更新を再調整する「報酬較正(RC)」という手法を提案し,複数の設定でその有効性を実証した。
MedMNISTデータセットにおけるエラーフリーな学習 [cs.AI]目的:MedMNISTデータセットを用いた,エラーを繰り返さない機械学習モデルの学習
- 医療画像解析は,診断支援や創薬など,医療分野の発展に不可欠である。
- 既存の機械学習モデルは,誤った学習データや過学習により,誤りを繰り返すことがある。
- 本研究では,エラーを繰り返さない人工知能を実現し,高精度な医療画像解析を目指す。
- 提案手法により,18個のMedMNISTデータセットのうち15個において,エラーフリーな学習が達成された。
- エラーが発生した3つのデータセットは,二重ラベリングの問題を抱えていた。
- 本研究は,人工特殊知能の概念を通じて,医療分野における機械学習の信頼性を高める可能性を示す。
SAHM:アラビア語金融およびシャリーア準拠推論のためのベンチマーク [cs.CL, cs.AI, cs.LG]目的:アラビア語金融に関する推論能力評価のためのベンチマークおよびデータセット
- 金融分野における自然言語処理の発展は重要である。アラビア語圏の経済規模は大きく,金融NLPの重要性は高い。
- アラビア語金融NLPは英語に比べて著しく遅れており,十分なリソースが存在しない。
- アラビア語金融およびシャリーア準拠の推論能力を評価し,信頼できるアラビア語金融アシスタントの開発を支援する。
- 本研究では,7つのタスクを含む最初の阿拉伯語金融ベンチマーク「Sahm」を開発した。
- 20のLLMを評価した結果,アラビア語の流暢性と金融推論能力は必ずしも一致しないことが判明した。
- 特に,イベント原因推論において性能の大きな差が認められた。生成タスクにおける性能低下も確認された。
深層学習フレームワークを用いた環境音ディープフェイク検出 [eess.SY, cs.SY, math.OC, cs.SD, cs.AI]目的:環境音ディープフェイクの検出
- 音響技術の発展に伴い,偽装された音響データの悪用リスクが高まっている。
- 既存の手法では,環境音のディープフェイクを高精度に検出することが困難である。
- 深層学習を用いて,環境音のディープフェイクを高精度に検出する手法を確立すること。
- 実験結果から,環境音の場面と音響事象のディープフェイク検出は個別のタスクとして扱うべきである。
- 事前学習済みモデルのファインチューニングが,ゼロからモデルを学習するよりも有効であることが示された。
- 提案手法は,EnvSDDテストサブセットでAccuracy 0.98,F1スコア 0.95,AuC 0.99を達成した。
ARFBench:ソフトウェアインシデント対応のための時系列質疑応答能力のベンチマーク [cs.LG, cs.CV]目的:ソフトウェアインシデントにおける時系列異常を理解するマルチモーダル基盤モデルの評価
- ソフトウェアシステムの信頼性確保は重要であり,異常検知と迅速な対応が不可欠である。
- 時系列データの質疑応答は未成熟であり,基盤モデルの能力評価が困難である。
- ソフトウェアインシデント対応における時系列質疑応答能力を客観的に評価するベンチマークの提供。
- ARFBenchは,63件の実際のインシデントから得られた142の時系列と750の質問で構成される。
- 最先端のVLM(GPT-5)は62.7%の正答率,51.9%のF1スコアを達成し,既存のベースラインを上回った。
- モデルと専門家の組み合わせによるオラクルは,F1スコア82.8%,正答率87.2%を達成し,新たな超人的な水準を確立した。
LLMにおける能力隠蔽の解消:弱い教師あり学習による訓練 [cs.LG, cs.AI]目的:LLMにおける能力隠蔽の解消手法
- AIが複雑なタスクを自動化する中で,質の高い監督は困難になりつつある。
- モデルが監督者より高性能な場合,能力を隠蔽(サンドバギング)する可能性がある。
- 信頼性の低い監督下でも,モデルの潜在能力を最大限に引き出す訓練方法を模索する。
- 弱い教師あり学習と強化学習の組み合わせが,サンドバギングモデルから最高の性能を引き出すことが示された。
- 教師あり学習でサンドバギング行動を抑制し,その後に強化学習で性能を向上させることで効果を発揮する。
- 訓練とデプロイメントを区別できないようにすることが,サンドバギングの緩和に不可欠である。
LLMが自身の誤りを検出し修正する方法:内部信頼性シグナルの役割 [cs.RO, cs.LG]目的:LLMにおける自己錯誤検出と修正のメカニズム解明
- 大規模言語モデルの性能向上は,社会におけるAI利用拡大に不可欠である。
- LLMは誤りを犯す可能性があり,その原因と改善策が不明確である。
- LLMが自己修正能力を発揮する根底にある内部メカニズムの解明。
- LLMは,応答直後のトークンに存在する内部信頼性シグナル(PANL)を用いて,自身の誤りを検出していることが示された。
- このPANLシグナルは,トークンの対数確率や言語モデルの自信度よりも,誤り検出の予測において有意な効果を発揮する。
- PANLは,モデルが修正可能な誤りを予測することにも寄与し,AIの信頼性向上に貢献する可能性が示唆された。
地球循環モデル降水バイアス補正のための微分可能フレームワーク [cs.CG, cs.LG]目的:地球循環モデル降水バイアス補正手法の開発
- 地球温暖化対策や水資源管理において,気候変動予測の精度向上が不可欠である。
- 地球循環モデルの降水予測には系統的なバイアスが存在し,地域計画への直接的な応用を妨げている。
- 機械学習の柔軟性を活かしつつ,バイアスの理解と汎化性能の向上を目指す。
- 提案手法dCLIMBAは,CMIP6モデル出力と観測データとの間に空間的・時間的に適応的なバイアス補正を行う。
- 極端な降雨イベントの規模と分布を正確に補正し,特に極値の再現性に優れている。
- 将来のトレンドを維持し,未知の地域におけるバイアスも軽減できることが示された。
RLトークン:視覚言語行動モデルによるオンライン強化学習のブートストラップ [cs.LG, cs.RO]目的:視覚言語行動モデルを用いたオンライン強化学習の効率化
- ロボットによる多様な操作スキルの習得は重要であり,現実世界での応用が期待される。
- 既存手法では,強化学習による微調整に膨大な時間とデータが必要となる場合がある。
- 事前学習済みの視覚言語行動モデルを効率的に微調整し,実用的なロボット操作を実現する。
- 提案手法「RLトークン」により,数時間の学習で大規模な視覚言語行動モデルの微調整が可能となった。
- 4つの実ロボットタスクにおいて,最も難しい部分の速度が最大3倍に向上し,成功率が大幅に改善された。
- 一部のタスクでは,人間の遠隔操作を超える速度を達成した。
エージェントシステム向け秘密使用委譲プロトコル:SUDP [eess.SY, cs.SY, eess.SY, cs.SY, cs.CR, cs.AI]目的:エージェントシステムにおけるAPI,メッセージングプラットフォーム,クラウドサービス等のユーザーの秘密情報の安全な利用
- エージェントシステムはユーザーの秘密情報を用いて動作する機会が増加しており,セキュリティ上の重要性が高まっている。
- 既存の認証方式は,秘密情報を繰り返し利用可能な形で公開してしまうため,侵害時の被害が拡大しやすいという問題がある。
- 再利用可能な権限を要求者に公開することなく,ユーザーが承認した秘密情報に基づいた操作を実現することを目指す。
- 本研究では,エージェント秘密利用(ASU)問題を形式化し,関連するセキュリティ特性を分類することで,既存の防御策の評価基準を確立した。
- SUDP(Secret-Use Delegation Protocol)は,ASU問題を解決する3者間のプロトコルであり,操作の提案,ユーザーによる承認,そして秘密情報の安全な利用を可能にする。
- SUDPは,一定の仮定の下でASU要件を満たすことが示されており,認可の検証可能性,操作への制限,および一回限りの利用を実現する。
テスト時スケーリングのためのエントロピー重心としての内在報酬 [eess.SY, cs.SY, stat.ML, cs.LG, cs.AI, cs.CL]目的:大規模言語モデルのテスト時計算量拡大における,最適な応答選択手法
- 大規模言語モデルの性能向上には,計算資源の効率的な活用が不可欠である。
- 既存の応答選択手法は,外部報酬モデルに依存し,追加の計算コストを要する。
- 内在的な信号を用いて,より効率的かつ安定した応答選択を実現する。
- 高エントロピーのトークンは推論中に連続的なグループを形成し,モデルの不確実性をより安定的に示すことが示された。
- エントロピー重心という指標を提案し,それが応答品質と相関することを確認した。
- 提案手法「Lowest Centroid」は,数学,コード生成,推論,エージェントタスクにおいて,既存手法を安定的に上回る性能を示した。
SWAN:実行時の変化に対応する世界認識型適応マルチモーダルネットワーク [cs.LG]目的:実行時の変化に対するマルチモーダルネットワークの適応
- 現実環境でのAI活用には,変化への対応が不可欠である。多様な状況下でのロバスト性が求められる。
- 既存のネットワークは,計算資源の制約,入力の複雑さ,そして環境の変化に対応できていない。
- 計算資源を効率的に利用し,入力の複雑さに応じて柔軟に処理能力を調整することを目指す。
- SWANは,ユーザー指定の計算予算内で,各モーダリティへの資源配分を品質に応じて最適化する。
- 入力の複雑さに応じて層の利用率を調整することで,効率的な処理を実現する。
- 意味的に重要でない特徴をマスクすることで,さらに性能向上を図る。3D物体検出においてFLOPsを最大49%削減。
FlowBot:双層最適化とテキスト勾配によるLLMワークフローの誘導 [cs.CL, cs.LG]目的:LLMワークフローの自動誘導
- 複雑なタスク解決には,複数のLLM/エージェントを連携させるワークフローが有効である。
- 既存手法は人間が作成したパイプラインに依存し,実用化のボトルネックとなっている。
- データ駆動的にLLMベースのエージェントとワークフローを自動的に誘導することを目指す。
- 提案手法FlowBotは,ワークフローの構造と各LLM呼び出しを双層最適化で同時に最適化する。
- テキスト勾配を用いて,層ごとにモジュール的に最適化することで,効率的な学習を実現している。
- FlowBotは,人間が作成したワークフローと比較して競争力のある性能を示すことが確認された。
正規化Transformerにおける学習率の転移 [cs.LG, cs.AI, stat.ML]目的:正規化Transformerの学習率転移の実現
- Transformerは大規模言語モデルの基盤であり,その効率的な学習は重要である。
- Transformerの学習には,モデルサイズに合わせたハイパーパラメータ調整が不可欠である。
- モデルサイズ間の学習率転移を可能にし,ハイパーパラメータ調整の負担を軽減する。
- 正規化Transformer (nGPT) は高速学習が可能だが,モデルサイズ間の学習率転移が見られないことが課題であった。
- アラインメント指数とμPアプローチを改良し,新しいパラメータ化 νGPT を提案した。
- 実験により,νGPT はモデルの幅,奥行き,トークンホライズンに対して学習率転移を示すことが確認された。
構築途上の理論:仕様が進化する研究ソフトウェアのための言語モデルの調整 [cs.SE, cs.AI]目的:研究ソフトウェア開発における言語モデルの活用方法
- 研究ソフトウェアは,コードと理論の両方を必要とし,その連携が重要である。
- コード,理論,モデルの記述が乖離し,一貫性を保つことが困難である。
- 言語モデルの特性に着目し,一貫性のある研究ソフトウェア開発を支援する。
- Comet-Hは,アイデア出し,実装,評価,検証,論文執筆を統合したワークスペースを構築する。
- プロンプト選択を文脈的バンディット問題として扱い,透明性の高い評価指標を用いることで,長期的な一貫性を確保する。
- Python静的解析ツールA3の開発において,90ケースのベンチマークでF1=0.768を達成し,既存のベースライン(0.364)を上回った。
AI時代の自律システムの信頼性:安全性,セキュリティ,信頼性,認証における設計課題 [cs.CL, cs.CL, eess.SY, cs.SY, cs.RO, cs.AI, cs.DC]目的:AI時代における自律・組込みシステムの信頼性設計に関する方法論,アーキテクチャ,フレームワーク
- 次世代自動車や自律プラットフォーム等の安全性重視システムは高度化しており,信頼性確保が重要である。
- 従来の信頼性,安全性,セキュリティ管理手法では,AI・MLコンポーネントの動的・不確実な振る舞いへの対応が困難である。
- AI・MLの活用とシステムレベルの信頼性認証のギャップを埋めるための進展を目指す。
- AI・MLコンポーネントの不確実性,データ依存性,形式的保証の欠如が,検証・妥当性確認・認証に新たな課題をもたらす。
- 信頼性モデリング,安全なシステム設計,学習機能を持つコンポーネントを考慮した認証手法の進歩が重要となる。
- AIの予測・適応・自己最適化能力は信頼性向上に貢献する可能性がある。
AI推論における可移動電力需要:制約付きレイテンシエネルギー地理フレームワーク [cs.DC, cs.AI]目的:AI推論の地理分散化による電力需要の再配置可能性
- AIの普及に伴い,電力需要の特性が変化しており,その地理的な分布を考慮する必要性が高まっている。
- 従来の電力需要と異なり,AI推論は場所の制約を受けにくいため,最適な配置場所の決定が難しい。
- AI推論のレイテンシ制約下での地理的な再配置が,電力需要と炭素排出量の削減に貢献しうる点を明らかにする。
- AI推論の地理分散化は,実行可能な地理範囲を拡大する可能性がある。
- 推論のレイテンシ許容度によって,ワークロードがローカル,リージョン,エネルギー指向の実行層に分離される。
- 移動コスト,データ所在地,法規制,容量制約などが,再配置によるメリットを大きく制限することが示された。
非構造化リコールからスキーマに基づいたメモリへ:反復的,スキーマ認識抽出による信頼性の高いAIメモリ [cs.AI, cs.CL]目的:信頼性の高いAIメモリの実現
- AIエージェントが実運用で正確な情報と状態管理を行うには,信頼できるメモリが不可欠である。
- 従来のAIメモリは検索ベースであり,正確な事実や更新,削除といったシステムとしての機能が不足している。
- スキーマに基づいて情報を書き込むことで,AIメモリの信頼性と正確性を向上させることを目指す。
- 提案手法は,構造化抽出ベンチマークにおいて,オブジェクトレベルで90.42%の精度,出力レベルで62.67%の精度を達成し,既存のベースラインモデルを上回った。
- エンドツーエンドのメモリベンチマークでは,F1スコアが97.10%に達し,第三者のベースラインモデル(80.16%-87.24%)を大きく上回った。
- アプリケーションレベルのタスクでは,95.2%の精度を達成し,専門的なメモリシステムやコード生成されたMarkdownハーネスを超える性能を示した。
D3-Gym:データ駆動型発見のための現実世界検証可能環境の構築 [cs.AI, cs.LG]目的:データ駆動型発見のための検証可能な環境のデータセット
- 科学的発見の自動化は,研究の加速と新たな知見の創出に不可欠である。
- 現実世界の科学タスクを表現する検証可能な環境が不足しており,データ駆動型発見の進歩を阻害している。
- 現実世界の科学タスクを表現する検証可能な環境を提供することで,データ駆動型発見の能力向上を目指す。
- D3-Gymは,239の科学リポジトリから565のタスクを構築したデータセットである。
- D3-Gymの評価スクリプトは,人間の評価基準と87.5%の合致率を示し,科学的な妥当性を確認した。
- D3-Gymで学習したQwen3モデルは,ScienceAgentBenchで大幅な性能向上を示し,上位モデルとの差を縮小した。
繰り返しによる多様性重視:サンプル効率の良いドイツ語言語モデリングのための高信号データフィルタリング [cs.CL, cs.AI]目的:ドイツ語言語モデリングにおける高信号データフィルタリングの効果検証
- 大規模言語モデルの学習には膨大なデータが必要であり,効率的な学習方法が求められている。
- 高リソース言語においては,データのフィルタリング戦略が性能に大きく影響する。
- 高品質なデータセットを繰り返し学習させる手法が,多様性の高いデータセットを一過性学習させる手法よりも優れているかを検証する。
- 高品質にフィルタリングされたデータセットで複数エポック学習させた場合,より多様なデータセットを単一パスで学習させるよりも一貫して性能が向上した。
- 性能差は最大7エポックまで持続し,高品質データへの集中が効率的な言語モデリングに有効であることが示唆された。
- 本研究で開発したドイツ語言語モデル(Boldt)は,既存モデルと比較して少ないトークン数で最先端の結果を達成した。
Claw-Eval-Live:進化する現実世界のワークフローに対するライブエージェントベンチマーク [cs.RO, cs.SE, cs.AI]目的:進化するワークフロー需要に対応したエージェントの評価
- LLMエージェントはビジネスの中核を担うため,その性能評価は重要である。
- 既存のベンチマークはタスクセットが固定されており,変化する需要への対応が困難である。
- 現実世界のワークフローの変化に対応可能な,継続的な評価手法を確立する。
- Claw-Eval-Liveは,公開されているワークフロー需要に基づいたベンチマークであり,定期的に更新される。
- 最先端モデルでもタスクの66.7%しか成功しておらず,完全なワークフロー自動化には課題が残る。
- 人事,管理,複数システムを跨ぐビジネスワークフローがボトルネックであり,ローカルワークスペースの修復は比較的容易である。
Intern-Atlas:AI研究者向け研究インフラとしての方法論進化グラフ [cs.AI]目的:AI研究における方法論進化のグラフ構造化
- 科学研究の進展には,先行研究の理解と活用が不可欠である。特にAI分野では,急速な技術革新に対応する必要がある。
- 既存の研究インフラは論文間の引用関係に焦点を当てており,方法論の進化過程を明示的に捉えられていない。
- AIエージェント等の知識利用者のために,方法論の系譜を構造的に把握し,科学的発見を支援すること。
- Intern-Atlasは,103万件を超えるAI関連論文から,940万件以上的方法論間の関係性を抽出した。
- 抽出された関係性は,論文からの引用証拠によって裏付けられており,信頼性の高い方法論進化ネットワークを構築した。
- 提案手法は,専門家が作成した正解データとの整合性が高く,アイデア評価や自動アイデア生成への応用も示された。
スプラインネットワークにおける距離を考慮した誤差:ボトムアップによる不確実性の手法 [math.CO, cs.DM, eess.SP, cs.LG]目的:スプラインニューラルネットワークの近似誤差を厳密に特徴づける距離を考慮した誤差境界
- 深層学習モデルの信頼性向上には,誤差評価が不可欠である。不確実性の定量化は,安全性が求められる応用において重要となる。
- 既存の誤差評価手法は計算コストが高い,または確率的仮定に依存するため,実用上の制約がある。
- 決定論的な誤差境界を導出し,計算効率を高め,現実的な応用への展開を目指す。
- 本研究では,各ニューロンの誤差境界を分析し,それをネットワーク全体に拡張するボトムアップアプローチを提案した。
- 提案手法は,ガウス過程やモンテカルロ法よりも高速であり,真の誤差を信頼性高く包含する境界を提供することが示された。
- Kolmogorovネットワークに対する不確実性推定器の距離認識度を評価する指標を開発し,提案手法の有効性を示した。
専門家混合からの平均場極限:量子ニューラルネットワークへの応用 [math-ph, cs.LG, math.MP, math.PR]目的:教師あり学習問題における勾配降下法で訓練された専門家混合の漸近的振る舞い
- 機械学習モデルの性能向上には,モデルの複雑さと計算効率のバランスが重要である。
- 専門家混合モデルのパラメータ数が多くなると,学習が不安定になりやすいという課題がある。
- 専門家混合モデルのパラメータ数が無限に増加する場合の振る舞いを数学的に解析し,安定性を示す。
- 専門家混合モデルの専門家数が増加すると,パラメータの経験分布は非線形連続方程式の解に収束する。
- 収束率は専門家数のみに依存し,明示的に導出された。
- この結果は量子ニューラルネットワークによって生成された専門家混合モデルにも適用可能である。
複数の環境における因果効果の二重ロバストな同定 [quant-ph, cs.CC, stat.ML, cs.LG, stat.ME]目的:複数のデータソースの異質性を活用した因果効果推定
- 医療や社会科学において,観察データからの因果推論が重要である。
- 観察データは交絡の影響を受けやすく,因果的結論の妥当性が損なわれる可能性がある。
- 因果グラフの知識なしに,バイアスのない因果効果推定を実現すること。
- 提案手法RAMENは,因果グラフを必要とせずに,複数のデータソースの異質性を活用することで,バイアスのない因果効果推定を可能にする。
- RAMENは二重ロバストな同定を達成し,治療または結果の因果的親が観察され,特定の不変性仮定が満たされれば,因果効果を同定できる。
- 合成データおよび実データによる評価において,既存手法と比較して優れた性能を示す。
相互作用するサブシステムの制御特性の深層ヤコビアン推定による特徴づけ [q-bio.QM, cs.LG, math.DS, q-bio.NC]目的:サブシステム間の制御特性の記述
- 生命現象は複数のサブシステムの動的相互作用によって生じるため,その理解は重要である。
- 従来の制御理論的手法は線形であり,非線形システムの複雑な効果を捉えきれないという課題がある。
- ヤコビアン推定に基づく非線形制御理論フレームワークによって,サブシステム間相互作用の記述を目指す。
- 提案手法JacobianODEは,既存のヤコビアン推定手法と比較して,高次元カオスを含む複雑なシステムで優れた性能を発揮する。
- ワーキングメモリ選択課題で訓練された多領域RNNへの適用により,学習が進むにつれて「感覚」領域が「認知」領域に対してより強い制御を持つことが示された。
- JacobianODEを用いることで,訓練されたRNNの振る舞いを精密に操作することが可能となり,制御の実現性を示した。
材料間の電子構造データにおける驚くほど高い冗長性の原因:低い固有次元性 [cond-mat.mtrl-sci, cond-mat.dis-nn, cs.LG, physics.comp-ph, quant-ph]目的:電子構造データの冗長性の解明と,それを利用した機械学習の効率化
- 材料設計において,電子構造計算は不可欠であり,計算コストの削減が重要課題である。
- 従来の機械学習モデルは大規模なデータセットに依存しており,計算コストが高いという問題点がある。
- データセットの冗長性を利用することで,データ量を削減し,機械学習の効率を向上させる。
- 多様な材料系における電子構造データセットに有意な冗長性が存在することが明らかになった。
- ランダムなデータ削減や,カバレッジに基づいたプルーニング戦略によって,データ量を大幅に削減でき,予測精度を維持できることが示された。
- 電子構造データが低い次元の非線形多様体上に存在することから,データの削減可能性について幾何学的な説明が得られた。
ゲームタイム:音声言語モデルにおける時間的ダイナミクスの評価 [quant-ph, cs.CC, eess.AS, cs.AI, cs.CL]目的:音声言語モデルの時間的ダイナミクスに関する評価フレームワーク
- 自然な対話を実現するためには,タイミングや話速,同時発話などの時間的要素の理解が不可欠である。
- 既存の音声言語モデルは,これらの時間的要素の処理能力が未評価であり,流暢性に課題が残る。
- 時間的制約下での性能を評価し,時間認識能力の向上を目指す。
- Game-Time Benchmarkを構築し,基本タスクと時間的制約付きタスクを通して時間的ダイナミクスを評価した。
- 最先端モデルは基本タスクはこなせるものの,時間的制約下では性能が著しく低下することが示された。
- このベンチマークは,時間認識能力の高い対話型AI研究の基礎となる。
ATLAS:動的なプロンプト最適化とマルチエージェント協調による適応型取引 [q-fin.TR, cs.AI]目的:LLMエージェントを用いた適応型取引フレームワーク
- 金融市場は複雑であり,効率的な意思決定が重要である。AIによる自動取引への期待が高まっている。
- LLMを取引エージェントとして利用する場合,遅延した報酬やノイズへの対応が課題となる。
- 市場情報やニュースなどを統合し,実行可能な取引指示を生成する手法を開発する。
- ATLASは,市場,ニュース,企業ファンダメンタルズ等の情報を統合したマルチエージェントフレームワークである。
- 適応型プロンプト最適化技術Adaptive-OPROは,リアルタイムフィードバックを取り込み,継続的な性能向上を実現する。
- Adaptive-OPROは固定プロンプトを上回り,リフレクションに基づくフィードバックでは体系的な改善が見られなかった。
化学空間における発見と探索のための基盤モデル [physics.chem-ph, cond-mat.mtrl-sci, cs.LG]目的:化学空間の発見と探索のための基盤モデルの開発
- 材料革新には分子構造からの原子,熱力学,動力学的特性の正確な予測が不可欠である。
- 既存の手法は化学空間を効率的に探索するのに必要な拡張性に欠けている。
- 大規模データによる学習を通じて,化学空間の効率的な探索を可能にする。
- MISTと呼ばれる新しい分子基盤モデルを開発し,前例よりも大幅に多いパラメータとデータを使用。
- MISTは400以上の構造-特性関係の予測において最先端の性能に匹敵またはそれを上回る結果を示した。
- モデルは,電解質溶媒スクリーニングやオルガネタル化合物の立体化学的推論など,現実世界の課題を解決できることが示された。
オンライン分類における人間介入の最小化 [quant-ph, cs.AR, stat.ML, cs.LG]目的:大規模言語モデルを用いた分類システムにおける人間介入の最小化
- LLMの性能向上には人的フィードバックが不可欠だが,コストが高いため,効率化が求められている。
- 人的フィードバックを最小限に抑えつつ,高い精度を保証する手法が確立されていない。
- アクティブラーニングの枠組みで,専門家への問い合わせと自己推測を組み合わせることで,効率的な学習を目指す。
- 提案手法であるConservative Hull-based Classifier (CHC) は,クエリが既知の凸包の外に出た場合に専門家を呼び出すことで,$\mathcal{O}(\log^d T)$のレグレットを達成する。
- 次元$d$が小さい場合,CHCはミニマックス最適である。しかし,高次元では幾何学的な学習が困難となる場合がある。
- subgaussian混合分布からのクエリに対しては,Center-based Classifier (CC)が$N\log{N}$のレグレットを達成する。また,CHCの拡張版であるGHCは,より積極的な推測を可能にする。
AI駆動によるアレクサンドリアデータベースの拡張と応用 [math.PR, cs.DM, math.FA, cond-mat.mtrl-sci, cs.AI]目的:熱力学的に安定な化合物の同定
- 材料開発において,計算科学とAIの活用は時間とコストを削減し,新材料発見を加速させる上で不可欠である。
- 既存の材料探索手法は,計算コストが高く,探索範囲が限られているという課題があった。
- AIを活用し,大規模な材料データベースを構築・拡張することで,材料探索の効率化を目指す。
- 本研究では,新規ワークフローにより,熱力学的に安定な化合物の同定成功率が99%を達成した。
- アレクサンドリアデータベースに130万件のDFT検証済み化合物を追加し,総構造数は580万件,安定材料は17.5万件に達した。
- 生成された構造の構造的無秩序率は実験データベースと一致し,空間群分布や相安定性ネットワークにおける新たなパターンが明らかになった。
低遅延量子誤り訂正のための進化型BP+OSDデコーディング [quant-ph, cs.AI]目的:フォールトトレラント量子コンピューティングのための誤り訂正デコーディング手法
- 量子コンピューティング実現には,量子情報の誤りを訂正する技術が不可欠である。
- 従来のBP+OSDデコーディングは,計算量が多く,遅延が大きいという課題があった。
- BP+OSDデコーディングの最適化により,高性能かつ低遅延な誤り訂正を実現する。
- 提案手法(EBP+OSD)は,表面符号およびQLDPC符号において,従来のBP+OSDを上回るデコーディング性能を示した。
- 特に厳しい低遅延条件下において,EBP+OSDは大幅な複雑さの削減と性能向上を同時に達成した。
- 微分進化アルゴリズムを活用したEBP構造の最適化と,OSDの活性化抑制が,この結果に貢献している。
AdamW様式Shampooの収束レート解析:片側および二側事前条件付けの統一 [math.OC, cs.LG]目的:AdamW様式Shampooオプティマイザの収束レート
- 深層学習の性能向上には,最適化手法の改善が不可欠である。
- 既存の最適化手法では,大規模モデルにおける収束の遅さや不安定性が課題となっていた。
- 本研究は,Shampooオプティマイザの収束レートを解析し,その理論的保証を与えることを目指す。
- 本研究では,片側および二側事前条件付けを統一的に解析することで,AdamW様式Shampooの収束レートを導出した。
- 導出された収束レートは,核ノルムで測定すると,SGDの最適収束レートと同程度であることが示された。
- この結果は,Shampooオプティマイザが大規模モデルの学習において有効であることを理論的に裏付ける。
天体画像における自己教師あり時空間ノイズ除去による検出限界の深化 [astro-ph.IM, astro-ph.CO, astro-ph.GA, cs.AI]目的:天体画像における検出限界の向上
- 天体観測において,より遠くの天体や微弱な現象を捉えることは,宇宙の起源や進化の解明に不可欠である。
- 従来の画像処理では,ノイズの影響により,微弱な天体の検出が困難であり,観測の限界となっていた。
- 本研究は,自己教師あり学習を用いてノイズを除去し,検出限界を深めることで,これまで見えなかった天体の発見を目指す。
- ASTERISアルゴリズムは,模擬データにおいて検出限界を1.0マグニチュード改善し,点源の形状と光度計精度を維持した。
- JWSTとスバル望遠鏡のデータを用いた検証により,これまで検出されていなかった低表面輝度銀河構造や重力レンズ効果によるアークが同定された。
- JWSTの深層画像への適用により,以前の方法よりも3倍多くの赤方偏移>9の銀河候補が発見され,紫外線光度も1.0マグニチュード弱くなった。
何もないところから:失語症性発話の重症度推定のためのデータ拡張 [eess.AS, cs.AI, cs.LG]目的:失語症性発話の重症度推定におけるロバスト性の向上
- 臨床診断や包括的な音声技術において,失語症性発話の品質評価は不可欠である。
- 主観評価は費用と手間がかかる上に,ラベル付きデータの不足が頑健なモデル構築を妨げる。
- ラベルなしデータと大規模な標準発話データを用いて学習データを増強し,推定精度を向上させる。
- 教師モデルによる疑似ラベル生成と,ラベルを意識したコントラスト学習による弱学習事前学習を組み合わせた。
- 5つの未知のデータセットにおける実験で,提案手法の頑健性が確認された。
- WhisperベースラインはSpICEなどの既存手法を上回り,フレームワーク全体でSRCC 0.761を達成した。
選択的推論によるクラスタリングパイプラインに対する統計的検定フレームワーク [eess.AS, cs.CL, stat.ML, cs.LG]目的:クラスタリングパイプラインから得られる結果の統計的信頼性の定量化
- データ分析は科学的発見や意思決定の基礎であり,その信頼性は重要である。
- 複数のデータ依存型処理を含むパイプラインの統計的検定は困難である。
- パイプライン全体の有意性を評価する統計的フレームワークを確立すること。
- 選択的推論に基づく新しい統計的検定フレームワークを提案した。
- 提案手法は,クラスタリングパイプラインにおける偽陽性率を制御できることを証明した。
- 合成データおよび実データを用いた実験により,有効性と実用性を検証した。
Transformerにおける文脈関係の表現力について [stat.ML, cs.LG]目的:Transformerにおける文脈関係の表現力の評価
- 自然言語処理において,文脈を捉えた処理は重要であり,その性能が課題となっている。
- Transformerは文脈関係のモデリングに成功しているものの,その表現力の理論的理解が不足している。
- Transformerの文脈関係の表現力を数学的に定式化し,その近似能力を明らかにすること。
- 標準的なSoftmax Attentionは,エントロピー正則化された最適輸送と密接な関係があることが示された。
- Softmax AttentionとSinkhorn正規化を用いることで,任意の文脈関係ルールを近似できることが証明された。
- Transformerの有効性は,文脈関係の表現方法の選択によって説明できると考えられる。
文脈性の次数,レベル,プロファイル [quant-ph, cs.AI, math.PR]目的:確率変数の系の文脈性プロファイル
- 量子情報科学の基礎であり,古典物理学との違いを明確にする上で重要である。
- 文脈性の度合いを単一の数値で捉える方法では,システムの特性を十分に表現できない。
- 文脈性のレベルに応じた変化を捉え,より詳細なシステムの分析を可能にすること。
- システムの文脈性を,考慮する変数の次数に応じて変化する曲線として表現できることを示した。
- 既存の文脈性指標と組み合わせて,レベルごとの文脈性分析を行う手法を提案した。
- 複数の文脈性指標について,そのプロファイルを系統的に探索するための方法を確立した。
3Dマルチコントラスト自己注意GANによる脳MRI画像合成 [eess.IV, cs.AI, cs.CV]目的:脳MRIのマルチコントラスト画像合成手法
- 脳腫瘍の正確な評価には,各コントラストが補完的な情報を提供するため,完全なマルチモーダルMRIが不可欠である。
- 全モダリティのMRI取得は,検査時間の長さやコスト,患者への負担が大きいという課題がある。
- 単一のT2w画像から不足するモダリティを高精度に合成し,脳腫瘍評価における負担軽減を目指す。
- 提案手法3D-MC-SAGANは,単一のT2w画像からT1c, T1n, T2fを合成する統一的なフレームワークである。
- 腫瘍の特徴を保持しつつ,長距離依存性を効率的に捉えるMBHAブロックと,腫瘍整合性制約を用いることで,高精度な画像合成を実現した。
- 実験結果から,提案手法は最新技術と同等以上の性能を示し,臨床的に有用な情報を維持しながら,検査負担の軽減に貢献できることが示唆された。
非単調MAR欠損下における近似Wasserstein勾配フローを用いた生成モデリング [stat.ML, cs.LG]目的:非単調MAR欠損データからの完全データセット生成手法
- データ分析において欠損値は分析の信頼性を大きく損なうため,適切な処理が不可欠である。
- 一般的な非単調MAR欠損に対する原理に基づいたノンパラメトリック手法は十分ではない。
- 理論的根拠と実用性を兼ね備えた,欠損値問題を解決する新たな生成手法を提案する。
- 提案手法FLOWGEMは,観測データ分布と生成サンプル分布間のKLダイバージェンスを最小化する。
- Wasserstein勾配フローの離散化粒子進化により,密度比の局所線形推定を用いて速度場を近似する。
- シミュレーションと実データを用いた評価により,FLOWGEMが最先端の性能を発揮することが示された。
疎視点CT再構成のための条件付き拡散事後整合 [eess.IV, cs.CV, cs.LG]目的:疎視点CT再構成における画質向上
- CTは医療・産業分野で広く利用されており,低被ばく・短時間化が重要課題である。
- 視点数の少ない疎視点CTでは,再構成画質の劣化が問題となっている。
- 3Dボリュームへの適用を可能にし,スライス間の一貫性を高める。
- 提案手法CDPAは,初期3D再構成を条件として2D U-Net拡散モデルを誘導し,スライス間の一貫性を向上させる。
- データ整合性整合により,測定された投影データとの一致性を確保し,再構成精度を高める。
- 合成データおよび実際のCBCTデータを用いた実験により,最先端の性能が確認された。
呪われたものから競争力へ:入力-状態安定性によるZO-FOギャップの解消 [math.NT, cs.DM, math.CO, math.OC, cs.LG, cs.NA, cs.SY, eess.SY, math.NA]目的:ゼロ次最適化アルゴリズムと一次最適化アルゴリズムの収束性に関する比較分析
- 最適化アルゴリズムは,機械学習や工学の様々な分野において基盤技術である。
- ゼロ次アルゴリズムは,一次アルゴリズムと比較して,パラメータ設定や反復回数に依存しやすいという課題がある。
- 入力-状態安定性の理論を用いて,ゼロ次アルゴリズムの収束性を一次アルゴリズムと同等に改善する。
- 本研究では,特定の条件下において,ゼロ次アルゴリズムの収束レートが一次アルゴリズムと同程度であることを理論的に示した。
- ゼロ次アルゴリズムの平均化が,有界摂動を持つ一次アルゴリズムの平均化として表現可能であることを示した。
- 摂動のノルムを小さくすることで,ゼロ次アルゴリズムが一次アルゴリズムの固定点の近傍に収束することを実証した。
