arXiv雑要約
AI - 2026/04/29 公開
星細胞ゲート型結合性記憶ダイナミクスからの創発的自己注意 [physics.data-an, cs.LG, nlin.AO, physics.soc-ph]目的:星細胞による結合性の動的な調節に基づくホップフィールド型結合性記憶における自己注意の創発メカニズム
- 脳の計算原理の解明は,認知機能の理解に不可欠であり,神経科学とAI研究の重要な課題である。
- 従来の結合性記憶モデルでは,記憶容量や干渉に対する脆弱性が課題であり,高精度なパターン想起が困難である。
- 星細胞の動的な調節に着目し,記憶想起の精度向上と自己注意メカニズムの解明を目指す。
- 星細胞の活動がパターン類似度に基づいたソフトマックス正規化を実現し,自己注意のメカニズムを創発的に再現することを示した。
- 高負荷・干渉下において,本モデルは古典的なホップフィールドモデルや既存のニューロン-星細胞モデルと比較して,想起精度が著しく向上することを確認した。
- 星細胞による調節,競争的な資源配分,注意様計算を結びつける,ダイナミクスシステムの枠組みを確立した。
微分可能な物理情報に基づくコヒーレント遷移放射分光法のための適応的位相復元 [physics.acc-ph, cs.LG]目的:コヒーレント遷移放射分光法における位相復元手法の開発
- レーザープラズマや従来型加速器における相対論的電子ビームの特性評価に不可欠な技術である。
- 測定されたCTRスペクトルからビームプロファイルを復元する問題は,本質的に逆問題であり不安定である。
- 微分可能な物理モデルを活用し,実験条件の変化に柔軟に対応可能な位相復元アルゴリズムを開発する。
- 提案手法GD-Phaseは,従来のGerchberg-Saxton法と同等の精度でビームプロファイルを復元できることが示された。
- 本手法は,微分可能な実験効果を復元ループに容易に組み込むことが可能であり,多診断制約や不確かさの定量化を容易にする。
- これにより,高次元,多モード,不確かさを考慮した現実的な実験設定での高速かつスケーラブルな位相復元が可能となる。
実験的・現実的な評価設定下におけるバンドギャップ予測のベンチマーク [quant-ph, cs.ET, eess.SP, cs.RO, cond-mat.mtrl-sci, cs.AI]目的:半導体におけるバンドギャップ予測の信頼性評価
- 半導体材料開発には正確なバンドギャップ予測が不可欠である。
- 計算データで学習した機械学習モデルは,実験値への汎化性能が低い。
- 実験データを活用し,信頼性の高いバンドギャップ予測モデル開発を目指す。
- RealMat-BaGベンチマークを構築し,実験条件におけるモデルの信頼性を評価した。
- DFT計算データから実験データへの転移学習の限界が明らかになった。
- 元素特性と構造レベルでの解釈可能性分析を実施し,モデルの課題を特定した。
カーネルEDMDのための辞書学習 [math.DS, cs.LG]目的:カーネルEDMDにおける学習可能なカーネルパラメータの最適化手法
- 非線形動的システムの解析は困難であり,クープマン演算子を用いることで線形問題に変換できる。
- 従来のkEDMDでは,適切なカーネルとパラメータの選択が必要であり,手間がかかる。
- 辞書学習を用いることで,カーネルパラメータの最適化を自動化し,kEDMDを簡略化する。
- 提案手法では,重み付きカーネルリストを入力とし,クープマン演算子を近似するカーネルとパラメータを出力する。
- 重み解析により,重要でないカーネルを除去することが可能である。
- ダッフィング振動子や倉本・シバシンスキー方程式を用いた実験により,提案手法の有効性が示された。
不確実性の中を歩む:音声認識型大規模言語モデルにおける不確実性推定の経験的研究 [eess.AS, cs.AI, cs.CL, cs.LG, cs.SD]目的:音声認識型大規模言語モデルにおける不確実性推定手法の性能評価
- 近年,音声とテキストの両方を処理可能なモデルが発展したが,その信頼性が課題となっている。
- 大規模言語モデルは幻覚や過信した出力を生成することがあり,不確実性の推定が重要である。
- 音声条件付き生成における特有の課題を考慮し,不確実性推定の有効性を検証すること。
- セマンティックレベルおよび検証に基づく手法が,一般的な音声推論ベンチマークにおいてトークンレベルのベースラインを上回る性能を示すことが判明した。
- 信頼性重視のベンチマークにおいては,不確実性推定手法の有効性がモデルやベンチマークに依存する傾向が見られた。
- 不確実性に基づいた適応型推論の潜在的な応用可能性についても検討した。
物理情報ニューラルネットワークの残差損失異常解析:非線形動力学系における変点検出の逆手法 [stat.ML, cs.LG]目的:変点検出とパラメータ推定の同時推論
- 非線形動力学系の解析は,自然科学や工学の幅広い分野で重要である。
- 従来の変点検出はパラメータ推定と分離されており,両者の相関が無視されている。
- 物理情報学習の枠組み内で,変点とパラメータを同時に特定する手法を提案する。
- 提案手法は,物理残差の解析と最適化による変点検出とパラメータ推定を統合する。
- ベンチマーク問題において,従来の分離アプローチよりも高い精度を示すことが確認された。
- 本研究は,変点とパラメータが構造的に結合された逆問題を効率的に解決する。
インフレーションなし最適スコアリング [stat.ML, cs.LG, math.OC]目的:線形判別分析における特徴選択
- 高次元データ分析において,特徴量の数が行数を上回る状況で重要となる。
- 従来のSOS法では,逐次的な計算により誤差が伝播し,最適解が得られない場合がある。
- 同時最適化により,誤差伝播を抑制し,よりロバストな解を導くことを目指す。
- DFSOSは,既存の deflation-based な手法と同等かそれ以上の分類精度を達成した。
- Bregman 反復と直交制約最適化を組み合わせることで,問題を扱いやすいサブ問題に分解している。
- 提案手法は,高次元問題における疎判別分析のための堅牢で効果的なフレームワークを提供する。
構造ダイナミックモデルのベイズ更新のための適応メタ学習確率勾配ハミルトニアンモンテカルロシミュレーション [stat.AP, cs.LG, stat.ME, stat.ML]目的:構造ダイナミックモデルのベイズ更新のための適応メタ学習確率勾配ハミルトニアンモンテカルロシミュレーション手法
- 構造物の健全性モニタリングにおいて,ベイズ更新は不可欠であり,構造物の安全性と信頼性の評価に重要である。
- 既存のMCMC法は,新しい問題に対してニューラルネットワークの再学習が必要となり,効率が低下する。
- 本研究では,再学習を不要とし,様々な問題に適用可能なメタ学習に基づく効率的なサンプリング手法を開発する。
- 提案手法AM-SGHMCは,適応的なニューラルネットワークを用いてサンプリング戦略を最適化することで,高い汎化能力を実現した。
- 異なるモデル精度を持つ高層建築物のベイズ更新問題への適用により,提案手法の有効性が確認された。
- AM-SGHMCは,構造ダイナミックモデルのベイズ更新における計算コストを削減し,実用性を向上させる。
独白からアゴラへ:分散型議論による記憶拡張LLMエージェントによる最適化モデリング [math.OC, cs.AI, cs.LG]目的:最適化モデリングにおけるLLMエージェントの性能向上
- 物流,製造,エネルギーなど現実世界の意思決定を支える重要な技術分野である。
- 自然言語による要求から最適化問題を確実に解決することが,現在のLLMでは難しい。
- 分散型議論と記憶を活用し,信頼性の高い最適化モデリングを可能にすること。
- 提案手法Agora-Optは,既存のLLMを凌駕する性能を示し,複数のベンチマークで最高の結果を達成した。
- 分散型議論は,中央集権的な選択よりも構造的な利点があり,エージェント間の相互作用を通じて候補解を洗練させることができた。
- 本研究は,協調的な相互検証と再利用可能な経験の組み合わせが,信頼性の高い最適化モデリングに不可欠であることを示唆している。
ジェットタグ付けのための説明可能なAI:Lund Jet PlaneにおけるGNNExplainer,GNNShap,GradCAMの比較研究 [hep-ph, cs.LG, hep-ex]目的:ジェットタグ付けにおける説明可能性の評価と分析
- 高エネルギー物理学において,ジェット構造の理解は,素粒子反応の解析に不可欠である。
- 深層学習モデルは高性能だが,その予測根拠が不透明であり,物理的解釈が困難である。
- 深層学習モデルの予測根拠を明らかにし,物理的知見との整合性を検証することを目的とする。
- GNNExplainer,GNNShap,GradCAMといった説明手法をLund Planeに適用し,その性能を比較検討した。
- 説明手法による重要度付与と古典的なジェットサブストラクチャ変数との相関が確認され,モデルが既知のQCD特徴を学習していることを示唆した。
- 説明の質と焦点が,ノンパーターバティブ領域とパーターバティブ領域で変化すること,および再現性のある説明可能性研究のためのオープンソース実装が提供された。
NUBO:ベイズ最適化のための透明性の高いPythonパッケージ [cs.LG, cs.MS, stat.ML]目的:高コストなブラックボックス関数の最適化
- 実験やシミュレーションの効率化が求められる分野で重要である。
- ベイズ最適化は実装が複雑で,利用のハードルが高いという課題がある。
- 使いやすさと透明性を重視し,ベイズ最適化へのアクセスを容易にすること。
- NUBOは,ガウス過程を用いた代理モデルと獲得関数により,効率的な最適化を実現する。
- モジュール性と柔軟な設計により,ユーザーは自身の問題に合わせて最適化ループを記述できる。
- 厳密なテストと検証を経たアルゴリズムのみを搭載し,コンパクトで使いやすいパッケージとなっている。
GRUにおけるコントラスト強調ゲート:少ないデータでの頑健な系列学習 [cs.LG, cs.AI]目的:少ないデータ環境下における系列学習の頑健性向上
- 系列データ解析は,言語処理や時系列予測など幅広い分野で重要である。
- データ不足下では,GRUのゲート機構が十分な分離を示せず,学習が不安定になりやすい。
- ゲートのコントラストを強調することで,少ないデータでも安定した学習を実現すること。
- 提案手法であるSST-GRUは,シグモイド/tanh GRUと比較して,少ないデータセットで顕著な性能向上を示した。
- SSTはゲート活性化の統計量を改善し,学習の安定性を高めることが示された。
- SSTはパラメータを必要とせず,既存のGRUアーキテクチャに容易に組み込むことができる。
TouchAI:言語モデル表現による触覚における人間とAIの知覚的アライメントの探求 [eess.SY, cs.SY, cs.CL, cs.CL, cs.AI, cs.HC]目的:人間とAIの触覚における知覚的アライメントの度合い
- AIの発展において,人間の意図とAIの行動を一致させることは重要である。
- 視覚など他の感覚に比べ,触覚はより多面的でニュアンスに富むため,アライメントが難しい。
- 触覚を通じた知覚的アライメントの現状を把握し,その改善に資することを目的とする。
- 言語モデルは,一部の繊維素材(シルクサテンなど)においては人間の触覚体験と整合性を示す。
- しかし,綿デニムなど他の素材では整合性が低いことが示唆された。
- 参加者は,自身の触覚体験が言語モデルの予測と一致しないと感じている。
生成AIが抱える非民主的な偏見とステレオタイプ:職業における女性,黒人,年齢層,障がい者の表現 [cs.AI, cs.CL, cs.CY]目的:生成AIによって生成された画像における,女性,黒人,年齢層,障がい者の表現の偏りの分析
- AI技術の発展は社会に大きな影響を与えるが,その公平性と包容性が重要である。
- AIシステムが既存の社会的な偏見やステレオタイプを再現・増幅する可能性がある。
- 生成AIにおける偏りの実態を明らかにし,より公平で包容的な技術開発を促す。
- 生成AIが生成した画像において,女性は上級職や技術職で過小評価される傾向がある。
- 黒人や身体的な障がいを持つ人々は,あらゆる職業においてほとんど表現されていないことが確認された。
- 若年層が優先的に表現されるなど,年齢による偏りも明らかになった。既存の職場における不平等やステレオタイプを再現している。
FARM:官能基の認識を組み込んだ分子表現の強化 [cs.LG, q-bio.QM]目的:中小分子に対する官能基を意識した表現
- 創薬や材料科学において,分子構造と性質の関係を理解することが重要である。
- 既存の分子表現は,分子構造の複雑さを十分に捉えきれていない場合がある。
- 官能基情報を活用することで,より高精度な分子表現を学習することを目指す。
- FARMは,SMILES文字列と分子グラフの両方を官能基情報で強化した新しい表現を学習する。
- MoleculeNetベンチマークにおいて,13のタスクのうち8つで最先端の性能を達成した。
- 光安定性データセットでの検証により,汎化能力も確認された。
新生児健康のための人工知能モデルの説明における「もし〜だったら」シナリオの活用 [cs.LG, cs.AI]目的:分娩リスク予測モデルの説明と臨床的洞察の向上
- 分娩時のリスク早期発見は,脳性麻痺等の有害な結果を回避する上で重要である。
- 分娩中の臨床判断を支援する,正確な自動化システムが不足している。
- 人工知能を用いて,予測の根拠を示すことで,臨床医の理解を深める。
- AIMENは,母体,胎児,分娩関連因子から分娩リスクを予測し,従来のモデル(XGBoost等)を上回るF1スコア0.784を達成した。
- AIMENは,入力変数のわずかな変更が予測結果にどう影響するかを示すことで,臨床医に洞察を提供する。
- Conditional Tabular GANを用いてデータ拡張を行い,合成データ生成の性質を詳細に調査した。
AIDOVECL:AI生成による車両の周辺画像データセット - 目線レベルでの分類と位置推定 [cs.CV, cs.AI, cs.LG]目的:車両の分類と位置推定のためのAI生成データセット
- コンピュータビジョンの発展には画像アノテーションが不可欠だが,手作業によるアノテーションには時間と労力がかかる。
- 特に自動運転や都市計画において,多様な車両画像のデータ不足が課題となっている。
- AIによる周辺画像生成技術を用いて,アノテーションの労力を削減し,データ不足を解消することを目指す。
- AIDOVECLデータセットの導入により,車両検出性能が最大約10%向上した。
- 特に多様な背景,オブジェクトのスケール,配置条件下では,性能向上率は最大約40%に達した。
- 表現の少ないクラスにおいて,真陽性率が最大約50%向上する効果が確認された。
ARQ:正確かつ検証可能なロバストなDNNのための混合精度量子化フレームワーク [cs.LG, cs.CR, cs.CV]目的:深層ニューラルネットワークの正確性と検証可能なロバスト性の維持
- 深層学習の効率的な実行には,モデルの軽量化が不可欠であり,量子化はその主要な手法の一つである。
- 量子化におけるロバスト性の保証は計算コストが高く,十分に検討されてこなかった。
- 量子化を通して,深層学習モデルの精度とロバスト性を両立させることを目指す。
- ARQは,強化学習を用いて,精度とロバスト性を兼ね備えたDNN量子化を効率的に実現する。
- ARQは,様々なベンチマークと摂動レベルにおいて,最先端の量子化手法を上回る性能を示す。
- ARQで量子化されたネットワークは,浮動小数点演算のDNNと同等の性能を,より少ない計算資源で達成する。
ベイズ逆遷移学習:ほぼ最適な軌道からダイナミクスを学習 [cs.LG, cs.AI, stat.ML]目的:ほぼ最適な専門家の軌道からの遷移ダイナミクスの推定
- オフライン強化学習において,環境モデルの正確な推定は重要な課題である。
- 専門家の軌道データは限られていることが多く,ダイナミクス推定の精度を低下させる。
- 専門家の軌道の限定的な範囲を特徴として捉え,より正確なダイナミクス推定を目指す。
- 本研究では,専門家の最適性に制約を課すベイズ逆遷移学習法を提案した。
- 合成環境と集中治療室(ICU)患者管理のシミュレーションで,意思決定の改善が確認された。
- 推定された事後分布は,転移学習の成功可能性を判断する情報を提供する。
MolReFlect:分子とテキスト間の文脈的詳細なアラインメントに向けて [cs.CL, cs.LG, q-bio.QM]目的:分子とテキスト間の詳細なアラインメントの定義と,LLMによるその自動学習
- 分子発見は医薬品から材料まで幅広い分野に影響を与える重要な研究分野である。
- LLMが活用される中で,分子と説明文の間のアラインメントが依然として大きな課題となっている。
- 分子のサブ構造とテキストのフレーズ間の正確な対応関係をLLMが学習することを目指す。
- MolReFlectは,教師LLMと生徒LLMのフレームワークを用いて,分子とテキストのアラインメントを自動的に学習する。
- 実験結果から,MolReFlectは既存のベースラインを大幅に上回り,最先端の性能を達成した。
- 分子キャプション翻訳タスクにおいて,LLMの理解と説明可能性が向上することが示された。
継続学習のためのソフト・トランスフォーマー [cs.LG, cs.AI, cs.CV]目的:継続学習のためのパラメータ効率の良いフレームワーク
- 深層学習モデルの応用範囲拡大に不可欠であり,様々なタスクへの適応が求められている。
- 逐次的に学習を行うと,過去の知識を忘却するCatastrophic Forgettingが課題となる。
- 過去の知識を保持しつつ,効率的に新しいタスクに適応する手法の開発を目指す。
- ソフト・トランスフォーマーは,事前学習済みのTransformerモデルを凍結しつつ,タスク固有の乗算マスクを学習することで,効率的な適応を実現した。
- 従来のプロンプトやアダプターベースの手法と比較して,少ないパラメータで高い性能を発揮し,最先端の結果を達成した。
- 二重プロンプト機構との組み合わせにより,知識の保持能力を高め,Catastrophic Forgettingを軽減することに成功した。
起原-目的地需要予測:都市における放射と吸引の視点 [cs.LG, cs.AI]目的:都市における起原-目的地需要の予測
- 都市開発において,人の移動を予測することは,交通計画や土地利用計画に不可欠である。
- 既存手法では,地域間の空間的・時間的依存性に焦点を当て,地域の機能的な違いを無視している。
- 地域の属性情報と機能間の関係性を考慮した,より精度の高い需要予測モデルを構築する。
- 本研究では,地域の放射・吸引能力を深層学習モデルに組み込み,機能表現を拡張した。
- 放射能力と吸引能力の相互変換関係を捉えるため,ハイパーグラフに基づくパラメータ生成法を提案した。
- 同じ吸引能力を持つ地域間の競争関係を,クラスタベースの敵対的学習により明らかにした。実験結果から,提案手法の有効性が確認された。
ビデオ検索システムを強化するためのマルチモーダル文脈化サポート [eess.SY, cs.SY, cs.CV, cs.AI]目的:ビデオ検索システムの精度向上
- 動画コンテンツの利用拡大に伴い,効率的な検索技術の重要性が増している。
- 既存システムは静止画に偏っており,動画全体の文脈を捉えきれていない。
- 動画全体の情報を活用し,より高度な意味理解に基づく検索を実現すること。
- 本研究では,複数のフレームとマルチモーダルデータを統合することで,動画の潜在的な意味を抽出するパイプラインを提案。
- 提案システムは,単一の静止画ではなく,動画クリップから推論できる情報を重視することで,より深い理解を可能にする。
- その結果,従来システムよりも高精度な検索結果が得られることが期待される。
グロタンディークグラフニューラルネットワークフレームワーク:トポロジーを意識したGNNを構築するための代数的なプラットフォーム [cs.LG]目的:トポロジーを意識したグラフニューラルネットワークの構築のための代数的なフレームワーク
- グラフ構造データの解析は,社会ネットワーク,創薬,知識グラフなど,様々な分野で重要性が増している。
- 既存のGNNは近傍集約に依存しており,表現力に限界がある。特に,Weisfeiler-Lehmanテスト以上の性能を発揮することが難しい。
- 近傍の概念を拡張し,より豊かなトポロジー情報を活用することで,GNNの表現力と性能を向上させる。
- グロタンディークグラフニューラルネットワーク (GkGNN) フレームワークは,近傍をカバーに一般化することで表現力を拡張する。
- カバーのシブという概念に基づいたSieve Neural Networks (SNN) は,グラフ同型性ベンチマークで失敗例が観測されない良好な結果を示した。
- ラベル伝播プローブによる評価においても,SNNはトポロジーを意識した性能向上を実証した。
ボリュumetricデータからの3D再構成モデルの体積計算のための新しい3Dバイナリインデックスツリー [cs.GR, cs.AI, cs.CV]目的:3D再構成モデルの体積計算
- 医療画像分野では,3D再構成物体の定性分析のため,正確な3D体積計算が不可欠である。
- 従来の体積計算手法では,計算コストが高く,効率性に課題があった。
- 本研究は,高速かつ正確な3D体積計算アルゴリズムを開発し,医療画像解析の効率化を目指す。
- 多変量解析,マーチングキューブ法,バイナリインデックスツリーを組み合わせたアルゴリズムを開発した。
- 提案アルゴリズムは,スキャンライン順にデータを処理し,Fenwick treeを構築することで高速なクエリを実現する。
- 単純な形状から複雑な構造まで,体積計算の誤差は±0.004 cm³以内であり,更なる改善の余地がある。
変分オートエンコーダを用いたパワートレインシミュレーション [cs.DC, cs.LG, cs.CE, eess.SP]目的:車両のジャーク信号予測
- 自動車開発において,シミュレーションは重要な役割を担う。実験コスト削減や開発期間短縮に貢献する。
- 現実世界のパワートレインデータは限られており,詳細なシステムパラメータ化が困難な場合が多い。
- 実験データが少ない状況下で,高精度なパワートレインシミュレーションを実現すること。
- 変分オートエンコーダ(VAE)が,詳細なシステムパラメータ化なしに効果的にジャーク信号を予測できることが確認された。
- 無条件VAEは事前のシステム知識なしに現実的なジャーク信号を生成し,条件付きVAEは特定のトルク入力に合わせた信号生成を可能にする。
- この手法は,データ拡張や複雑な動作シナリオの効率的な探索を可能にし,検証プロセスを効率化し,車両開発を加速する可能性を示す。
自律走行車における相互依存する要件のテストのための強化学習:実証研究 [cs.DM, cs.IR, cs.SE, cs.LG, cs.RO]目的:自律走行車の要件テストにおける強化学習の比較評価
- 自動運転技術の発展に伴い,安全性と信頼性の確保が不可欠となっている。
- 既存のテスト手法では,複雑な要件間の相互依存関係を考慮しきれない場合がある。
- 単一目的強化学習と多目的強化学習の有効性を比較し,最適なテスト戦略を明らかにすること。
- 多目的強化学習と単一目的強化学習は,違反の発生様式に違いが見られるものの,多くのケースで同程度の有効性を示した。
- 多目的強化学習はより多くの違反シナリオを生成する傾向がある一方,単一目的強化学習はより深刻な違反を露呈する可能性が高い。
- シナリオの多様性に関しては,多目的強化学習が優れており,要件の網羅性を重視する場合は適している。
ガウス線形回帰における早期打ち切りの鋭いリスク境界 [cs.LG, math.ST, stat.ML, stat.TH]目的:高次元ガウス線形回帰における,サンプル内平均二乗誤差の最小化
- 機械学習において,予測精度向上と計算コスト削減は重要な課題である。
- 従来の最適化手法では,計算資源の制約から十分な学習が困難な場合がある。
- 早期打ち切りにより効率的な学習を可能にし,理論的なリスク境界を明確にすること。
- 本研究では,ガウス幅に基づく最小二乗推定量の鋭いリスク境界が,早期打ち切りミラー降下法にも適用可能であることを示した。
- ポテンシャル関数の条件を導出し,既存および新しいポテンシャルを分析することで,ESMDのミニマックス最適性の十分条件を確立した。
- 特に,$\ell_1$制約下では,既知の最も厳しいリスク境界を達成できることが示された。
大規模言語モデルは効果的な人手アノテーション支援だが,独立したアノテーターとしては不適切 [cs.CE, cs.CL, cs.AI]目的:イベントアノテーションの効率化
- 市場の変化や社会動向の把握に不可欠なイベントアノテーションは,専門家による手作業に頼る部分が大きい
- 人手アノテーションはコストと時間がかかるため,より効率的な手法が求められている
- 大規模言語モデルを活用することで,アノテーション作業の負担を軽減し,効率を向上させることを目指す
- 大規模言語モデルによる自動アノテーションは,従来のTF-IDF法より優れていることが示された
- しかし,専門家のアノテーションと比較すると,信頼性に欠けることが確認された
- 専門家のアノテーション支援に大規模言語モデルを活用することで,作業時間と負担を削減できる可能性が示唆された
xLSTMネットワークを用いた深層強化学習による自動株式取引 [cs.CE, cs.LG, q-fin.TR]目的:自動株式取引戦略の最適化
- 株式市場は変動が激しく,高度な分析と迅速な意思決定が求められる。
- 従来のLSTMは長期依存関係の学習が難しく,不安定な市場環境下での性能が課題である。
- xLSTMネットワークを活用し,より安定した取引戦略を構築することを目指す。
- 提案手法は,従来のLSTMベースの手法と比較して,累積リターン,平均取引利益率などの主要な評価指標で優れた性能を示した。
- xLSTMネットワークは,時間的データの処理と動的な市場環境への適応に有効であることが示された。
- 本研究は,深層強化学習を用いた株式取引システムにおけるxLSTMの潜在能力を示唆する。
AIベース3D放射線画像再構成における表現パラダイム:系統的レビュー [cs.CV, cs.AI, cs.GR]目的:AIベース3D放射線画像再構成アルゴリズムの表現パラダイム
- 臨床診断において高品質な医療画像が不可欠であり,3D画像再構成は重要な研究分野である。
- 従来の再構成手法では,計算コストや被ばく線量の問題が存在する。
- AIを用いて再構成精度向上と,被ばく線量・処理時間の低減を目指す。
- AIベースの3D再構成アルゴリズムを,離散グリッド,基底関数,明示的プリミティブ,暗黙的ニューラル表現の4つの表現ファミリーに分類した。
- 暗黙的ニューラル表現の一種であるラディアンスフィールド法の位置づけを明確にした。
- 評価指標やベンチマークデータセットをまとめ,今後の研究の方向性を示した。
分歧に基づくS-矩形分布ロバスト強化学習のほぼ最適なサンプル複雑度 [cs.LG, stat.ML]目的:分歧に基づくS-矩形分布ロバスト強化学習のサンプル複雑度解析
- 強化学習は,環境との相互作用を通して最適な行動戦略を学習する有用な手法である。
- 訓練環境とテスト環境の乖離が,強化学習の現実世界への応用における課題となっている。
- S-矩形モデルを用いた分歧に基づく強化学習のサンプル複雑度を理論的に解明すること。
- 提案手法は,状態数,行動数,精度目標に対して最適な依存関係を持つサンプル複雑度を達成する。
- 理論的結果は,ロバストな在庫管理問題と最悪ケースの例における数値実験によって検証されている。
- 実験結果は,提案アルゴリズムの高速な学習性能を示している。
AI駆動ソフトウェア品質の設計図:LLMと確立された標準の統合 [cs.CL, cs.SE, cs.AI, cs.CL]目的:AI駆動型ソフトウェア品質保証手法と既存の標準との統合
- 信頼性,安全性,効率性を担保するため,ソフトウェア品質保証は不可欠である。
- 既存の品質保証プロセスは,手作業が多く,時間とコストがかかるという課題がある。
- LLMを活用し,ソフトウェア品質保証プロセスを自動化し,効率化することを目指す。
- 本研究では,LLMベースのSQA手法と確立された標準との関連性を調査し,AI駆動ソリューションが従来の品質保証を強化する方法を明らかにした。
- 要件検証,欠陥検出,テスト生成,ドキュメント保守など,様々なLLMベースのSQAアプリケーションが,各標準の特定の要件と指標に対応可能であることが示された。
- データプライバシー,モデルのバイアス,説明可能性といった課題に対処するためのガバナンスと監査の重要性が強調された。
より安価に,より良く,より速く,より強力に:思考の連鎖もファインチューニングもなしの堅牢なテキストからSQLへの変換 [cs.CL, cs.LG]目的:テキストからSQLへの変換におけるコスト効率の良い手法
- 近年,LLMを用いたテキストからSQLへの変換技術が注目されているが,コストが課題となっている。
- 既存手法は思考の連鎖やファインチューニングを用いるため,推論コストが高く,実用性に課題がある。
- より低コストで,既存手法と同等の性能を達成することを目指している。
- 提案手法「N-rep consistency」は,スキーマ入力の多様な表現を活用することで,わずか0.039ドル/クエリという低コストで高い精度を実現した。
- 思考の連鎖やファインチューニングといった高コストな手法に匹敵するBIRDベンチマークのスコアを達成している。
- N-repは,同コスト帯のテキストからSQLへの変換手法の中で最高の性能を示す。
SIV-Bench:社会的相互作用の理解と推論のためのビデオベンチマーク [cs.CL, cs.CV, cs.AI]目的:社会的相互作用の理解と推論能力の体系的な評価
- 人間と機械の自然な対話を実現するには,社会的な相互作用の理解が不可欠である。
- 既存のベンチマークでは,社会的な相互作用の多面性を十分に評価できていない。
- 大規模多層言語モデル(MLLM)の社会的知性を向上させるための評価基盤を提供する。
- SIV-Benchは,社会Scene理解(SSU)は比較的良好だが,社会状態推論(SSR)と社会力学予測(SDP)は未熟であることを示した。
- 関係推論における系統的な混乱が,MLLMの性能低下の主な原因であることが判明した。
- 音声と字幕は,高度な推論を必要とするSSRとSDPにおいて,推論能力の向上に役立つことが示された。
ノード影響力最大化のための高速幾何埋め込み [cs.SI, cs.AI, cs.LG]目的:ノード影響力最大化問題への高速な幾何埋め込み手法
- 大規模グラフ分析において,中心性指標は重要な役割を果たす。
- 既存の中心性指標の計算は,グラフ規模が大きくなると計算コストが高くなる。
- 中心性指標の近似計算による高速化と,影響力のあるノードの効率的な特定。
- 提案手法はグラフを低次元空間に埋め込み,原点からの距離を様々な中心性指標の代替として用いる。
- 様々なグラフファミリーで実験を行い,次数,PageRank,パスに基づく中心性との強い相関が確認された。
- この埋め込みにより,影響力の高いノードを高速かつスケーラブルに発見することが可能となった。
過去を再訪:モデル状態履歴を用いたデータアンラーニング [cs.LG]目的:大規模言語モデルにおけるデータアンラーニング手法
- 大規模言語モデルはWebデータで学習され,プライバシーや著作権侵害等の問題があるため,データ管理が重要である。
- 問題のあるデータの影響を完全に除去するには再学習が必要だが,計算コストが非常に高いという課題がある。
- モデル状態履歴を用いてデータの影響を効率的に除去し,柔軟なデータ消去を可能にすることを目指す。
- 提案手法MSAは,事前学習時のモデル状態履歴を用いて,ターゲットデータの効果を推定・打ち消すことでアンラーニングを実現する。
- 実験結果から,MSAは既存のアンラーニングアルゴリズムと比較して,競争力のある性能を示すことが示された。
- MSAは,大規模言語モデルにおける柔軟なデータ消去を実現するための有効なアプローチとなりうる。
ベイエSL: ベイズネットワークの検証のための論理的フレームワーク [cs.AI, cs.LO]目的:ベイズネットワークの挙動の仕様,クエリ,検証のための論理的フレームワーク
- AIの説明可能性向上は重要である。ベイズネットワークは透明な構造を持つが,形式的な検証方法が不足している。
- ベイズネットワークの挙動検証は,アドホックなクエリや手動操作に頼っており,体系的な検証が困難である。
- ベイズネットワークの挙動を形式的に検証し,モデルの信頼性を保証することを目的とする。
- ベイエSLは,確率的推論クエリとモデルチェック形式のクエリをサポートする構造化言語である。
- ベイエSLは,モデルの修正を必要とせずに,因果関係や反事実的なシナリオに関する推論を可能にする。
- 診断ケーススタディとベンチマークモデルを用いて,ベイエSLがベイズネットワークの挙動を明確化し,信頼性と説明可能性を向上させることが示された。
曖昧性から正確性へ:コアファレンス解決が検索拡張生成システムに与える変革的効果 [eess.SY, cs.SY, cs.CL, cs.AI]目的:検索拡張生成システムにおけるコアファレンス解決の効果
- 自然言語処理において,知識集約型AIの性能向上が求められている。
- 検索拡張生成システムは,検索された文書のコアファレンスによって精度が低下することが課題である。
- コアファレンス解決によって検索と生成の精度を向上させる方法を明らかにすること。
- コアファレンス解決は,検索の有効性と質問応答の性能を向上させることが示された。
- 平均プーリング戦略は,コアファレンス解決を適用した後,より優れた文脈捕捉能力を発揮する。
- 小規模モデルは,コアファレンス解決の恩恵をより大きく受けることが明らかになった。
これはただの幻想か?言語モデルの表現は出来事の妥当性に関する人間の判断を反映する [cs.CL, cs.AI]目的:言語モデルにおける文の様相カテゴリ(可能性,非可能性,無意味性など)を識別するための線形表現の特定
- 言語モデルは多様なタスクに応用され,その信頼性は重要である。
- 既存研究では,言語モデルの様相カテゴリ分類能力に疑問が呈されている。
- 言語モデルが持つ,より信頼性の高い様相カテゴリ判断能力の解明を目指す。
- 言語モデルは,以前考えられていたよりも信頼性の高い様相カテゴリ判断能力を持つことが示された。
- 様相カテゴリの識別ベクトルは,モデルの能力向上に伴って一貫した順序で出現することが明らかになった。
- 言語モデルの活性化から特定された識別ベクトルは,人間の細かなカテゴリ分類行動をモデル化できる可能性が示された。
カリキュラム誘導型マルチモーダル表現学習による,ナノ材料・タンパク質相互作用の汎化可能な予測 [cs.LG, cond-mat.mtrl-sci, cs.AI, cs.CE, q-bio.BM]目的:ナノ材料とタンパク質の相互作用予測の汎化性能向上
- ナノ材料の治療・診断への応用において,ナノ材料とタンパク質の相互作用理解が不可欠である。
- 既存のAIモデルでは,未知のナノ材料やタンパク質に対する汎化性能が課題となっていた。
- 本研究では,多様なデータを用いた学習で,未知データへの予測性能を高めることを目指す。
- CuMMIは,大規模なナノ材料・タンパク質相互作用データセットとカリキュラム学習により,高い予測精度を実現した。
- 独立した検証データセットにおいて,5つの分類指標の平均が0.75を超え,優れた汎化性能と堅牢性を示した。
- 特定の金ナノ粒子データやタンパク質サブセットを用いた微調整により,ゼロから学習するよりも高い性能を達成した。
質問の形式が大規模言語モデルの推論タスクにおける性能に影響するか? [cs.CL, cs.AI]目的:大規模言語モデルにおける質問形式の影響
- 自然言語処理技術は,人間とコンピュータ間のコミュニケーションを円滑にする上で不可欠である。
- 大規模言語モデルの評価方法は確立されているものの,質問形式の影響は未解明な点が多い。
- 質問形式がモデルの推論性能に与える影響を明らかにすることで,より適切な評価方法を確立する。
- 質問形式によって大規模言語モデルの性能に有意な差が存在することが示された。
- 推論過程の正確性と最終的な正答選択の正確性には必ずしも相関関係がないことが明らかになった。
- 選択肢の数や用いる単語が,大規模言語モデルの性能に影響を与えることが確認された。
測定情報を注入することで,高速かつノイズに強い拡散に基づく逆問題ソルバーが実現する [cs.LG, stat.CO]目的:逆問題に対する高速かつロバストな解法
- 画像処理や信号処理において,逆問題の解決は重要な課題である。不明な情報を推定する上で必要不可欠。
- 従来の拡散モデルは測定値を後処理で統合するため,効率と精度に限界がある。
- 測定情報を拡散過程に直接組み込み,より効率的かつ正確な逆問題解法を確立すること。
- 提案手法は,測定値と拡散変数を条件とした条件付き事後平均を推定することで,高速かつメモリ効率の良い逆問題ソルバーを実現した。
- 新たな最適化手法は,測定ノイズに対してロバストな尤度ベースの停止基準を適用できる。
- 複数のデータセットとタスクにおいて,既存の逆問題ソルバーと同等またはそれ以上の性能を示した。
レコメンダーシステムの安定性と可塑性の測定 [cs.IR, cs.LG]目的:レコメンダーシステムの安定性と可塑性の評価手法
- レコメンダーシステムは情報過多な状況下でユーザーに適切な情報を提供する重要な技術である。
- 既存の評価プロトコルは静的な性能しか評価できず,時間経過に伴うシステムの変動を捉えられない。
- モデルの再学習に伴う性能変化を評価し,安定性と可塑性の両立を目指す。
- 提案手法により,モデルが過去のパターンを保持する安定性と,変化に迅速に適応する可塑性を定量的に評価可能となった。
- GoodReadsデータセットを用いた実験により,アルゴリズムの種類によって安定性と可塑性のプロファイルが異なることが示された。
- 安定性と可塑性の間にはトレードオフが存在する可能性が示唆された。
クロスヘッド統一スパース注意による高速かつ正確な推論 [cs.CL, cs.AI]目的:長距離推論における効率的な注意機構
- 大規模言語モデルの性能向上は重要だが,計算コストが課題となっている。
- 既存のスパース注意機構は,精度低下や再学習の必要性といった問題がある。
- ヘッド間で統一されたトークン選択と安定した直近の文脈維持により,推論精度を維持しつつ計算量を削減する。
- LessIsMoreは,既存モデルの精度を維持または向上させながら,大幅に少ないトークン数で推論を実現した。
- カーネルレベルの最適化により,最長で1.6倍のデコーディング速度向上と,1.72倍のスパース注意計算の高速化を達成した。
- 長文脈データに対する実験からも,提案手法の汎用性が示された。
大規模言語モデルによる歴史的テキストの固有表現抽出 [cs.CL, cs.DL, cs.AI, cs.CL]目的:歴史的テキストにおける固有表現抽出の実現
- 歴史資料のデジタル化が進み,情報抽出の重要性が高まっている。
- 歴史的テキストには,現代テキストと異なり,注釈付きデータセットが少ない。
- 少ないデータで固有表現抽出を可能にする手法を確立すること。
- 大規模言語モデル(LLM)は,ゼロショットおよびフューショットプロンプティング戦略により,歴史的文書の固有表現抽出において,ある程度の性能を発揮することが示された。
- ドメイン固有の注釈付きデータで学習させた完全教師ありモデルに及ばないものの,有望な結果が得られた。
- LLMは,リソースの少ない,または歴史的に重要なコーパスにおける情報抽出の実行可能な代替手段となりうる。
大規模言語モデルにおける幻覚検出の原理的アプローチ:多重検定による手法 [cs.CL, cs.AI, cs.LG]目的:大規模言語モデルの幻覚検出
- 言語モデルの能力向上に伴い,その信頼性確保が重要となっている。
- 既存の幻覚検出器は性能にばらつきがあり,信頼できる検出器の特定が困難である。
- 統計的検定に基づき,幻覚検出の信頼性を向上させる手法を提案する。
- 本研究では,幻覚検出を仮説検定問題として定式化し,多重検定の考え方を導入した。
- 複数の評価スコアを統合することで,偽陽性率を制御した校正された検出を可能にした。
- 多様なモデルとデータセットに対する実験により,提案手法の堅牢性が確認された。
準周期グラフアンサンブルと西森温度におけるランダム結合イジングモデルによる自然画像分類 [cs.LG, cs.CV, cs.IT, math.AT, math.IT]目的:自然画像分類における高次元特徴量の圧縮と分類精度の向上
- 自然画像分類は,画像認識の基盤技術であり,様々な応用分野で重要である。
- 従来の画像分類は,計算コストが高く,特徴量空間の幾何学的構造を捉えきれていない。
- グラフ構造と物理モデルを組み合わせることで,計算効率の良い高精度な分類器を開発する。
- MobileNetV2の特徴量をイジングスピンとして捉え,準周期LDPCグラフを構築することで,特徴量の次元削減を実現した。
- 西森温度での演算により,グラフのトラップ集合と位相不変量との間の対応関係を利用し,分類精度を向上させた。
- ImageNet-10で98.7%,ImageNet-100で84.92%のトップ1精度を達成し,計算量を大幅に削減した。
申し訳ありません,できませんを超えて:大規模言語モデルの拒否行動の解剖 [cs.CC, cs.CL, cs.AI]目的:大規模言語モデルの拒否行動の内部原因の解明
- 有害な指示への拒否は,大規模言語モデルの安全性を確保する上で重要な機能である。
- 指示調整された大規模言語モデルにおける拒否行動のメカニズムは未だ解明されていない。
- 潜在空間の操作による安全性の脆弱性を明らかにし,介入手法を模索する。
- スパースオートエンコーダを用いて潜在空間を探索し,拒否から応答への転換を引き起こす特徴量を特定した。
- 特徴量間の非線形な相互作用を捉えるファクトライゼーションマシンにより,拒否に重要な特徴量のセットを特定した。
- 潜在空間の解釈可能性を活用することで,安全性の監査や介入が可能になる可能性を示唆した。
JaGuard:深層時間グラフを用いたGNSS妨害波の測位誤差補正 [cs.LG]目的:GNSS妨害波による測位誤差の補正
- GNSSは,精密な位置とタイミングが不可欠な重要インフラを支える。妨害波からの保護は喫緊の課題。
- 既存の測位誤差補正法はマルチパス誤差に焦点を当てており,衛星の時空間的な一貫性を活用していない。
- 本研究は,動的なグラフ回帰問題として妨害波対策を捉え,測位誤差を正確に補正することを目指す。
- JaGuardは,実世界のデータセットにおいて,高度なベースラインと比較して,最も低い平均絶対誤差(MAE)を示した。
- 特に,強力な妨害波下(-45dBm)においても,2.85~5.92cmのMAEを維持し,低干渉下では2cm未満に改善した。
- また,データ不足時(10%の学習データ)でも安定性を保ち,ベースラインに見られる大幅な誤差の増大を防いだ。
