arXiv雑要約
AI - 2026/03/25 公開
ポスト選択分布モデル評価 [math.CO, cs.DM, stat.ML, cs.IT, cs.LG, math.IT]目的：モデル評価における分布の信頼性確保
- モデルの性能評価は，実用的なシステム開発において不可欠である。
- 事前評価でモデル選択を行うと，評価データに対する過剰適合が生じ，性能評価が歪む可能性がある。
- モデル選択後の分布評価におけるバイアスを制御し，信頼性の高い比較を可能にすること。
- 本研究で提案するPS-DMEは，モデル選択後の偽カバー率を統計的に制御する。
- サンプル分割法と比較して，より少ないサンプル数で同等の精度を実現できる。
- 合成データ，テキストSQL変換，通信ネットワーク評価において，PS-DMEの有効性が示された。
音声言語モデルにおけるプロンプト増幅とゼロショット後期融合による音声感情認識 [eess.AS, cs.LG]目的：音声感情認識における性能向上
- 音声感情認識は，人間と機械のより自然なコミュニケーションを可能にする上で重要である。
- 既存手法では，汎用モデルと専門モデルの組み合わせが十分に検討されていない。
- ゼロショット学習と後期融合による性能向上を目指す。
- 提案手法ZS-Fuseは，汎用音声言語モデルと専門モデルを後期融合することで，最先端の性能を達成した。
- プロンプトのアンサンブルとプロンプト増幅が，感情認識の曖昧性とプロンプト選択への依存性を軽減する。
- WavLM-Largeを含む既存のベースラインを，3つの音声感情認識データセットで上回る結果が得られた。
指数的に圧縮された非ガウス集約分布に対する高分解能テンソルネットワークフーリエ法 [math.CO, cs.DB, cs.DM, stat.ML, cs.LG, cs.NA, math.NA, quant-ph]目的：独立な確率変数の加重和の特性関数表現の効率的圧縮
- 金融工学等の分野において，複雑な確率分布の正確な計算が重要である。
- 従来の数値計算手法では，高次元の確率分布を扱う際にメモリや計算時間の制約が生じる。
- テンソルネットワークを用いることで，高次元確率分布を効率的に表現し，計算コストを削減することを目指す。
- 特性関数は量子化されたテンソルトレイン（QTT）表現において低ランク構造を示し，非ガウス分布の指数的な圧縮を可能にする。
- ベルヌーイ変数と対数正規分布の加重和において，QTT構造による効率的な計算が確認された。
- 本手法により，標準的なハードウェアで高分解能の確率分布計算（$N = 2^{30}$）が可能となり，VaRやESの計算に貢献する。
解像度崩壊と分散増大の間：少ないデータ環境における重み付き整合異常検知 [stat.ML, cs.LG, stat.ME]目的：少ないデータ環境における整合異常検知手法の性能向上
- 異常検知は，様々な分野で重要な役割を担う。機械学習やデータ分析において，予期せぬ事象や異常値を特定する上で不可欠である。
- 従来の異常検知手法は，データの分布シフトに弱く，現実世界のデータへの適用が難しい場合がある。特に，データ量が少ない状況では，性能が低下しやすい。
- 分布シフトへの適応と，異常検知における検出力維持のトレードオフを解消し，少ないデータでも有効な異常検知手法を確立することを目指す。
- 重み付き整合異常検知は，局所的な非定常性に対応するが，最小p値と安定性の間にトレードオフが生じる。
- 提案手法は，連続推論の緩和により，このトレードオフを解消し，離散化による統計的検出力の低下を回復する。
- 実験結果は，提案手法が従来の離散ベースラインと比較して，検出能力を向上させ，有効なエラー制御を維持することを示している。
分光データからの逆生成によるアモルファス構造の解明 [cond-mat.dis-nn, cond-mat.mtrl-sci, cs.LG]目的：アモルファス材料の原子構造決定
- 材料科学において，実験データを基に原子レベル構造を理解することは重要である。
- アモルファス材料では，現実的かつ実験と一致する構造を提案するのが難しい。
- ポテンシャルエネルギー表面の知識なしに，分光データから構造を生成する。
- 本研究では，GLASSという生成モデルを開発し，分光測定データを原子構造に変換する。
- PDF，X線吸収分光，回折データを用いて，各分光法の相補性を評価した。
- 生成された構造は実験結果を再現し，従来の方法では得られなかったメカニズムを明らかにした。
ポートフォリオ投資のための自律型AIスクリーニングの設計 [quant-ph, cs.CE, math.CO, q-fin.PM, cs.AI, cs.MA, q-fin.ST]目的：ポートフォリオ投資におけるスクリーニング手法
- 投資判断の効率化と収益性向上が求められる現代において，AI技術の活用が重要である。
- 既存のスクリーニング手法は，網羅性や精度の点で課題が残されており，最適な投資機会を見逃す可能性がある。
- AIエージェントによる自律的なスクリーニングを通じて，より効率的かつ高精度な投資判断を可能にすること。
- 本研究で開発されたAIプラットフォームは，ファンダメンタルズ分析とセンチメント分析を組み合わせることで，有望な投資先を効率的に選定する。
- スクリーニングによってポートフォリオに含まれる資産数が変動する点を考慮した理論的枠組みを構築し，その有効性を証明した。
- S&P500データを用いた実証実験の結果，本手法は従来のスクリーニング手法と比較して，優れたシャープレシオを達成した。
相関ガウス特徴を持つ文脈的グラフマッチング [stat.ML, cs.LG]目的：相関ガウス特徴を持つ2つのネットワーク間の文脈的グラフマッチングにおける正確な復元閾値
- グラフマッチングは，ネットワーク構造の比較分析に不可欠であり，様々な応用分野で利用されている。
- 従来のグラフマッチングでは，ノード特徴やエッジ重みの相関が無視される場合が多く，精度が制限される。
- 構造的情報と文脈的情報の相互作用を明らかにし，効率的なアルゴリズム設計の基準を確立すること。
- エッジ重みとノード特徴が相関する場合，グラフと特徴の相関強度，ノード数，特徴次元に応じて，正確な復元が可能かどうかを決定する情報理論的閾値を導出した。
- 標準的なグラフマッチングとは異なり，文脈的情報が加わることで，正確な復元とほぼ正確な復元の閾値が一致しなくなることが示された。
- 構造的情報と文脈的情報の相互作用の厳密な特性評価を初めて提示し，効率的なアルゴリズム設計のためのベンチマークを確立した。
スマートフォン地震速報に対するユーザー認識：LLMとソーシャルメディアの活用 [stat.AP, cs.AI, cs.CY, physics.geo-ph]目的：スマートフォン地震速報システムに対するユーザーの認識と行動に関する属性の抽出と分析
- 地震は甚大な被害をもたらす自然災害であり，早期警戒システムの重要性は高い。
- 既存の地震速報システムは技術的な精度に偏りがちで，ユーザーの主観的な評価との乖離がある。
- ユーザーの信頼と速報のタイミングの関係を解明し，より効果的なシステム開発に貢献する。
- LLMを用いたソーシャルメディア分析により，ユーザー体験と行動に関する42の属性を特定した。
- ユーザーの信頼度と速報のタイミングの間には強い相関関係が認められた。
- 技術的な精度だけでなく，ユーザーにとっての「正確さ」は速報のタイミングが重要であることが示唆された。
高分解能検出器における点群セグメンテーションのためのコントラスティブメトリック学習 [hep-ex, cs.AI, cs.CV, cs.LG]目的：点群セグメンテーションのための新しいクラスタリング手法
- 高分解能検出器は素粒子物理学において重要な役割を担うため，そのデータ解析技術の向上は不可欠である。
- 点群データのセグメンテーションは，高分解能検出器から得られる複雑なデータ構造のため，困難な課題である。
- 本研究は，点群データのセグメンテーションにおける表現学習の改善を目指す。
- 提案手法は，同じオブジェクトに属する点を近く，関係のない点を分離する潜在表現を学習することで，安定した埋め込み幾何学を実現した。
- その結果，電磁シャワーとハドロンシャワーの分離性能が向上し，オーバーラップするシャワーの信頼性も高まった。
- 高多重度環境下においても優れた性能を維持し，シャワー形状のロバストな学習を示唆する。
信頼性の高いプロセス監視のための正確かつ解釈可能なフレームワーク [cs.AI, cs.LG, eess.SP, stat.AP]目的：エネルギー変換プラントの安全確保に不可欠な，正確かつ解釈可能な監視フレームワークの構築
- エネルギー変換プラントの安全性は重要であり，異常検知技術の精度向上が求められている。
- 既存の自己注意モデルは，プラントログの物理的意味を捉えきれず，解釈性に課題がある。
- 物理的意味に基づいた相関を捉え，偽の相関を排除することで，監視の精度と解釈性を向上させる。
- 提案手法AttentionMixerは，空間的・時間的なメッセージパッシングブロックと混合演算子により，多角的な表現を獲得する。
- スパースメッセージパッシング正則化により，不要な相関をフィルタリングし，解釈性を高める。
- 中国の原子力プラントの実際のデータを用いた検証により，AttentionMixerの有効性が確認された。
HCIの課題マッピング：大規模な洞察抽出のためのChatGPTの応用と評価 [cs.HC, cs.AI]目的：大規模なHCI研究論文コーパスからの研究課題抽出
- HCI研究は，人間と技術の相互作用を最適化し，より使いやすく，効果的なシステムを開発する上で不可欠である。
- 既存の研究課題の把握は断片的であり，体系的な分析と新たな課題の発見が求められている。
- LLMを活用し，大規模なテキストデータから効率的に研究課題を抽出し，可視化すること。
- ChatGPT（GPT-3.5とGPT-4）を用いて，2023年ACM CHI会議の879論文から4,392件の研究課題を抽出した。
- 抽出された課題は113のトピックに分類され，トピックモデリングとインタラクティブな可視化を通じて整理された。
- 抽出された課題は，倫理やアクセシビリティといった分野で既存のHCIの課題やSDGsとの整合性が見られた。
膝またはROC [cs.LG, cs.CV]目的：多クラス画像検出における精度評価手法の検討
- 画像認識技術は，医療，自動運転など幅広い分野で重要性が増している
- 既存手法は，単一クラスの画像データセットを前提としており，多クラスデータへの適用が課題
- 未知のデータ分布下における多クラス画像検出の精度評価方法を確立すること
- ROC曲線による閾値設定は多クラス画像検出に有効だが，データ分布が不明な場合は不向きである。
- 膝方法による閾値算出は，データ分布に依存せず，未知のデータにも適用可能である。
- CIFAR-10データセットを用いた実験により，両手法の有効性と限界が示された。
競技スポーツにおける勢いを探索するための機械学習融合モデルと経験的公式 [cs.LG]目的：競技スポーツにおける勢いの定量化と分析
- スポーツ競技において，技術以外の要因が勝敗に影響する可能性が注目されている。
- 「勢い」という概念は直感的に理解されるものの，客観的な定義と定量化が困難である。
- テニス競技のデータに基づき，勢いをモデル化し，試合中のリアルタイム分析を可能にすること。
- データ駆動型モデルとして，SVM，Random Forest，XGBoostを融合したモデルを構築した。
- 経験的公式モデルでは，テニスプレイヤーの知見に基づき，スライディングウィンドウ法を用いて勢いの重みを計算した。
- CUMSUMアルゴリズムとRUN Testにより，勢いがランダムではなく，ある程度の傾向を持つことが示唆された。
動的スケジューリングと適応的並列化の共同設計による大規模モデルの効率的な学習 [cs.DC, cs.LG]目的：大規模モデルの効率的な学習
- 機械学習モデルの規模拡大に伴い，GPUクラスタにおける学習効率が重要となっている。
- 既存の動的スケジューラは，静的並列化と適応的並列化の不一致により，クラスタ効率が低下している。
- 動的スケジューリングと適応的並列化を共同設計することで，クラスタ効率の向上を目指す。
- Arenaは，低コストなプロファイリングとAPに合わせた負荷を考慮した性能推定を設計し，スケジューリングと並列化の最適化空間をグリッド抽象化で統合する。
- 異種環境および実運用負荷での評価により，Arenaはジョブ完了時間を最大49.3%短縮し，クラスタのスループットを最大1.60倍向上させる。
- Arenaは，弾力性と異質性を考慮した動的スケジューリングと，プルーニングされた検索空間を用いた効率的なAPを実行する。
並行文書に対するスマートな二言語集中クローリング [cs.CL, cs.LG]目的：並行文書の発見効率向上
- 機械翻訳の発展には，大量の並行コーパスが不可欠である。
- 既存のクローリング手法は効率が悪く，不要なデータ量が多い。
- クローリング初期段階で並行文書を効率的に発見し，データ収集コストを削減する。
- 事前学習済みの多言語モデルをファインチューニングすることで，URLから言語を推定する精度を向上させた。
- URLペアが並行文書へのリンクであるかどうかを判定するモデルも有効であることが示された。
- 両モデルを統合したクローリングツールは，従来のクローリング手法と比較して，より多くの並行文書を発見できる。
外挿的擬似ラベルマッチングによる信頼性の高いOODバーチャルスクリーニング [cs.LG, cs.AI]目的：OOD（分布外）領域におけるバーチャルスクリーニングの信頼性向上
- 創薬において，実験コストを抑えつつ新規化合物を探索する上で，機械学習の活用が重要となっている。
- 機械学習モデルは，学習データとは異なるOOD領域において性能が低下し，新規化合物の発見を妨げる場合がある。
- 本研究は，OOD領域への外挿能力と信頼性の高い信頼度推定を両立することで，新規化合物の探索を可能とする。
- 提案手法EXPLORは，潜在空間の拡張と外挿的擬似ラベリングにより，OOD領域への適応性と信頼度推定の精度を向上させる。
- 特に，実験検証に進む高信頼度領域において優れた性能を示し，バーチャルスクリーニングの実用性を高める。
- 様々な分子埋め込みを用いたベンチマークテストにおいて，最先端の性能を達成した。
より多くの対称性と効率のための最小フレーム平均による不変性 [cs.LG]目的：機械学習システムにおける不変性の実現
- 物理シミュレーションや粒子物理学など，対称性は様々な分野で重要な役割を果たす。
- 既存のフレーム平均法は計算コストが高いか，近似的な不変性しか保証しない。
- 最小限のフレームで厳密な不変性を実現し，計算効率を向上させることを目指す。
- 最小フレーム平均（MFA）という数学的枠組みを提案し，厳密な不変性を保証する最小フレームの構築を可能にした。
- MFAは，ローレンツ群やユニタリ群など，これまでよりも多くの群にフレーム平均を拡張できることを示した。
- n体シミュレーション，トップタグ付け，エネルギー予測などの多様なタスクにおいて，MFAの効率と有効性を実証した。
3Dフロアプランニングにおける空間の一般化による大規模行動空間への対処 [cs.LG, cs.CE]目的：3Dフロアプランニングにおける大規模行動空間への対処法
- 建築設計の自動化は，設計効率の向上と人的資源の節約に貢献する重要な研究分野である。
- 従来の離散座標に基づく手法では，行動空間の拡大に伴い，計算量が増大し，スケーラビリティが課題となっていた。
- 連続的な行動表現を用いることで，大規模な設計空間における学習と推論をより現実的なものにすることを目指す。
- 連続的な配置空間での推論と，推論時の離散化のみを行うことで，出力構造をキャンバスの解像度から分離することに成功した。
- 配置空間において近い行動は，しばしば類似した結果を生み出すという「L-action類似性」が，モデルの汎化性能を向上させる構造的バイアスとなることが示された。
- ランダムなフロアプランのみで事前学習したモデルでも，フロアプランの構築を学習できることが実証された。
任意の特徴量を持つ線形時間差学習のほとんど確実に収束 [cs.LG, cs.AI]目的：線形時間差学習のほとんど確実な収束
- 強化学習において，予測アルゴリズムとして重要な役割を担う手法である。
- 従来の線形時間差学習の収束には，特徴量の線形独立性が要求されていた。
- 線形独立性を仮定しない状況下での線形時間差学習の収束を証明する。
- 線形時間差学習の重み反復は，有界集合に収束することが示された。
- その重みから導出される価値推定値は，ほとんど至る所で一致する。
- 重み反復の局所的な安定性も確立された。
非IIDデータにおけるデータセット蒸留に基づくハイブリッド連合学習 [cs.LG, cs.AI]目的：連合学習におけるモデル訓練の性能向上
- 連合学習は，データが分散された環境での学習を可能にし，プライバシー保護に貢献する重要な技術である。
- クライアントデータの非IID性は，モデル訓練の性能に大きな悪影響を及ぼす主要な課題となっている。
- ラベル分布の偏りを軽減し，連合学習におけるモデル訓練の効率と精度を向上させることを目指す。
- 提案手法HFLDDは，データセット蒸留によりほぼIIDなデータを生成することで，モデル訓練の性能を改善する。
- 実験結果から，HFLDDは，ラベルの不均衡が著しい場合に，従来の連合学習手法と比較して，テスト精度と通信コストの両面で優れていることが示された。
- HFLDDは，クライアントを不均一なクラスタに分割し，クラスタヘッドが蒸留データを用いてモデル訓練を行うことで，非IIDデータの影響を軽減する。
SwiftQueue：Swiftパケットキューイングによる低遅延アプリケーションの最適化 [cs.NI, cs.CY, cs.HC, cs.NI, cs.LG]目的：低遅延アプリケーションにおける遅延の削減
- ネットワークパフォーマンスにおいて，低遅延は重要な課題であり，特にリアルタイムアプリケーションに不可欠である。
- 従来のL4Sキュー選択戦略では，フロー内の全てのパケットが同じキューに割り当てられ，一時的な輻輳の影響を受けやすい。
- パケットごとの遅延予測により，より適切なキューにパケットを割り当て，遅延を最小限に抑えることを目指す。
- SwiftQueueは，Transformerモデルを用いてパケットの遅延を予測し，従来の方式よりも高い精度を実現した。
- 実ネットワークのトレースを用いた評価により，SwiftQueueは遅延予測の精度が既存方式を45-65%上回ることが示された。
- SwiftQueueは，L4S対応フローのテール遅延を36-45%削減し，低遅延アプリケーションのパフォーマンス向上に貢献する。
テーブルLLMスペシャリスト：反復的な生成・検証ファインチューニングによるテーブル処理言語モデルの専門家 [cs.CL, cs.DB, cs.LG]目的：テーブル処理タスクにおける言語モデルの性能向上
- 自然言語処理の発展に伴い，テーブル形式データの活用が重要になっている。
- 複雑なテーブル処理タスクにおいて，言語モデルの性能は十分とは言えない。
- ラベル付けコストを抑えつつ，言語モデルのテーブル処理能力を向上させる。
- Table-LLM-Specialistは，GPT-3.5でファインチューニングすることでGPT-4と同等の品質を達成できる。
- 小規模モデルでも高品質なテーブル処理が可能になり，コストとレイテンシを削減できる。
- 実世界のテーブルデータから生成された多様なデータで学習することで，汎化性能が向上する。
計算力学における偏微分方程式に対する人工知能：レビュー [eess.SY, cs.LG, cs.SY]目的：偏微分方程式に対する人工知能に関する研究の概観
- 計算力学は，工学分野におけるシミュレーションや設計に不可欠な基盤技術である。
- 従来の数値計算手法は計算コストが高く，複雑な問題への適用が困難な場合がある。
- データと物理法則を融合することで，計算効率を向上させ，新たなシミュレーション手法を確立する。
- 近年，人工知能は科学分野に広く応用され，特に偏微分方程式の求解に注目が集まっている。
- 物理情報ニューラルネットワーク(PINN)や深エネルギー法(DEM)など，様々なアルゴリズムが存在する。
- 人工知能は，従来の数値計算手法を加速する次世代の基盤モデルのプロトタイプとなる可能性を秘めている。
RealCQA-V2：科学グラフにおける構造化された視覚的含意の診断ベンチマーク [cs.AI]目的：科学グラフに関する構造化視覚的含意の診断
- 科学技術の発展には，グラフなどの視覚情報を正確に理解する能力が不可欠である。
- 既存のベンチマークは最終的な答えの正誤のみを評価しており，推論過程の検証が困難である。
- 科学グラフの要素に基づいた，段階的な視覚的含意検証を可能にするベンチマークの構築。
- RealCQA-V2は，グラフに基づく視覚的述語に関する論理的含意タスクとして，チャートQAを再構築した。
- 各質問は，グラフ要素に基づいた原子的な前提文に分解され，実行可能な推論チェーンが生成される。
- 既存のモデルは，個々の前提文は正しく検証できるものの，完全なチェーンにおける整合性を維持できないという課題が明らかになった。
動的メモリを用いたリプレイ不要の継続低ランク適応 [cs.CV, cs.LG]目的：継続学習における性能向上
- 大規模モデルの活用が進む中，知識の継続的な獲得が重要である。
- モデルサイズ増大に伴い，過去知識の忘却（破滅的忘却）が深刻化している。
- 効率的なパラメータ更新で，忘却を抑制し，継続学習を可能にすること。
- 提案手法DualLoRAは，既存の継続学習手法に対し，精度，推論速度，計算効率で優位性を示す。
- 直交LoRAと残差LoRAを組み合わせ，動的メモリ機構により安定性と可塑性のバランスを実現する。
- タスク識別による信頼性推定と出力調整により，モデルの性能をさらに向上させる。
LOGSAFE：論理的指針による信頼性の高い連合時系列学習の検証 [cs.CR, cs.AI, cs.DC, cs.LO]目的：連合時系列学習における信頼性向上
- サイバーフィジカルシステム等の時間依存データ分析において，連合学習の活用が重要視されている。
- 連合学習は，悪意のある参加者によるデータ汚染攻撃に対して脆弱であるという課題がある。
- LOGSAFEは，論理的推論を用いて悪意のあるクライアントを検出し，連合学習の信頼性を高めることを目指す。
- LOGSAFEは，従来の更新類似性に基づく手法を超え，クライアントの信頼性を評価する。
- クライアント固有の時間特性を抽出し，グローバルなパターンを推論し，それらに対する検証を行う。
- 実験結果から，既存手法と比較して最大93.27%の誤差削減を達成することが示された。
DART-Eval：遺伝子発現制御DNAに対するDNA言語モデル評価ベンチマーク [cs.LG, q-bio.GN]目的：遺伝子発現制御DNAに対するDNA言語モデルの性能評価
- ゲノム研究の進展に伴い，DNA配列の言語モデルが注目されている。
- 既存のベンチマークでは，遺伝子発現制御DNAの性能評価が不十分である。
- 遺伝子発現制御DNAに特化したベンチマークによる言語モデルの能力評価を行う。
- 既存のDNA言語モデルは，多くのタスクにおいて，計算コストが高いにも関わらず，既存モデルを上回る性能を示せていない。
- DART-Evalは，機能的配列特徴の発見，細胞タイプ特異的な制御活性の予測，遺伝子変異の影響予測などの評価が可能である。
- 次世代DNA言語モデルに向けて，モデリング，データキュレーション，評価戦略の改善が期待される。
条件付きサンプリングのためのペア化されたWassersteinオートエンコーダ [cs.LG, stat.ML]目的：条件付きサンプリングのための新しい損失関数
- 生成モデルは，データの潜在表現を学習し，複雑な分布を扱う上で重要である。
- 既存の生成モデルは，分布間のマッピングを学習する際に困難を抱えている。
- Wassersteinオートエンコーダを用いて，分布間の最適輸送マップを学習し，条件付きサンプリングを可能にすること。
- 提案手法では，2つのペア化されたWassersteinオートエンコーダを用いて，最適輸送型結合からのサンプリングを可能にする損失関数を導出した。
- 決定論的エンコーダを通じて，2つのデータ分布間のコスト最適輸送マップを学習することができる。
- コスト一貫性制約の下で，確率的デコーダによる条件付きサンプリングが可能となる。
潜在QA: LLMに活性化を自然言語へ変換させる [cs.CL, cs.CY, cs.LG]目的：言語モデル活性化の解釈
- LLMの内部動作理解は，その挙動の改善や制御に不可欠である。
- 従来のプローブは出力が限られ，活性化の複雑な情報を捉えきれない。
- 活性化から自然言語を生成するプローブで，より詳細な解釈を目指す。
- 活性化に関する質問に答えるLatentQAタスクを開発し，活性化と自然言語の対応データセットを構築した。
- 構築したデコーダーLLMは，隠れたシステムプロンプトの発見や関係知識の抽出において，既存のプローブよりも優れた性能を示した。
- デコーダーの精度により，学習時に見られなかった挙動をターゲットモデルに誘導することが可能となった。
MSA-CNN：注意機構付き軽量マルチスケールCNNによる睡眠段階分類 [cs.LG, eess.SP]目的：睡眠段階分類のための軽量なマルチスケールCNNモデルの開発
- 睡眠の質は健康に不可欠であり，睡眠段階の正確な分析は睡眠障害の診断や治療に重要である。
- 既存の睡眠段階分類モデルは複雑で，実用的な応用において計算コストが高いという課題がある。
- 本研究は，パラメータ数を削減し，計算コストを抑えた高精度な睡眠段階分類モデルを構築する。
- 提案手法MSA-CNNは，パラメータ数を大幅に削減しつつ，既存の最先端モデルと比較して高い精度を達成した。
- マルチスケールモジュールと注意機構の組み合わせが，効率的な特徴抽出と分類性能の向上に貢献している。
- 本研究の結果は，睡眠段階分類における軽量モデルの有効性を示唆しており，ウェアラブルデバイスへの応用が期待される。
大規模ビジョン言語モデルにおける注意機構の校正による物体幻覚の軽減 [cs.CV, cs.AI]目的：大規模ビジョン言語モデルにおける物体幻覚の軽減
- 近年，画像とテキストを理解するモデルが発展している。その応用範囲は広く，社会実装が期待されている。
- これらのモデルは，視覚情報に基づかない誤った情報を生成することがあり，信頼性を損なう可能性がある。
- 注意機構の偏りを校正することで，幻覚を抑制し，より正確な応答を生成することを目指す。
- 提案手法であるDACは，コントラスト学習を用いて注意機構を動的に校正し，モデルや入力への適応性を高める。
- DACは，既存手法と比較して，物体幻覚の大幅な軽減とマルチモーダルアライメントの向上を複数のベンチマークで示した。
- DACは，様々なLVLMアーキテクチャにおいて最先端の性能を達成し，汎用性の高い解決策となる。
不一致理論による注意機構近似のストリーミング手法 [cs.LG, cs.AI, cs.DS]目的：長文脈トークン生成における注意機構近似のストリーミング複雑性
- 大規模言語モデルの性能向上に伴い，その高いメモリ要件が課題となっている。
- 長文脈処理における計算コストとメモリ消費の増大がボトルネックとなっている。
- 不一致理論に基づき，効率的な注意機構近似アルゴリズムを開発し，メモリ効率を改善すること。
- 提案手法BalanceKVは，KeyとValueトークンのバランスの取れた選択により，注意機構計算を近似する。
- 理論的な保証に加え，既存手法と比較して，注意機構近似と長文脈ベンチマークにおける性能向上が確認された。
- ストリーミング注意機構計算の空間下界も示され，アルゴリズムの効率性が裏付けられた。
EmbBERT：2MB以下のメモリでの注意機構 [cs.CL, cs.AR, cs.DC, cs.LG]目的：極小言語モデルの設計と性能評価
- 自然言語処理の進歩は目覚ましいが，リソースの少ない環境での利用が課題となっている。
- Transformerモデルは高性能だが，メモリ消費量が大きく，ウェアラブルやIoT機器での利用が困難である。
- メモリ制約下でも高い性能を発揮できる，効率的なTransformerモデルの実現を目指す。
- EmbBERTは，わずか2MBのメモリで動作し，既存の高性能モデルに匹敵する精度を達成した。
- TinyNLPベンチマークとGLUEスイートにおいて，同サイズのBERTやMAMBAよりも優れた性能を示した。
- 8ビット量子化により，メモリ使用量を781kBまで削減可能であり，スケーラビリティも確認された。
データ駆動型フィードフォワード制御のための連合学習：車両横力学への応用事例 [cs.LG, cs.MA]目的：データ駆動型フィードフォワード制御器の設計
- 制御システムの追跡精度向上に，フィードフォワード制御とフィードバック制御の組み合わせが有効である。
- 効果的なデータ駆動型フィードフォワード制御器の設計には，大量の高品質なデータと実験計画が必要となる。
- 分散したデータから効率的にフィードフォワード制御器を設計し，データプライバシーを保護すること。
- 提案手法では，連合学習を用いて各クライアントがローカルデータでフィードフォワード制御器を学習し，モデル更新のみを共有する。
- シミュレーション結果から，提案手法は集中型学習と同等の性能を発揮し，通信オーバーヘッドを削減し，データプライバシーを向上させる。
- 車両の軌道追従タスクにおいて，連合学習によるニューラルフィードフォワード制御器の有効性が確認された。
トレーニング不要な調整可能多項式グラフフィルタによる超高速マルチモーダル推薦 [cs.IR, cs.AI, cs.IT, cs.LG, cs.SI, math.IT]目的：マルチモーダル推薦システムの効率的かつ正確な推薦
- ユーザーとのインタラクションの希薄性を緩和し，エンゲージメントを高めるため，マルチモーダル推薦システムが重要視されている。
- 既存のニューラルネットワークベースモデルは，複数のモダリティからの情報を学習・統合する複雑な訓練プロセスに大きな計算コストがかかる。
- 本研究は，訓練を必要としないグラフフィルタリングに基づく手法により，計算コストを削減しつつ，推薦精度を向上させることを目指す。
- 提案手法は，既存の最良手法と比較して，最大22.25%の推薦精度向上を達成した。
- また，実行時間を10秒未満に抑えることで，計算コストを大幅に削減することに成功した。
- グラフフィルタの周波数応答を調整することで，多種多様なモダリティからの情報を最適に融合することが可能となった。
対話型システムによる深偽テキストの共同評価 [cs.CL, cs.AI, cs.HC]目的：深偽テキスト検出における共同問題解決の可能性
- 生成モデルの進化に伴い，テキストの真偽判定が困難になっている。
- 個人の判断では深偽テキストの検出精度に限界がある。
- 対話型システムを活用し，共同評価による検出精度向上を目指す。
- グループでの問題解決は，個人よりも深偽テキストの識別精度を向上させる。
- DeepFakeDeLiBotとの対話は，全体的な精度向上は限定的だが，議論の活発化に貢献する。
- グループワークの有効性を高く感じた参加者において，DeepFakeDeLiBotの利用効果が認められる。
観測予測比からの乗法的学習 [cs.RO, cs.MA, cs.LG, cs.AI]目的：観測予測比に基づくパラメータ更新
- 機械学習の最適化は，現代の深層学習において不可欠であり，その効率性は学習速度に直結する。
- 勾配降下法は，損失関数の規模や曲率に応じて，多数の反復回数や複雑な学習率の調整を必要とする。
- 観測予測比に基づく新たな学習パラダイムにより，損失関数や学習率の調整を不要とし，迅速な最適化を実現する。
- Expectation Reflection (ER) は，予測値と観測値の比率に基づいてパラメータを更新する乗法的学習手法である。
- ERは，損失関数や学習率の調整なしに内部整合性を維持しながら，効率的な学習を可能にする。
- 多層ネットワークへの拡張により，画像分類において単一の反復で最適な重みを決定できることが示された。
アーキテクチャを意識した最小化 (A$^2$M): ニューラルアーキテクチャ探索における平坦な最小値を見つける方法 [cs.LG, cond-mat.dis-nn, cs.CV]目的：ニューラルアーキテクチャ探索空間における平坦な最小値を探索すること
- ニューラルネットワークの設計において，性能と効率性を両立させる自動化技術の重要性が増している。
- 微分可能なNAS手法では，探索空間の構造が十分に理解されておらず，最適化が困難である。
- アーキテクチャ探索空間の幾何学的構造を明らかにし，平坦な最小値への勾配を誘導する手法を開発すること。
- 本研究では，NAS-Bench-201およびDARTSにおけるアーキテクチャ空間の平坦性に着目し，その幾何学的特性を明らかにした。
- 提案手法A$^2$Mは，既存の微分可能なNAS手法に容易に組み込むことができ，汎用性の高いツールとなる。
- 実験結果から，A$^2$MはCIFAR-10，CIFAR-100，ImageNet16-120において，平均でテスト精度を3.60%～4.60%向上させることを示した。
フェデレーテッド学習における非IIDデータの再定義：コンピュータビジョンタスクに対するラベルから埋め込みへの移行によるタスク固有のデータ分布 [cs.CV, cs.LG]目的：コンピュータビジョンタスクにおけるフェデレーテッド学習の性能劣化要因の分析と，新たなデータ異質性の定義
- 分散機械学習において，データプライバシーを保護しつつモデルを学習するフェデレーテッド学習は重要である。
- クライアント間でのデータ分布の偏り（非IID）がフェデレーテッド学習の性能を著しく低下させるという課題がある。
- 従来のラベル分布に基づく異質性の定義では不十分であり，タスク固有のデータ特性を考慮した新たな異質性の評価が必要である。
- 提案手法では，事前学習済みの深層ニューラルネットワークを用いてタスク固有のデータ埋め込みを抽出し，それに基づくデータ異質性を定義した。
- この埋め込みに基づく異質性評価は，従来のラベル分布に基づく評価よりも，フェデレーテッド学習における性能劣化をより正確に捉えることが示された（最大約60%の損失増加）。
- 本研究は，今後のフェデレーテッド学習におけるデータ異質性に関する研究の方向性を示唆する。
概念ベースモデルにおける情報漏洩と解釈可能性 [cs.LG, cs.AI, stat.ML]目的：概念ベースモデルにおける情報漏洩の特性評価と定量化
- 高リスクな場面での利用を見据え，モデルの解釈可能性向上は重要課題である。
- 概念ベースモデルは，学習された概念に意図しない情報が含まれる情報漏洩を起こしやすい。
- 情報漏洩の原因を特定し，解釈可能性を担保したモデル設計指針を提示すること。
- 情報理論的枠組みを用いて，概念-タスク漏洩(CTL)と概念間漏洩(ICL)の2つの指標を定義・導入した。
- これらの指標は，介入下でのモデル挙動を予測する能力が既存手法を上回ることを示した。
- 概念埋め込みモデルのケーススタディにより，設計上の漏洩に加え，概念間の漏洩とアラインメント漏洩を特定した。
GeneMamba：シングルセルデータのための効率的かつ効果的な基盤モデル [cs.CL, cs.LG, q-bio.GN]目的：シングルセルトランスクリプトームデータの解析における基盤モデル
- シングルセル解析は，細胞の多様性を高精度に理解する上で不可欠な手法である。
- 高次元性，スパース性，バッチ効果といったデータ特有の問題が，計算上の大きな課題となっている。
- 計算効率を向上させ，長距離依存性をより適切に処理するモデルを開発すること。
- GeneMambaは，状態空間モデルに基づいて構築され，Transformerと比較して計算効率が高い。
- 約3000万細胞で事前学習を行い，生物学的な知識に基づいた目的関数を組み込んでいる。
- バッチ統合，細胞タイプ注釈，遺伝子間相関など，多様なタスクで優れた性能と解釈可能性を示した。
スパース化された直交更新による二段階ワイヤレス連合学習LoRAファインチューニング [cs.LG, eess.SP]目的：ワイヤレス環境における連合学習のためのLoRAファインチューニングの最適化
- 大規模言語モデルの性能は目覚ましいが，計算資源の制約から実用化には課題が多い。
- 連合学習では，通信コストがボトルネックとなり，効率的なモデル更新が困難である。
- 通信コストを削減しつつ，連合学習におけるLoRAファインチューニングの性能を向上させる。
- 提案手法は，理想的な条件下でのモデルと同等の精度を達成しつつ，通信オーバーヘッドを大幅に削減することを示した。
- スパース化された直交更新（SOFT）により，高コストな行列演算や特異値分解を回避し，パラメータ更新を効率化できる。
- 二段階連合学習アルゴリズム（TSFA）により，遅延制約下でも効率的な学習が可能となる。
共分散密度ニューラルネットワーク [cs.RO, cs.LG]目的：グラフ構造選択の課題に対する，共分散行列に基づく新たなグラフシフト演算子の構築
- ネットワークデータ解析において，グラフニューラルネットワークは重要な役割を担う。
- 適切なグラフ構造の選択が，モデル性能に大きく影響する点が課題である。
- 共分散密度行列を用いることで，多様なスケールでのデータ抽出とロバスト性の向上を目指す。
- 提案手法は，従来のVNNと比較して，安定性と識別力のトレードオフを明示的に制御可能である。
- 脳波信号を用いた運動想像によるブレイン・コンピュータ・インターフェースにおいて，EEGnetを上回る性能と高速性を実現した。
- 未知の個人に対する転移学習の困難性を克服する可能性を示唆する。
GAIA：運用大気力学のための基盤モデル [cs.LG, cs.AI]目的：運用大気力学のための基盤モデルの構築
- 気象予報や気候変動予測において，大気の状態把握は不可欠である。
- 既存の手法では，観測データの欠損やノイズの影響を受けやすい。
- 衛星データから大気の状態をより高精度に把握する手法を開発する。
- GAIAは，15年間の衛星赤外観測データを用いて事前学習された。
- 大気力学的な特徴を捉え，日周変化の影響を受けにくい表現学習が可能となった。
- 大気河川のセグメンテーション，熱帯低気圧の検出，降水量の推定において，既存手法を上回る性能を示した。
LLMとメタ最適化による汎用的なヒューリスティック生成 [cs.LG, cs.AI]目的：組み合わせ最適化問題に対するヒューリスティック生成手法の開発
- 組み合わせ最適化問題は現実世界に多く存在し，効率的な解法が求められている。
- 既存手法は，手動で定義された最適化アルゴリズムに依存し，汎化性能が低い。
- LLMを活用し，多様なヒューリスティックを自動的に生成し，汎化性能を向上させる。
- MoHは，LLMを用いてメタ最適化器を反復的に洗練させ，多様なヒューリスティック最適化器を構築する。
- 構築された最適化器が下流タスクのヒューリスティックを進化させ，幅広い探索を可能にする。
- 実験の結果，MoHは様々なタスクで最先端の性能を達成し，特にサイズ変更において優れた結果を示した。
空飛ぶ豚，FaR，そしてその先：反事実世界におけるLLMの推論能力評価 [cs.CL, cs.LG]目的：反事実世界におけるLLMの論理的推論能力
- 大規模言語モデルの推論能力は，様々な応用において重要であり，その限界を理解することが不可欠である。
- LLMは学習データに依存するため，知識と論理が矛盾する状況下での推論が困難である。
- LLMが知識と論理の矛盾を認識し，よりロバストな推論を行うための手法を開発すること。
- LLMは，知識と整合する状況と比較して，反事実的な状況下で推論精度が平均14%低下する。
- 知識の矛盾を事前に認識させる「Flag & Reason (FaR)」介入により，精度低下は7%に抑制され，全体的な精度も4%向上した。
- この結果は，LLMの推論における重要な限界を明らかにし，メタ認知的なアプローチの有効性を示唆する。
PRISM：漸進的洗練と挿入による疎な運動のためのビデオデータセット凝縮 [cs.CV, cs.AI, cs.LG]目的：ビデオデータセットの凝縮
- ビデオ処理の計算コストが高いことが課題であり，データセットのサイズ削減が重要である。
- 既存手法では，空間情報と時間的変化を分離するアプローチが主流だが，現実世界の動作の複雑な関係性を捉えきれない。
- 空間情報と時間的変化を統合的に捉え，効率的なデータセットの凝縮を実現することを目指す。
- PRISMは，ビデオを空間情報と時間的変化が完全に結合された時空間構造として扱うことで，データセットの凝縮を行う。
- 固定フレーム最適化を避け，非線形な動きを捉えられない箇所にキーフレームを漸進的に挿入することで，表現効率を最大化する。
- 実験により，PRISMは標準的なベンチマークで優れた性能を発揮し，疎な表現学習により高いストレージ効率を実現することが示された。
文脈的に矛盾するプロンプトからの画像生成 [cs.GR, cs.AI, cs.CV, cs.LG]目的：文脈的矛盾に対する画像生成の改善
- 画像生成技術は，創造性や表現の可能性を広げ，多様な分野での応用が期待されている。
- テキストと画像の意味の一貫性が不十分であり，矛盾する概念を含むプロンプトへの対応が課題である。
- 文脈的矛盾を解消し，プロンプトの内容に忠実な画像を生成することを目指す。
- 提案手法では，段階に応じたプロンプト分解フレームワークを用いることで，画像の生成過程を制御する。
- 大規模言語モデルを活用し，矛盾を特定・解決する代替表現を生成し，文脈の一貫性を確保する。
- 実験の結果，文脈的矛盾を含む困難なプロンプトに対するテキストとの整合性が大幅に向上した。
CyberGym：大規模な評価によるAIエージェントの現実世界のサイバーセキュリティ能力 [cs.CR, cs.AI, cs.LG]目的：AIエージェントのサイバーセキュリティ能力の評価
- サイバーセキュリティは，社会インフラや個人情報を守る上で不可欠であり，その重要性は増している。
- 既存の評価手法は規模が小さく，動的なセキュリティ課題を捉えきれていない。
- AIのサイバーセキュリティ能力を正確に測定し，現実世界への影響を創出すること。
- CyberGymは，1507件の脆弱性を含む大規模ベンチマークであり，AIエージェントの能力を効果的に識別できる。
- 最先端の組み合わせでも成功率は約20%にとどまり，課題の難易度が高いことが示された。
- CyberGymによって34件のゼロデイ脆弱性と18件の未完成パッチが発見され，実用的なセキュリティインパクトが確認された。
ビジネスセマンティクス中心，AIエージェント支援型データシステム [cs.AI, cs.MA]目的：ビジネスセマンティクス中心，AIエージェント支援型データシステム
- 現代ビジネスは変化に即応する必要があり，データ活用が競争力維持に不可欠である。
- 既存のデータプラットフォームは技術偏重でビジネスニーズとの乖離が生じ，非効率化を招いている。
- ビジネスニーズに合致したデータシステムを構築し，組織の成長を促進すること。
- BSDSは，アーキテクチャ，ワークフロー，チーム編成を統合し，ビジネス優先度に基づいたデータシステムを実現する。
- データチームの専門知識とビジネスセマンティクスを整合させ，技術とビジネスニーズのギャップを埋める。
- 実世界での実装により，データ駆動型イニシアチブの市場投入までの時間を加速し，部門間の連携を強化する。