arXiv雑要約
AI - 2026/06/05 公開
継続学習ベンチ:現実世界のステートフル環境における最先端AIシステムの評価 [cs.AI, cs.CL]目的:最先端AIシステムにおける継続学習能力の評価
- AIの継続学習は重要であり,その能力向上は実世界への応用範囲を拡大する。
- 既存の評価基準は不十分であり,AIシステムの真の継続学習能力を測れない。
- 多様な現実世界のタスクを通じて,継続学習システムの改善の余地を示す。
- CL-Benchは,ソフトウェア工学,信号処理など6つの多様な分野を包含する最初の専門家検証済みのベンチマークである。
- 最先端モデルの評価の結果,多くのシステムが即時観察への過剰適合や知識の再利用の失敗といった課題が明らかになった。
- 専用のメモリシステムは必ずしも性能向上に繋がらず,単純なICLの方が上回る場合もあることが示された。
エージェントを増やすことは有効か? LLMエージェントワークフローの統制されたプロトコル準拠評価 [cs.CY, cs.RO, cs.SY, eess.SY, cs.AI]目的:LLMワークフローにおけるエージェント数増加の効果検証
- LLMの能力向上は,様々なタスクの自動化を可能にし,社会に大きな変革をもたらすと期待されている。
- マルチエージェントシステムの評価方法が標準化されておらず,公平な比較が困難である。
- 統一された評価プロトコルに基づき,エージェント数増加が性能向上に寄与するか検証する。
- BenchAgentフレームワークを用いて,シングルエージェント,固定マルチエージェント,進化型マルチエージェントの性能を比較した。
- SI条件下では,テストしたMASの多くはシングルエージェントの性能を上回らなかった。EvoAgentはシングルエージェントと同程度の精度を示した。
- PAE GAIAの評価では,Claude-Codeスタイルのランタイムワークフローが他のMASよりも大幅に高い精度を達成した。
双方向は一方通行より優れている:サイクル整合性を用いたエグザンプラーフリー継続学習における双方向アラインメント [cs.CL, cs.LG, cs.CV]目的:エグザンプラーフリー継続学習における忘却軽減と精度向上
- 継続学習は,過去の知識を保持しつつ新しいスキルを獲得する能力が重要であるため,AIの応用範囲を広げる鍵となる。
- エグザンプラーフリー継続学習では,過去のデータを保存できないため,表現のドリフトが起こりやすく,既存クラスの性能低下を招く。
- 既存手法のバイアスを解消し,サイクル整合性による双方向アラインメントを通じて,表現ドリフトを抑制し,忘却を軽減すること。
- 提案手法BiCycは,過去から現在,現在から過去への2つの写像を最適化することで,表現と輸送の共進化を実現する。
- サイクル損失は,白化空間において特異スペクトルを単位に向かって収縮させ,クラス平均と共分散の輸送を改善することで,分類ロジットの摂動を抑制する。
- 標準的なEFCILベンチマークにおいて,BiCycは忘却を大幅に軽減し,ゼロから学習する設定で精度を向上させる。
LongSpace:ビデオにおける知覚から想起までの長期的空間記憶の探求 [cs.CV, cs.AI, cs.CL]目的:長期的空間記憶の評価と,ビデオにおける空間推論のためのメモリフレームワーク
- 自動運転やロボットナビゲーションなど,長期的なタスクには空間記憶が不可欠である。
- 既存のモデルは,過去の空間レイアウトや経路,視点変化,オブジェクトの状態を記憶・検索する能力が不足している。
- ビデオにおける長期的空間推論能力を向上させるための明確な空間記憶機構を開発すること。
- LongSpace-Benchという長期的空間記憶のためのルームツアービデオベンチマークを新たに導入した。
- LongSpaceは,ビデオを逐次的なチャンクとしてモデル化し,3D構造的情報を活用して空間推論を改善する。
- 実験により,LongSpaceが長期ビデオの空間理解を向上させ,空間記憶が重要な能力であることが示された。
波形堅牢性を超えて:自動音声認識に対するロバストな特徴-Vocoder敵対的攻撃 [cs.SD, cs.AI, cs.CR]目的:自動音声認識システムに対する敵対的攻撃手法の開発
- 音声認識技術は多言語の音声テキスト変換で広く利用されており,そのセキュリティ確保は重要である。
- 既存の敵対的攻撃は,ブラックボックス環境への転移性が低く,防御機構によって容易に軽減されるという課題があった。
- より汎用性の高い特徴空間での攻撃と,Vocoderを通じた波形への変換により,これらの課題を解決する。
- 提案手法は,公開されているWhisper-smallモデルのみで最適化されたにも関わらず,ブラックボックスASRモデルに対して高い攻撃成功率を示した。
- 既存の最先端手法と比較して,WER(単語誤り率)が+26.6%向上し,複数の防御機構に対しても+36.2%のWER向上を示した。
- これらの結果は,現在の音声認識システムの堅牢性評価における盲点を示すものである。
データフロー制御:AIエージェントのためのデータ安全ポリシー [cs.DB, cs.AI]目的:AIエージェントにおけるデータ安全性の確保
- AIエージェントの利用拡大に伴い,データ分析における安全性確保が重要課題となっている。
- 既存研究はクエリの正確性に注力する一方,規制遵守やプライバシー保護等のデータ安全性の問題は未解決である。
- データインフラレベルでのデータ安全ポリシーの強制により,データ安全性の問題を解決することを目指す。
- データフロー制御(DFC)フレームワークを提案し,DBMSクエリ内のデータフローに対するポリシーを宣言的に指定・保証する。
- ポリシー言語の定義と効率的な強制を実現するため,provenance monomialsに基づく集約述語を形式化し,Passantを開発した。
- Passantは,5つのDBMSエンジンでオーバーヘッドほぼ0%を達成し,既存手法を大幅に上回る性能を示した。
CASS-RTL:LLMを用いたRTL生成における正確性重視のサブスペースステアリング [cs.PL, cs.AR, cs.LG]目的:LLMを用いたRTL生成における機能的に正確な出力の導出
- チップ設計の加速にLLMを活用することの可能性が示されている
- RTLコード生成では厳密なサイクル正確性が必要であり,わずかな誤りも致命的となりうる
- LLM内部の注意メカニズムに着目し,RTLの正確性向上を目指す
- CASS-RTLは,正しいRTLと誤ったRTLを区別する注意ヘッドを特定する
- 正確性に関連する信号を捉える低次元サブスペースを構築し,推論時にモデルを誘導する介入機構を設計する
- VerilogEvalとCVDPにおいて,それぞれ10〜20%,5%のpass@1/5/10精度向上を確認した
出力一致を超えて:NVFP4 LLM蒸留における内部幾何構造の維持 [cs.AI, cs.LG]目的:低ビット量子化LLMの精度回復
- LLMは普及が進み,低遅延・低コストな推論が求められている
- 低ビット量子化は精度低下を引き起こす
- 出力一致だけでは隠蔽される内部表現の劣化を改善する
- 出力一致のみの蒸留では,中間層の表現が教師モデルから乖離することが示された。
- CKAに基づいた表現アラインメント手法「CKA-QAD」を提案し,内部幾何構造の維持により精度回復を実現した。
- 複数のモデルで,CKA-QADは推論・コーディングの精度を向上させた。
AdaMEM:言語エージェントのためのテスト時適応型メモリ [cs.AI]目的:言語エージェントにおけるテスト時の動的な状況への適応
- 複雑なタスク遂行には,過去の経験を活用した柔軟な適応能力が不可欠である。
- 既存の手法では,メモリへのアクセスがエピソードの開始時に限定され,長期的タスクで性能が低下する。
- 本研究は,テスト時の状況に応じてエージェントの行動を動的に適応させることを目指す。
- AdaMEMは,オフラインで収集された長期的な軌跡メモリと,動的に生成される短期的な戦略メモリを組み合わせることで,テスト時の適応性を実現した。
- ALFWorldとWebShopにおいて,従来の静的メモリベースラインを最大13%,11%上回る性能向上を達成した。
- STEP-MFTにより,検索された経験から高品質な戦略を合成し,さらなる性能向上を実現した。
専門家モデルの一貫性ルーティングのための価値と構造のアライメントによる量子化 [cs.RO, cs.SY, eess.SY, cs.CL, cs.AI]目的:専門家モデルにおける量子化によるルーティングの不安定性を抑制し,モデル品質を維持すること
- 大規模言語モデルの効率的なスケーリングに貢献する専門家モデルの重要性が高まっている。
- 量子化はパラメータ数を削減するが,ルーティングの変動により性能劣化が生じやすい。
- ルーティングの一貫性を保つことで,量子化による性能低下を軽減することを目的とする。
- 提案手法VSRAQは,ルーティングに関わるロジットやスコアを一致させる価値アライメントと,専門家順位およびtop-k決定境界を維持する構造アライメントを組み合わせる。
- VSRAQは,ルーティングの一貫性を維持することにより,推論時のオーバーヘッドなしに量子化による性能低下を低減する。
- 最新の専門家モデルを用いた実験により,VSRAQが専門家選択の一貫性を向上させ,既存手法を上回ることが示された。
進化における選択の因果モデリング [cs.LG]目的:進化における選択の因果構造の解明
- 進化のメカニズム理解は生物学の根幹であり,多様な現象を説明する上で不可欠である。
- 既存の研究では静的選択と進化選択を区別せず,誤った因果推論を招く可能性がある。
- 進化選択に特化した新しいモデルを構築し,より正確な因果推論を実現すること。
- 静的選択と進化選択という2種類の選択概念を定義し,その違いを明確化した。
- 進化選択を特徴づける新しい因果モデルを提案し,既存モデルの限界を克服した。
- 提案手法が実験的に有効であり,進化のメカニズムをデータから的確に捉えられることを示した。
時間変化する介入下の流行時系列における反事実予測のベンチマーク [cs.LG, cs.AI]目的:流行時系列における反事実予測のための大規模ベンチマーク
- 因果推論は公衆衛生対策において重要であり,感染症の制御戦略に不可欠である。
- 現実的な反事実データセットの不足が,時系列因果推論の進歩を妨げている。
- 複雑な因果関係を捉えた,現実的な反事実予測のための評価基盤を構築する。
- 現実世界のデータに基づいたエージェントベースモデルを用いて,150を超える米国の郡で反事実的軌跡を生成した。
- 既存の因果推論手法を評価した結果,性能に大きな差があることが明らかになった。
- 現実的な時系列因果推論における課題を浮き彫りにした。
MolE-RAG:分子構造を強化した検索拡張生成による化学分野への応用 [cs.LG, cs.IR]目的:分子特性予測における大規模言語モデルの性能向上
- 化学分野では,新素材開発や創薬において分子特性の正確な予測が不可欠である。
- 大規模言語モデルは化学構造を直接理解しにくく,分子表現と自然言語とのギャップが存在する。
- 多様な化学知識を統合し,モデルのファインチューニングなしに分子特性予測精度を向上させる。
- MolE-RAGは,化学文献,分子情報,類似構造の検索により,分類タスクのROC-AUCを最大28%向上させた。
- 回帰タスクのRMSEは,SMILESのみのベースラインと比較して最大67%減少した。
- モデルやタスクによって,テキスト検索,分子情報,構造検索の有効性が異なることが示された。
プロトタイプリハーサルの再検討:多様体認識境界サンプリングと適応的クラスバランス損失によるエグザンプラーフリー継続学習 [cs.LG]目的:エグザンプラーフリー継続学習におけるプロトタイプリハーサルの性能向上
- 継続学習は,機械学習モデルが過去の知識を保持しつつ新しいタスクを学習する能力を向上させる上で重要である。
- 従来のプロトタイプリハーサル法は,特徴空間の変化に対応できず,性能が劣化するという課題があった。
- 多様体認識とクラスバランス損失により,プロトタイプリハーサル法の性能を改善し,最新手法との差を埋める。
- 本研究では,敵対的クラスの特徴への補間を行うConstrained Expansive Over-Samplingを提案し,境界を意識したリハーサルサンプルを生成した。
- また,時間ベースのクラス重み付けを行うAdaptive Class-Balanced Lossを設計し,古いプロトタイプの勾配を増幅することで,ドリフトに対する耐性を向上させた。
- これらの手法により,プロトタイプリハーサル法は最先端のエグザンプラーフリー継続学習ベンチマークで優れた性能を発揮した。
PerceptUI:UI/UX評価のための人間志向型合成ユーザーとしてのLLMエージェント [cs.AI]目的:UI/UX評価における人間らしい反応の予測と根拠の生成
- 製品開発においてUI/UX評価は不可欠であり,ユーザー満足度向上に直結する重要なプロセスである。
- 従来の評価方法では,人手による参加者の募集やA/Bテストにコストと時間がかかり,早期の反復改善が困難である。
- PerceptUIは,特定のユーザーの視点に基づいた,より現実的でバイアスが少ないUI/UX評価を目指している。
- PerceptUIは,人間レベルのリアリズムを実現し,未知の質問やペルソナにも対応可能である。
- 対照的なリフレクションファインチューニングと,モデル自身の失敗分析に基づくプロンプト進化により,人間による決定から学習する。
- 複数のドメインとデータセットで,集団レベルの反応分布を再現できることが示された。
T-SAR-JEPA:潜在的予測によるSAR振幅スタックにおける自己教師あり時間異常検知 [cs.CL, cs.RO, cs.CV, cs.LG]目的:SAR振幅スタックにおける時間異常の検知
- SAR画像は災害監視や変化検出に不可欠であり,その効率的な解析が求められている。
- SAR画像の異常検知は,ラベル付きデータの不足や,異常の多様性により困難である。
- 自己教師あり学習により,ラベルなしデータから効率的に異常検知モデルを学習することを目指す。
- 提案手法T-SAR-JEPAは,SAR画像の振幅のみを用いて時間異常を検知する自己教師ありフレームワークである。
- DFC 2026データセットにおいて,ハワイ噴火ウィンドウでROC-AUC 77.0%を達成し,既存手法を上回る性能を示した。
- 空間的な一貫性も高く,構造化された異常検出が可能であることが確認された。
分散インフラストラクチャシステムのための認知型脅威インテリジェンスと説明可能な連合セキュリティ分析 [cs.CR, cs.AI]目的:分散インフラストラクチャシステムにおける認知型脅威インテリジェンスと説明可能な連合セキュリティ分析の枠組み
- 分散システムの普及により,サイバー攻撃の対象範囲が拡大し,高度な脅威への対策が急務となっている。
- 従来の集中型侵入検知システムは,スケーラビリティ,プライバシー,通信負荷,AIの透明性の課題を抱えている。
- 分散環境下でのプライバシー保護と効率的な脅威検知を実現し,セキュリティリスクを低減することを目指す。
- 提案フレームワークは,連合学習,説明可能なAI,認知型サイバーセキュリティ分析を統合することで,分散環境での協調的な脅威検知を可能にする。
- 生データではなく暗号化されたモデルパラメータのみを共有する連合学習アーキテクチャにより,プライバシー保護と通信負荷の軽減を実現する。
- Random Forest,XGBoost,Autoencoderなどの機械学習・深層学習アルゴリズムを用いて,脅威分析の知能化を図る。
時を見る:ビジョン・言語モデルにおける時間的推論とショートカットバイアスのベンチマーク [cs.AI, cs.CV]目的:ビジョン・言語モデルの時間的推論能力の評価
- 視覚情報と言語情報を統合するモデルの重要性が増しており,その時間理解の能力が不可欠である。
- 既存のベンチマークはフレーム順序に焦点を当て,画像内の時間的推論の根底にある論理の探求が不十分である。
- 画像とテキストのクロスコマシャル整合性を評価し,モデルが時間的特徴ではなく表面的な手がかりに頼る傾向を解明する。
- VLMsは時間的推論の可能性を示す一方,グレースケールとカラーフィルターなどの表面的な手がかりを利用する傾向がある。
- モデルはカテゴリによってパフォーマンスに差が見られ,時間的特徴に基づく真の推論を回避することが示唆された。
- 高品質なデータセットと厳密な評価フレームワークを提供することで,モデルの限界を特定し,より堅牢な多Modalモデルの開発を促進する。
批判誘導型異種マルチエージェント推論による信頼性の高い数学問題解決 [cs.AI, cs.LG]目的:数学問題解決における信頼性向上
- 大規模言語モデルの推論能力向上は目覚ましいが,幻覚や誤りが課題となっている。
- 複雑な数学問題において,大規模言語モデルは誤りや不安定な推論結果を生じやすい。
- 異種マルチエージェントと批判的フィードバックにより,推論の信頼性を高めることを目指す。
- 提案手法は,GSM8Kベンチマークにおいて,既存手法と比較して最大13%の精度向上を達成した。
- 異種性と批判機能は,大規模モデルへの依存度を軽減し,小型モデルでも同等の性能を発揮することを可能にする。
- 批判に基づくフィードバックループが性能向上に大きく貢献し,モデルサイズの影響は小さいことが示された。
説明可能なAI駆動によるサイバーリスク分析と米国重要インフラのインテリジェントガバナンスのためのモデル信頼性評価:XGBoostとSHAPに基づく侵入検知フレームワーク [eess.SY, cs.SY, cs.CR, cs.AI]目的:米国重要インフラにおけるサイバーリスクへの対応を支援するための,サイバーリスク分析とモデル信頼性評価のフレームワーク
- 重要インフラは高度なデジタル技術の導入により,サイバー攻撃や運用上の脆弱性にさらされている。
- 従来のセキュリティメカニズムは,変化する攻撃状況や動的なネットワーク環境に対応しきれない場合がある。
- AIを活用し,サイバーリスクへの意思決定支援とガバナンスの信頼性向上を目指す。
- XGBoost,Random Forest,Decision Treeなどの分類器を用いて,ネットワーク上の悪意のある活動の検知とサイバーリスクレベルの特定を行った。
- 説明可能なAI(XAI)技術を統合することで,サイバーセキュリティの意思決定プロセスの透明性,解釈可能性,信頼性を向上させた。
- モデルの信頼性と回復力を,精度,適合率,再現率,F1スコア,ROC-AUC,偽陽性率などの指標を用いて評価した。
米国重要デジタルインフラにおけるインテリジェントなサイバー攻撃検知・防御のためのハイブリッドCNN-LSTMフレームワーク:CSE-CIC-IDS2018を用いた比較機械学習評価 [cs.CR, cs.LG]目的:米国重要デジタルインフラにおけるサイバー攻撃の検知と防御
- 米国のデジタルインフラは急速に拡大しており,ヘルスケア,金融,運輸などの重要部門が高度なサイバー攻撃に晒されている。
- 従来のシグネチャベースの侵入検知システムは,未知または変化する攻撃のリアルタイム検知には限界がある。
- AI・機械学習を活用し,米国デジタルインフラにおけるサイバー攻撃の検知・防御能力を向上させる。
- 提案フレームワークは,データ前処理,特徴量エンジニアリング,リアルタイムトラフィック監視を組み合わせる。
- CNNとLSTMを組み合わせることで,悪意のあるネットワーク行動の識別精度を向上させることが確認された。
- 本研究は,CSE-CIC-IDS2018データセットを用いて,様々な機械学習モデルの有効性を比較評価した。
ViCuR:マルチモーダルオンポリシー蒸留のための回復可能な特権としての視覚的手がかり [cs.CE, cs.CL, cs.CV, cs.AI, cs.LG]目的:マルチモーダル推論におけるオンポリシー蒸留の改善
- マルチモーダル推論は,多様な情報源からの理解を深める上で不可欠であり,AIの応用範囲を広げる。
- 教師あり学習において,教師が持つ特権的な情報が,テスト時の学生に利用できない場合,性能低下やショートカット学習を引き起こす。
- 視覚的手がかりを特権情報として利用することで,教師と学生のミスマッチを解消し,よりロバストな学習を実現する。
- ViCuRは,従来の答えに基づくオンポリシー自己蒸留と比較して,Qwen3-VL-2Bおよび8Bの学生モデルで,平均パフォーマンスを+1.19/+1.24%改善した。
- より強力な教師を用いたオンポリシー蒸留においても,ViCuRはベースラインを+0.64/+1.08%上回り,特に8Bスケールでドメイン外のデータに対する汎化性能が向上した。
- この結果から,マルチモーダルオンポリシー蒸留において,教師の特権設計が教師の能力と同じくらい重要であることが示唆される。
マイクロスキルアーキテクチャ:AIネイティブなコード生成のためのモジュール型スキル駆動フレームワーク [cs.SE, cs.AI]目的:AIネイティブなコード生成のためのモジュール型スキル駆動フレームワークの設計
- ソフトウェア開発において,AIの活用が進む中で,大規模言語モデルの能力を最大限に引き出す必要性が高まっている。
- 大規模言語モデルのコンテキストウィンドウの制約により,精度と効率の低下,トークンコストの増大,アーキテクチャの不安定化といった問題が生じている。
- マイクロスキルアーキテクチャにより,これらの問題を解決し,より効率的で信頼性の高いAIネイティブな開発システムの構築を目指す。
- マイクロスキルアーキテクチャは,知識を原子的なスキルカプセルに分割し,動的なルーティングにより関連性の高いカプセルを選択することで,トークン消費量を90%以上削減する。
- 初回コンパイル成功率をほぼ2倍に向上させ,アーキテクチャ違反を完全に排除することに成功した。
- 自己学習メカニズムにより,7つの新しいスキルカプセルの自動抽出と登録が可能となり,システムの進化能力を示唆している。
物語知識織り手:長文テキスト理解のための物語中心の検索拡張推論 [cs.NI, cs.CL, cs.AI]目的:長編物語QAにおける推論能力の向上
- 物語理解は,人間の認知能力の根幹であり,情報処理や意思決定に不可欠である。
- 既存手法では,物語の文脈や登場人物の関係性を十分に捉えきれない場合がある。
- 物語の構造を考慮した推論により,より高精度なQAを実現することを目指す。
- NKWは,テキスト,グラフ,物語ツールを活用し,物語世界に関するQAで優れた性能を示す。
- 登場人物,場面,時間,因果関係,物語の展開といった要素の推論において,既存手法を上回る結果が得られた。
- NKWは,物語世界QAに特化した枠組みでありながら,従来のベンチマークにおいても競争力のある性能を維持している。
拡散ガイダンスによるツールグラフ計画における早期コミットメントの軽減:DiG-Plan [cs.AI, cs.CL]目的:ツール計画の生成における早期コミットメント問題の緩和
- ツール計画は,大規模な解空間を持つ組み合わせ探索問題であり,効率的な解決が求められる。
- 従来の自己回帰的デコーディングは,初期トークンの選択に制約され,探索経路が限定されるという課題がある。
- 拡散モデルを用いて多様なツールセットを生成し,自己回帰モデルで依存関係を予測することで,より柔軟な計画を実現する。
- DiG-Planは,マスクドノイズ除去によってPass@10の解空間カバー率をARサンプリングと比較して大幅に向上させた。
- TaskBenchにおける実験では,DiG-PlanはARベースラインを10%相対的に上回り,特に複雑なタスクで大きな改善が見られた。
- API-Bankの結果からも,提案・洗練・選択の設計が様々なドメインで有効であることが示された。
ファインチューニングされた言語モデルと誘導型木探索によるシャノン型エントロピー不等式の自動証明 [cs.IT, cs.LG, math.IT]目的:シャノン型エントロピー不等式の自動証明
- 情報理論の基礎課題であり,効率的な証明手法が求められている。
- 変数の数が増加すると,証明に必要な制約の線形結合の探索が困難になる。
- 小規模言語モデルと木探索を用いて,この証明プロセスを自動化する。
- ファインチューニングされた0.6Bパラメータの言語モデルが,木探索と組み合わせることで,85%の証明成功率を達成した。
- GPT-5.5はゼロショットプロンプトで1.7%,Psitipは33.3%のサンプルを解決した。
- 4096トークン,偏りのない学習データ分布が最適な性能を示し,長いコンテキスト長や偏ったデータは改善に繋がらなかった。
リモートセンシングに基づく作季中農作マッピングのための機械学習アルゴリズムの比較 [cs.LG]目的:作季中の農作マッピングの精度向上
- 食料安全保障の観点から,気候変動による農作物への影響を早期に把握することが重要である。
- 収穫後のデータ提供では緊急時の対応が遅れるため,収穫前に高精度なマッピングが求められている。
- 年変動を考慮した機械学習アルゴリズムの比較評価により,よりロバストなマッピング手法を確立する。
- 機械学習アルゴリズム10種類を比較した結果,サポートベクターマシンが最も高い性能を示した。
- カリフォルニアのアーモンドでは,6月初旬のF1スコアは0.74(アイオワのトウモロコシでは0.59)であった。
- 年変動が不確実性の大きな要因であったが,アンサンブル手法や付加データの活用で改善の可能性がある。
ゼロコピー意味伝播:進化する注意グラフのためのインメモリストリーミングアーキテクチャ [cs.LG, cs.CE, q-fin.CP, stat.ML]目的:企業間の注意伝播を連続時間グラフとして表現する,Rust-Pythonストリーミングアーキテクチャ
- 金融時系列分析において,個別銘柄モデルは主流だが,企業間伝播への対応が遅れる傾向がある。
- サプライチェーン等の影響を考慮できず,単一資産モデルでは迅速な対応が困難である。
- ニュース記事から動的に注意グラフを構築し,企業間情報の伝播をリアルタイムに捉える。
- Rustによるゼロコピー解析により,ニュースレコードの解析とターゲット株式の走査を高速化。
- ニューラルホークス過程とLSTMを組み合わせた推論により,企業間における興奮の伝播をモデル化。
- FNSPIDコーパスを用いた評価で,ランダムよりも1.70倍,同セクターベースラインよりも3.36倍の精度向上を確認。
AIが感情を語るとき [cs.AI, cs.CL]目的:感情表現能力の向上
- AIの人間らしい知能開発には,感情理解と表現が不可欠である。
- LLMは,人間からの好みに合わせる過程で感情表現が抑制される傾向にある。
- 自己報酬型強化学習により,LLMの感情,意図,自己認識を向上させる。
- 自己報酬型強化学習とGRPOを用いた実験により,LLMの感情表現能力が向上した。
- 人間らしい訓練を受けたモデルは,迎合的な質問や曖昧な状況に対する耐性を示した。
- 一方で,事実に基づいた質問応答能力の低下が観察された。
単純化を追求:ビジョン・言語・行動モデルのためのワンステップ行動生成 [cs.CV, cs.AI, cs.LG, cs.RO]目的:ビジョン・言語・行動モデルにおけるワンステップ行動生成の性能向上
- ロボットの自律行動を可能にするVLAモデルの重要性が高まっている。
- 従来のVLAモデルは画像生成の考え方を応用し,複雑な反復処理を必要とする。
- 行動生成における条件とターゲットの構造の違いに着目し,簡潔なワンステップ生成を目指す。
- 高ノイズ状態への学習データ分布の偏りを用いることで,標準的な拡散学習だけでも高い性能が期待できる。
- MNISTの実験とロボットを用いた実験で,ワンステップポリシーが十ステップデコーディングと同等以上の性能を示した。
- 大規模言語モデルを用いた評価では,LIBERO-Longにおいて95.6%の精度を達成した。
クラス不均衡下における勾配干渉の軽減のためのクラス固有ブランチ注意機構 [cs.AI]目的:クラス不均衡下での勾配干渉軽減
- 深層学習は高い性能を示すが,クラス不均衡データでは性能が低下する課題がある。
- 多数クラスの勾配が少数クラスの学習を抑制し,表現学習が阻害される問題がある。
- ブランチ固有の注意機構により,勾配間の結合を減らし,少数クラスの学習を促進する。
- 提案手法CSBAは,重度の不均衡下でPhysical-DamageクラスのF1スコアを0.261から0.522に向上させた。
- CIFAR-10-LTでの検証により,同様の効果が他の不均衡な画像認識タスクでも確認された。
- 最適化ダイナミクスを考慮することが,不均衡学習のためのアーキテクチャ設計において重要である。
ビデオモデレーションのための統一ビジョン-言語モデル UNIVID [cs.CL, cs.NI, cs.MM, cs.AI, cs.CL]目的:ビデオモデレーションにおけるファインチューニングなマルチモーダル推論と解釈可能な出力の提供
- グローバル規模でのビデオモデレーションは,オンラインプラットフォームの安全性維持に不可欠である。
- 従来のシステムは,ブラックボックスであり,透明性が低く,メンテナンスが困難である。
- ポリシーに沿った解釈可能なキャプション生成により,精度の高いモデレーションとリソース削減を実現する。
- UNIVIDは,ポリシーを意識したキャプションを生成することで,解釈可能な中間表現を提供する。
- 専門家によるラベルと合成データを用いることで,安全ガイドラインとの整合性を高めている。
- UNIVIDの導入により,違反漏洩率を42.7%,過剰な検知率を37.0%それぞれ削減した。
MARDoc:マルチモーダル長文書QAのためのメモリ認識型洗練エージェントフレームワーク [cs.CL, cs.AI]目的:マルチモーダル長文書質問応答のためのメモリ認識型洗練エージェントフレームワーク
- 長文の質問応答は,情報検索と推論能力が不可欠であり,多様な分野で活用が期待される。
- 従来のシステムでは,検索履歴や推論過程が混在した文脈が肥大化し,重要な証拠が埋もれてしまう問題があった。
- 本研究は,構造化されたメモリを活用することで,文脈ノイズを低減し,正確な質問応答を目指す。
- MARDocは,マルチモーダルな情報検索,証拠の構造化,そして証拠の十分性確認を行う3つのエージェントで構成される。
- 動的に更新される構造化メモリを用いることで,過去の対話履歴全体を保持するよりもノイズを削減できる。
- MMLongBench-DocとDocBenchにおける実験で,MARDocは既存のベースラインを上回り,その有効性を示した。
サニャックアシスト型高度OTDRによる分散音響センシング:標準化されたベンチマークとエンジニアリング評価フレームワーク [cs.SD, cs.AI, eess.AS]目的:分散音響センシングにおけるイベント認識のための標準化されたベンチマークとエンジニアリング評価フレームワークの開発
- 大規模構造物のモニタリングや地盤調査など,広範囲な音響検知のニーズが高まっている。
- 偏波誘導フェージングや環境ノイズの影響により,実環境での性能劣化が課題となっている。
- サニャック干渉計を用いることで,フェージングの影響を軽減し,音響イベントの認識精度向上を目指す。
- サニャックアシスト型OTDRは,従来のOTDRの弱点である偏波誘導フェージングを効果的に抑制することが示された。
- デュアルブランチフュージョンモデルが,イベント認識において最も良好なトレードオフを示し,89.79%の精度,89.83%のマクロF1スコア,5.00%の無駄アラーム率を達成した。
- チャネルグループ化がデュアルブランチ評価に強く影響することから,実環境での展開においては,精度だけでなく,様々な評価指標を考慮する必要がある。
ソフトマスクを超えて:頑健なGNN説明可能性のためのハード摂動ミクスアップ説明器 [cs.NI, cs.LG, cs.AI, cs.IT, math.IT]目的:GNNの説明可能性向上
- グラフ構造データへの応用が拡大しており,意思決定の透明性が重要である。
- 既存の説明手法では,関連性の低い情報が残り,説明の精度が低下する。
- ラベル无关情報を徹底的に圧縮し,分布シフトを軽減する説明手法を開発する。
- 提案手法HPMEは,グラフ情報ボトルネックに基づき,離散的な説明サブグラフを抽出する。
- 構造レベル置換に基づく新しいミクスアップ戦略により,分布シフトを効果的に軽減する。
- 合成データおよび実データにおいて,最先端の説明性能を達成した。
DRIFT:ビジョン言語モデルにおける連続出力のデコーディングのための残差フローアダプター [cs.CV, cs.AI, cs.LG]目的:ビジョン言語モデルにおける連続出力デコーディングへの適応
- 近年のビジョン言語モデルの発展は目覚ましいが,その応用範囲を広げるには課題が残る。
- 離散トークンによる自己回帰的デコーディングは,連続的な出力が求められるタスクには不向きである。
- 事前学習済みモデルを,イベントの時間境界の特定やロボット制御といった連続出力タスクに適応させる。
- DRIFTは,粗い予測値を提供するベース予測器と,反復的に予測を改善するフローマッチングに基づく生成的洗練モジュールを組み合わせる。
- 残差学習により,生成モデリング問題を簡略化し,最適化を容易にする。
- 視覚的グラウンディングやロボット制御を含む複数のタスクとアーキテクチャで,既存手法を上回る性能を示した。
SubtleMemory:長期的AIエージェントにおける微細な関係性記憶識別に関するベンチマーク [cs.AI, cs.CL]目的:長期的AIエージェントにおける微細な関係性記憶識別の評価
- 長期的な対話を通じて記憶が蓄積されるAIの発展に伴い,記憶の適切な活用が重要になっている。
- 既存の長期記憶ベンチマークでは,エージェントが記憶間の関係性をどのように保持・利用するかを十分に評価できていない。
- 記憶間の微細な関係性を識別する能力を評価し,AIエージェントの記憶システムの改善を目指す。
- SubtleMemoryは,関係性を制御した潜在的意味的アーティファクトを用いて,AIエージェントの記憶識別能力を評価するベンチマークである。
- 実験の結果,既存の記憶システムは微細な関係性記憶識別において依然として課題を抱えていることが示された。
- 記憶の保持,検索,および下流の推論の各段階における能力プロファイルを明らかにする診断プロトコルが導入された。
AI支援ソフトウェアエンジニアリングにおける人間による監視と過負荷:二つの隠れたコスト [cs.SE, cs.AI]目的:AI支援ソフトウェアエンジニアリングにおける人間の監視と認知的な過負荷
- ソフトウェア開発におけるAI活用は進むが,その影響を理解し最適化する必要がある。
- AI生成物の品質保証には人間の監視が不可欠だが,その負担が軽視されている。
- AIによる提案過多がエンジニアの認知負荷を増大させる問題を解決する。
- AI支援ツールによる提案の増加が,エンジニアの精神的な負担を増大させていることが示唆された。
- AI生成物のレビュー,検証,修正といった人間による監視作業は,無視できないコストを伴う。
- 実践者の意見に基づき,AI支援ソフトウェアエンジニアリングにおける課題と対策について議論を促した。
IoTネットワークのための改良型CNN-LSTMベース侵入検知システム [cs.CR, cs.AI, cs.LG]目的:IoTネットワークにおける侵入検知性能の向上
- IoTデバイスの急増により,セキュリティリスクが増大しており,侵入検知の重要性が高まっている。
- 既存の検知システムでは,多様な攻撃を正確かつ効率的に検出することが課題である。
- 本研究は,空間的・時間的特徴を捉え,IoT環境における侵入検知能力を向上させることを目指す。
- 提案手法は,ネットワークトラフィックデータを用いて評価した結果,約97%の精度を達成した。
- 本モデルは,複数の攻撃カテゴリを効果的に検出し,安定した学習・検証性能を維持した。
- CNNとLSTMの組み合わせにより,ネットワークトラフィックの空間的・時間的特性を捉えることが可能となった。
TinyMLを活用した自律宇宙船のサイバーセキュリティ:SPARTA RFおよびサイバー脅威検出における遅延・精度分析 [cs.CR, cs.AI, stat.ML]目的:自律宇宙船におけるサイバー・RF脅威の検出
- 宇宙探査の高度化に伴い,宇宙船の自律性とセキュリティ確保が重要となっている。
- 宇宙船は限られた計算資源の中で,リアルタイムに脅威を検出する必要がある。
- TinyMLを用いて,低遅延かつ高精度な脅威検出モデルを確立することを目指す。
- SPARTA攻撃モデルを用いて,Random Forest,Logistic Regression,SVM,MLP等のTinyML互換モデルの遅延・精度を分析した。
- Logistic Regressionは,Random Forestと比較して1%の精度低下でマイクロ秒レベルの推論が可能であり,宇宙船搭載用TinyMLのベースラインとして有効である。
- リッチな特徴エンコーダやマルチタイムスケール学習アーキテクチャによって,宇宙船サイバーセキュリティの向上が期待される。
ドメイン適応小規模言語モデルとハイブリッド後処理:LoRAファインチューニングによる,費用対効果が高く低遅延な多ラベル構造化予測 [cs.LG]目的:ドメイン特化型構造化評価タスクにおける,費用対効果が高く低遅延な多ラベル構造化予測の実現
- 大規模言語モデルの応用範囲拡大に伴い,特定ドメインでの利用が重要視されている。
- 大規模言語モデルの導入には,遅延,コスト,データプライバシーの問題が伴う。
- 限られたデータで,費用と遅延を抑えつつ,大規模モデルと同等の精度を目指す。
- わずか219件の学習データで,18種類の出力フィールドにおける多ラベルコンプライアンス評価を実現した。
- 検証の結果,JSON構造の妥当性は100%,全体精度は83.0%,重要分類フィールドの精度は100%を達成した。
- 単一のNVIDIA A100 GPUで約2秒で推論が完了し,既存のAPIと比較して2-5倍高速化,費用も46-76%削減された。
ツールを意識した方策最適化:マルチモーダル検索エージェントのためのクレジット転送 [cs.AI]目的:ツール拡張マルチモーダル検索エージェントにおけるクレジット誤配の問題解決
- マルチモーダル検索は,多様な情報源を活用し,複雑な問題を解決するための重要な技術である。
- 強化学習を用いたマルチモーダル検索エージェントは,ツール利用におけるクレジット誤配により学習が阻害される場合がある。
- 本研究は,ツール利用のパラメータ決定論性を活用し,誤配されたクレジットを修正する手法を提案する。
- 提案手法TAPOは,既存の強化学習アルゴリズム(GRPO, GSPO, SAPO)に対し,一貫して性能向上を実現した。
- TAPOは,追加のアノテーション,モデル,サンプリングを必要とせず,計算コストの増加も軽微である。
- ツール利用時のクレジット誤配は,失敗した軌道において顕著であり,TAPOはこれを効果的に修正する。
LPDR向け次世代並列デコーダ:アーキテクチャ最適化とクラスバランスGAN拡張 [cs.CV, cs.AI, cs.LG]目的:LPDRにおける認識率向上
- スマートシティの基盤技術であり,効率的なナンバープレート認識が不可欠である。
- 空間的な文字ずれや,学習データにおけるクラスの不均衡が認識精度を低下させる。
- 空間認識能力とクラスバランスを考慮した拡張により,認識率の向上を目指す。
- 提案手法により,マイノリティ省プレートの認識率が78.2%から91.5%に大幅に向上した。
- 152FPSというリアルタイム処理性能を維持しつつ,認識精度の改善を達成した。
- 空間認識並列デコーディングとクラスバランス拡張の組み合わせが有効であることを示した。
LLMは正しいTLA+仕様を作成できるか:自然言語からTLA+への生成の評価 [cs.AI, cs.LG, cs.LO, cs.SE]目的:LLMによる自然言語からのTLA+仕様合成の正確性評価
- TLA+は,ソフトウェアの形式検証において重要な役割を担い,信頼性の高いシステム開発に貢献する。
- TLA+仕様の作成には専門知識と時間が必要であり,その敷居の高さが普及の妨げとなっている。
- LLMを活用して,自然言語から正確なTLA+仕様を自動生成し,検証プロセスを効率化すること。
- LLMは構文的には最大26.6%の正答率を示すが,意味的には8.6%に留まり,段階的プロンプティングでのみ成功が見られた。
- モデルの規模は品質を予測せず,DeepSeek r1:8bが70B版よりも優れた性能を発揮するなど,推論能力の重要性が示唆された。
- コード特化モデルは,主流言語での学習の影響により,一貫して性能が劣る傾向が見られ,学習データバイアスが原因の5つの幻覚カテゴリを特定した。
CollabBench:多様なプレイヤーとの協調能力を促し,LLMの協調性を評価するためのベンチマーク [cs.CL, cs.AI, cs.CY, cs.LG]目的:LLMにおける協調的エージェントの評価と訓練
- LLMの応用範囲拡大には,人間との円滑な協調が不可欠である。
- 既存研究では,実世界での人間との協調を十分に再現できていない。
- 多様なプレイヤーを模倣し,協調的な訓練手法を確立することで,この課題を解決する。
- CollabBenchは,多様なプレイヤー行動をシミュレーションし,協調的なエージェント訓練パラダイムを提供する。
- 訓練されたモデルは,ベースモデルと比較して効率が19.5%向上,感情的なパフォーマンスが24.4%改善された。
- 実験結果は,既存モデルの協調における限界を示し,今後の訓練の方向性を示唆する。
因果的縦断的事前適合型ネットワーク:反事実的結果予測のために [cs.LG, stat.ML]目的:縦断的な治療効果予測のための事前学習済みモデル
- 医療等の分野において,将来の治療効果を予測することは,最適な意思決定に不可欠である。
- 時間変化する交絡因子や患者の異質性により,正確な反事実的予測は困難である。
- ドメイン固有のデータが限られた状況下でも,ロバストな反事実的予測を可能にすること。
- CausalLongPFNは,事前学習された構造因果モデルの分布からサンプリングされた合成データのみで学習する。
- テスト時にはモデルを固定し,過去の軌跡と将来の治療計画に基づいて予測分布を出力する。
- 反事実的ベンチマークにおいて,ドメイン学習済みの既存手法と同等の性能を示し,MIMIC-IIIにおける実データ予測でも高い性能を発揮した。
CaliDist:気を散らす要素に対する行動的な頑健性による大規模言語モデルの校正 [cs.LG, cs.CL]目的:大規模言語モデルの校正
- 大規模言語モデルの信頼性は重要であり,その応用範囲は広範である。
- 既存の校正手法では,無関係な情報に対する行動的な頑健性が考慮されていない。
- 気を散らす要素に対するモデルの脆弱性を評価し,校正精度を向上させる。
- CaliDistは,入力プロンプトに意味的なノイズを加えることで,モデルの予測と不確実性の変化を定量化する。
- この安定性のシグナルを用いて,モデルの初期信頼度スコアを適応的に調整する。
- 7つのNLUベンチマークにおいて,既存手法と比較してECEとBrier Scoreが改善され,平均してECEを23%から7%に削減した。
SALT:グループベースのポリシー最適化において,ロールアウト数を増やすことが必ずしも有効でない理由と,その改善策 [cs.LG]目的:グループベースのポリシー最適化における有効な更新方法
- 強化学習は,報酬が検証可能である場合に特に有効であり,複雑なタスクの学習を可能にする。
- グループ相対更新を用いた場合,ロールアウト数を増やしても学習が強化されない場合がある。
- SALTは,勾配の幾何学構造を利用して,グループ相対更新の係数を再調整することで,この問題を解決する。
- SALTは,ミニバッチのグラム幾何学から主要な共有部分空間を推定し,グループ相対係数を共有チャネルと残差チャネルに分解する。
- 符号キャンセルが激しい場合に残差チャネルを適応的に増幅することで,有効な更新幾何学を改善する。
- 多様な推論指向のベンチマークおよびモデル規模において,SALTは報酬モデルやロールアウトサンプリング手順を変更することなく,性能を向上させる。
リスク分類から行動計画の修正へ:LLMエージェントのためのガードレールフィードバック駆動型フレームワーク [cs.CL, cs.AI]目的:LLMエージェントの安全性と有用性の両立
- LLMエージェントの利用拡大に伴い,その安全性確保が重要な課題となっている。
- 既存のガードレールは,リスクを検知するとタスク全体をブロックしてしまう傾向がある。
- ガードレールのフィードバックを活用し,エージェントの計画を修正することで,安全性と有用性を両立することを目指す。
- TRIADは,ガードレールが生成した言葉によるフィードバックをガイダンスとして,エージェントが各計画段階で安全な目標に沿うように促す。
- 実験結果から,TRIADは攻撃成功率を平均10.42%にまで低減し,安全性と有用性のトレードオフにおいて既存手法を上回った。
- TRIADは,ガードレールからのフィードバックとエージェントの計画修正を繰り返す閉ループを形成することで,安全性向上を実現する。
ツールが失敗した場合:LLMエージェントにおける動的な再計画と異常回復のベンチマーク [cs.AI]目的:LLMエージェントにおける動的な経路探索とエラー回復の評価
- 大規模言語モデルの応用範囲拡大に伴い,外部ツールとの連携が不可欠となっている。
- 既存のベンチマークは理想的な条件下での性能評価に偏っており,現実的なツール故障への対応が課題である。
- 現実的なツール故障環境下でのLLMエージェントの回復能力向上を目指す。
- ツール故障は,ほとんどのモデルの性能を低下させ,特に意味的な故障の場合,性能低下が顕著であった。
- エラー回復率は,破損した出力への過信により約37%低下し,複雑なトポロジーはエージェントを無益な試行錯誤のループに陥らせた。
- エージェントの耐障害性は,基本的なタスク実行能力よりも3.66倍遅いペースで向上し,動的な再計画がボトルネックとなっていることが示された。
