arXiv雑要約
AI - 2026/07/30 公開
物理的に整合性のある多出力記号回帰のための共有記号バックボーン [cs.HC, eess.SY, cs.SY, cs.NE, cs.AI, cs.CE]目的:多出力システムの結合に対する,共有記号バックボーンの探索
- プロセスシステムでは状態変数が共有パラメータを通じて結合され,全体としての理解が重要である。
- 独立した記号回帰では,個々の出力の精度は高くても,モデル全体としての解釈が困難となる場合がある。
- 潜在的な記号ユニットを共有することで,出力間の物理的な整合性を高め,解釈可能なモデルを構築することを試みる。
- 結合アプローチは必ずしも予測誤差の低減に繋がらないものの,出力間の整合性の検証と診断に貢献する。
- Langmuir-Hinshelwoodやサイトカバレッジなどの,独立したPySRでは解決できない整合性の問題を解決できる。
- 本手法は汎用的な予測モデルではなく,疎で共有されたメカニズムを抽出するための構造化された枠組みである。
AgentGFM:ノード・エージェント情報フロー制御を備えたグラフ基盤モデル [cs.LG, cs.AI]目的:グラフ構造の知識転移と未知の状況への適応
- グラフ構造は関係性の意味を表現する基本であり,様々な分野で重要性が増している。
- 既存のモデルは固定的な伝播スキームに依存し,グラフ構造の多様性に対応できない場合がある。
- 各ノードが自律的に情報伝播方法を決定する情報フロー制御を実現することを目指す。
- AgentGFMは,各ノードをエージェントとして扱い,共有の学習可能なポリシーに基づいて動作する。
- ノードは予測・行動・観測・修正のプロセスを通じて適応的な情報フロー制御を行う。
- 様々なグラフ構造で優れた性能が確認され,多様なトポロジーへの有効性が示された。
ペルソナに基づく金利動向指標 [cs.MA, cs.AI, cs.LG]目的:米国連邦公開市場委員会(FOMC)の金利政策判断の予測
- 金融市場の安定と経済成長において,金利政策は極めて重要な役割を担う。
- 従来の金利予測は,経済指標の分析に偏りがちで,市場参加者の多様な視点が反映されない場合がある。
- 市場参加者の行動をペルソナとしてモデル化し,その動向から金利政策を予測することで,より精度の高い分析を目指す。
- 本研究では,市場の状況に対するペルソナの反応に基づき,FOMCの金利政策判断を予測する指標を提案した。
- 提案手法は,過去のデータを用いて構築されたペルソナ群の行動を分析し,その金利政策に対する姿勢を定量化した。
- その結果,提案指標は実際の金利動向と高い相関を示し,金利予測においても既存手法を上回る精度を達成した。
サーバレスT2I:サーバレスプラットフォームにおける効率的なテキストから画像へのワークフロー提供 [cs.DC, cs.AI]目的:テキストから画像へのワークフロー提供における効率化
- 近年の画像生成技術の発展に伴い,テキストから画像を生成するワークフローの需要が拡大している。
- 既存のシステムはワークフロー全体を単一のGPU関数として扱うため,柔軟性や効率性に課題がある。
- ワークフローを構成要素に分解し,個別に管理・スケールすることで,リソース利用率の向上と公平性の確保を目指す。
- ServerlessT2Iは,T2Iワークフローを独立して管理・スケジューリング可能な疎結合なモデル関数に分解する。
- 本システムは,GPUメモリの遊休時間を活用し,モデルのロードとデータ通信のオーバーヘッドを削減するデータプレーンを構築する。
- 実環境のトレースを用いた評価により,既存システムと比較して最大2倍の要求レートを維持し,GPUリソースを最大3分の1削減可能であることが示された。
トークンからワット時へ:最新GPUにおけるLLM推論のエネルギー推定分析 [cs.RO, cs.SY, eess.SY, cs.LG, cs.SE]目的:LLM推論のエネルギー消費量推定手法
- AIシステムの環境負荷低減は喫緊の課題であり,LLM推論時のエネルギー消費量の把握が重要である。
- 直接的なエネルギー計測は,特殊な機器や環境を必要とし,比較研究や初期設計を阻害する。
- 直接計測に頼らず,LLM推論のエネルギー消費量を分析的に推定し,比較評価を可能にすること。
- 提案手法は,パラメータスケーリング,メモリトラフィック,ハードウェア係数に基づき,NVIDIA H100 GPU上でLLM推論のエネルギー消費量を推定する。
- プロンプト処理と自己回帰デコーディングを分離し,入力トークン,出力トークン,推論リクエストごとのエネルギー推定を可能にする。
- 推定結果は,モデルサイズ,コンテキスト長,生成トークン数に応じたエネルギー消費のスケーリング特性を分析するための透明性の高い近似値を提供する。
リカバリー,デコード,リガード:ガード非依存型防御増幅によるエンコードされたVLMの脱獄攻撃への対策 [cs.CR, cs.AI, cs.LG]目的:視覚言語モデル(VLM)に対する脱獄攻撃の対策
- VLMの安全性確保は,誤用や悪用を防ぐ上で不可欠である。
- 既存のガードは表面的な形式を判断するのみで,意味を理解しないため,攻撃を回避される場合がある。
- 入力の意味を解析し,ガードが真の要求を識別できるよう,ガード非依存の増幅器を開発すること。
- 増幅器は,画像の内容を書き起こし,エンコードされたテキストを平文に変換することで,ガードの性能を向上させる。
- アンサンブル評価の結果,既存の防御には安全性と有用性の限界があることが明らかになった。
- 増幅器とガードの組み合わせでも,依然として高い攻撃成功率と過剰な拒否率が課題として残る。
オンライン共形予測における同時カバレッジと効率保証 [cs.LG, cs.DS]目的:オンライン共形予測における絶対的なカバレッジ違反の制御と予測集合効率の保証
- 分布シフト下での予測において,信頼性の高い予測が不可欠であるため。
- 従来のオンライン共形予測は,カバレッジ誤差や予測集合のサイズに関して問題があった。
- 動的に変化する基準線に対して,カバレッジと効率を同時に保証することを目指す。
- 本研究では,絶対的なカバレッジ違反を制御しつつ,予測集合効率を保証する統一的なオンライン学習フレームワークを提案した。
- 特に,完全な敵対的設定において,単調なリプシッツ効率目的関数に対する同時保証を導出した。
- 確率的設定や共変量依存確率的設定においても,最適なアルゴリズムを開発し,保証を示した。
X線画像を用いたVGG16,VGG19,ResNet50モデルによる肺疾患の分類 [cs.CV, cs.AI, cs.LG]目的:肺X線画像に基づく肺疾患分類
- 呼吸器疾患の増加に伴い,早期発見と正確な診断が重要視されている。
- 画像診断における疾患の自動診断システムの精度向上が課題である。
- 深層学習モデルを用いて,肺疾患の分類精度を向上させることを目指す。
- VGG16,VGG19,ResNet50の3モデルで肺疾患分類を行い,良好な結果が得られた。
- 特にResNet50は,効率性と高い精度により,他のモデルと比較して最も優れた性能を示した。
- これらの深層学習モデルは,将来的に肺疾患診断の実践に貢献し,早期発見と患者の予後改善に繋がる可能性がある。
4都市における1日先IMDAA降水場予測のためのConvLSTMのベンチマーク評価 [cs.LG]目的:1日先降水場予測におけるConvLSTMの性能評価
- 降水予測は,水資源管理や防災において不可欠であり,その精度向上は重要な課題である。
- 既存研究では高頻度レーダーデータに依存しており,粗解像度データにおける性能は不明である。
- 粗解像度データでのConvLSTMの有効性を検証し,最適なモデル選択の指針を示す。
- ConvLSTMは,単純なモデルと比較して一貫して優れた性能を示さなかった。
- FC-LSTMがドメイン平均降水量誤差において優れた結果を示した都市もあった。
- 降水場の空間的連続性が高い都市では,過去の降水量データがニューラルネットワークの性能を向上させた。
ワンランはアイデアではない:自動研究における実装の偶然性 [cs.PF, cs.DC, cs.MA, cs.AI]目的:自動研究におけるアイデアの信頼性評価
- 研究の自動化は,効率的な知識発見を可能にする重要な技術である。
- 既存の研究では,実装ごとのばらつきが考慮されておらず,誤った結論を導く可能性がある。
- アイデア自体の信頼性を評価し,実装の偶然性が結果に与える影響を定量化すること。
- 実装のばらつきは,同一アーティファクトの再実行ばらつきよりも大幅に大きいことが示された。
- アイデアの信頼性監査により,実装ごとのばらつきが頻繁に観測され,結果が実装に依存する可能性が明らかになった。
- アイデアレベルでの意思決定や研究の分岐を行う前に,複数実装での検証が重要であることが示唆された。
Eco3S:エージェントベースモデルによる複雑な社会経済システムシミュレーション [cs.AI]目的:社会経済システムシミュレーションのためのフレームワーク
- 経済学研究や政策分析において,複雑な社会経済システムの理解は不可欠である。
- 従来のシミュレーションでは,エージェントと環境の相互進化のモデル化が困難であった。
- 現実的な創発的行動の再現,柔軟な反事実的推論,シミュレーションワークフローの自動化を可能にする。
- Eco3Sは,エージェントと環境が相互進化する設計により,現実的な創発的行動を再現できる。
- 構造因果モデルに基づいた反事実的シミュレーション機構により,多様な因果推論タスクに対応可能である。
- シミュレーション・分析・改良パラダイムにより,実験設計の反復的な洗練が可能となり,厳密な経済研究と政策決定に貢献する。
大規模言語モデルエージェントを用いた化学プロセスのPID調整のための物理情報に基づくフレームワーク [cs.IR, eess.SY, cs.AI, cs.SY]目的:化学プロセスのPID調整手法
- 化学プロセスの効率的な制御は,生産性や安全性に不可欠であるため,PID調整は重要な研究分野である。
- 従来のPID調整はモデル同定に依存し,エンジニアの経験と試行錯誤に頼る部分が大きく,時間と労力がかかる。
- 大規模言語モデルを活用し,エンジニアのワークフローを形式化することで,PID調整の自動化と効率化を目指す。
- 大規模言語モデル(LLM)は,閉ループ応答の特徴,制御工学的な診断,調整の優先順位,内部モデル制御に基づき,PIDゲインを生成・修正した。
- ローカル環境で実行可能なQwen3-0.6Bモデルは,教師ありファインチューニングと物理情報に基づいた強化学習により,PID調整の成功率を向上させた。
- 実験結果から,提案手法はFOPDTおよびSOPDTプロセスにおいて高い成功率を示し,初期提案の信頼性と安定性を改善した。
分離された視覚処理:モダリティ特有のTransformer置換による効率的なマルチモーダル適応 [cs.CV, cs.AI]目的:マルチモーダル大規模言語モデルにおける視覚的指示調整の効率化
- マルチモーダルモデルは,視覚とテキストの理解を統合し,多様なタスクに対応できるため重要である。
- モデル全体のファインチューニングは計算コストが高く,視覚とテキストの表現は異なるため非効率である。
- 視覚情報を処理するTransformerブロックを分離し,パラメータ数を削減することで効率化を目指す。
- DVPは,LLaVA-1.5フレームワークにおいて,MME,POPE,ChartQAなどのベンチマークで高い性能を発揮した。
- DVPは,モデル全体のパラメータのごく一部のみを訓練することで,同等の性能を達成できることを示した。
- マルチモーダルモデルにおける視覚表現は,分離された効率的な経路で効果的に学習できることが示唆された。
リビング・ハーネス:インタラクティブ・エージェント進化器 [cs.MA, cs.AI, cs.CL]目的:インタラクティブ・エージェントの自己進化型ハーネスの提案
- LLMエージェントの利用拡大に伴い,その堅牢性と適応性が重要課題となっている。
- エージェントの実行失敗が繰り返し発生し,その原因を学習に反映させることが困難である。
- 過去の実行履歴からハーネスを更新し,エージェントの自己改善を可能にすること。
- 提案手法「リビング・ハーネス」は,完了した実行履歴と評価信号からハーネスを更新する。
- エピソードの抽象化と構造化された更新証拠を抽出し,手続き的知識を記録する。
- τ^2-BenchおよびMultiWOZ-2.4の環境で,Pass@1がそれぞれ10.07%および9.91%向上した。
不確実性に基づいたLLMセマンティック拡張による異質治療効果推定 [cs.LG]目的:異質治療効果推定の改善
- 個別化介入の実現には,治療効果の個人差を把握することが不可欠である。
- 既存手法では,共変量調整と治療効果の異質性学習が不安定になりやすい。
- LLMを活用し,不安定な箇所にセマンティック情報を重点的に割り当てることで,推定の安定化を図る。
- 提案手法CURLは,既存の10種類の学習器の性能を多くの設定で向上させた。
- CURLは,凍結されたLLMに対して役割に応じたプロンプトを送信し,共変量のセマンティック表現を構築する。
- アブレーションテストや経路再割り当て分析により,設計意図と各チャネルの役割が裏付けられた。
あらゆるモノのインターネットにおけるインテリジェントなリソース割り当てのための大規模言語モデルの活用 [cs.NI, cs.LG]目的:あらゆるモノのインターネットにおけるインテリジェントなリソース割り当てメカニズム
- あらゆるモノのインターネットの発展は,様々な応用を加速させている。効率的なリソース管理が不可欠である。
- 接続デバイスの増加に伴い,多様かつ異質なタスクの動的スケジュール設定が課題となっている。
- 大規模言語モデルを活用し,複雑なスケジュール決定とリソース利用効率の改善を目指す。
- 提案手法は,タスクのセマンティクス,ネットワーク状態,制約条件を統合した多次元のスケジュール決定モデルを構築する。
- タスク要求とネットワーク状態の間の深い関連性を確立するため,タスク指向のプロンプト生成方法を設計した。
- シミュレーション結果から,収束速度,処理遅延,消費エネルギーが大幅に改善され,応答性とリソース利用効率が向上することが示された。
少ないサンプル数での開集合音声分類:帰納的プロトタイプ洗練とクラスロジット強化 [cs.CL, cs.SD, cs.LG]目的:少ないラベル付きサポートサンプルを用いた既知クラスからのクエリサンプルの分類と,未知クラスからのクエリサンプルの拒否
- 音声認識や環境音分析など,多様な応用において,限られたデータでの分類が求められる。
- 従来の音声分類手法は,未知の音声クラスを正しく識別できず,誤分類を引き起こす可能性がある。
- 未知クラスの混入によるプロトタイプの汚染を防ぎ,よりロバストな開集合音声分類を実現すること。
- 提案手法は,クエリサンプルに潜在的な内包スコアを割り当てることで,未知クラスのサンプルの影響を軽減し,プロトタイプの洗練を改善する。
- サポートデータのクロスエントロピー損失,内包スコア重み付き条件エントロピー最小化,内包スコア重み付き周辺エントロピー最大化を組み合わせた帰納的損失関数を使用する。
- 3つの音声データセットを用いた実験により,提案手法が少ないサンプル数での開集合音声分類において最先端の結果を達成することが示された。
明確化の減少,より良いコード:コーディング支援におけるクロスセッションパーソナライズされた曖昧性適応のベンチマーク [cs.CE, cs.AI, cs.HC]目的:コーディング支援におけるパーソナライズされた曖昧性適応のベンチマーク
- AIによるコーディング支援は普及しつつあり,開発効率の向上が期待されている。
- コーディング要求は曖昧さを伴うことが多く,その解決にはユーザーへの確認が必要となる。
- 過去セッションの情報を活用し,ユーザー固有の曖昧さを効率的に解決することを目指す。
- 本研究では,ユーザーの過去のコーディングセッション履歴を活用することで,新しいセッションにおける曖昧性をより適切に解決できる可能性を示す。
- CAPAというベンチマークデータセットを構築し,パーソナライズされたコーディングにおける曖昧さを体系的に分析した。
- LLMの性能を評価した結果,ユーザー履歴を活用することで,コード生成の成功率と効率が向上することが示された。
FedWeave:異種分散型MoE-LoRAにおける専門化単位の再考 [cs.LG, cs.CL]目的:異種クライアント間のタスク干渉と勾配衝突を軽減するフレームワーク
- LLMを分散データに適応させる連合学習の重要性が高まっている。
- クライアント間のタスク異質性により,学習の妨げとなる干渉や勾配の衝突が生じやすい。
- 専門化と多様性を両立させ,連合学習の性能向上を目指す。
- FedWeaveは,専門家とルーターの集約を非対称に行うことで,専門化の純度とルーターのコントラストを両立する。
- プロトタイプ探索を用いて局所的なバケットを作成し,クライアント間で整合させることで,プロトタイプレベルでの専門家集約を可能にする。
- 実験結果から,FedWeaveが既存手法を上回り,その設計の有効性が確認された。
WhisperRec:効率的なファウンデーションレコメンデーションモデルのための潜在的推論 [cs.IR, cs.AI]目的:効率的なファウンデーションレコメンデーションモデルの潜在的推論
- 推薦システムは,ユーザーの多様なニーズに応える上で重要な役割を担っている。
- 大規模言語モデルの導入により,推論コストが増大する課題がある。
- 潜在的推論を用いることで,推論コストを削減しつつ高い推薦精度を実現することを目指す。
- WhisperRecは,教師データから生成されたCoTを学習可能な潜在的推論トークンに圧縮する。
- これにより,明示的なCoT生成の遅延を回避しつつ,意思決定に重要な推論情報を保持する。
- Kuaishouのデータセットを用いた実験で,既存手法と比較してSID@64が大幅に向上し,オンライン推論スループットも10倍以上向上した。
均質な訓練・テスト分割法による自動機械学習の性能向上 [cs.LG]目的:機械学習における自動モデル評価の改善
- 機械学習の信頼性は,モデル評価の正確性に大きく依存する。
- クラス不均衡やデータの構造的偏りにより,分割されたデータセットの分布が異なる場合がある。
- データセット分割時の統計的類似性を最適化し,より安定した評価を実現する。
- 確立された5つの分割戦略を15のUCIデータセットで比較した結果,幾何学的手法は不安定性を示すことがわかった。
- 提案手法Optimised-Distributionは,全戦略中で最も高い平均MMD類似性(89.0%)を達成した。
- 統計的類似性を明示的な最適化目標とすることで,自動機械学習の評価精度向上に貢献する。
小規模テーブルデータにおけるTabPFNのコンテキストサンプリングの理解 [cs.CL, cs.LG, cs.AI]目的:TabPFNにおけるコンテキストサイズとコンテキストを構成する行の選択が,予測の安定性,精度,選択コストに与える影響
- テーブルデータ分析は,多様な分野で重要な課題であり,その効率的な分類手法の確立が求められている。
- 小規模テーブルデータセットでは,コンテキストサイズやコンテキストの選択が,モデル性能に大きな影響を与えるが,その最適な手法は不明である。
- コンテキストサンプリングにおける,コンテキストサイズ,分布の代表性,特徴空間のカバレッジが予測精度に与える影響を明らかにすること。
- コンテキストサイズを大きくすることで,予測精度が向上し,予測の安定性も大幅に改善されることが示された。
- 精度の向上は分布の代表性と相関するが,特徴量の平均を一致させるだけでは,コンテキストの多様性が低下し,精度が低下する可能性がある。
- K-Meansやfarthest-point samplingなどの高コストな選択手法は,ランダムサンプリングと同程度の精度で,選択コストが大幅に高くなることがわかった。
RAG-HAR+: エッジ展開のための費用対効果の高いLLMベース人間活動認識へ [cs.LG, cs.IR]目的:人間活動認識の費用対効果向上
- ウェアラブルセンサを用いた人間活動認識は,医療,リハビリ,フィットネスなど多岐にわたる応用が期待される分野である。
- 既存の深層学習手法は,データセット固有の学習,大規模なラベル付きデータ,新たな設定への適応が必要となる課題がある。
- データセット特化的な特徴量を設計し,LLMへの依存度を軽減することで,効率的な活動認識を実現する。
- RAG-HAR+は,6つのHARベンチマークにおいて,既存手法と同等以上の性能を維持しつつ,LLMの使用量,トークン消費量,推論時間を削減した。
- オフラインでのRetrieval Designer Agentによる特徴量グループの設計により,データセット固有の活動パターンに合致した比較が可能となった。
- 推論時には,信頼度の高い事例では多数決による分類を行い,曖昧な事例のみLLMに処理を委譲することでコスト削減を実現した。
マルウェアリスクに対する組織の保護:新しいグラフベースのマルウェア検出手法 [eess.SY, cs.SY, cs.AR, cs.CR, cs.AI]目的:組織におけるマルウェアリスク管理のためのグラフベースマルウェア検出手法
- 組織のデジタル化が進み,情報システム分野においてサイバーセキュリティの重要性が増している。
- 従来のマルウェア検出法は,マルウェアの改変による回避攻撃に脆弱であるという課題がある。
- マルウェアの実行挙動を捉え,より高精度な検出を可能とする手法の開発が求められている。
- MalGuardは,基本ブロックのまとまりを「オペレーショナルロール」として捉えることで,マルウェアの潜在的な挙動を検出する。
- オペレーショナルロール間の相互作用をモデル化することで,表現力豊かなプログラムグラフ表現を学習する。
- 実験の結果,MalGuardはマルウェアの検出性能を向上させ,検出漏れによるコストを削減できることが示された。
LLMエージェントのためのファイルシステムベースのメモリ:組織化,進化,持続可能性 [cs.CL, cs.AI]目的:LLMエージェントにおけるファイルシステムベースのメモリの組織化,進化,持続可能性に関する体系的な探求
- LLMエージェントの性能向上には,長期的な記憶の効率的な管理が不可欠である。
- 既存研究では,ファイルシステムをメモリ媒体として活用する際の課題が十分に検討されていない。
- ファイルシステムにおけるメモリの組織化が,検索効率や応答品質に与える影響を明らかにすること。
- ファイルシステムを適切に組織化することで,検索コストを約半減させることが確認された。
- しかし,現状のエージェントでは,メモリの成長に伴い組織化が崩壊する傾向が見られた。
- ツールセットの変更も,メモリの構造に大きな影響を与えることが示唆された。
借用された強み:コードエンコーディングを用いたN個の探索が自己チェック型 jailbreak 対策を破る [cs.CR, cs.AI]目的:自己チェック型防御の脆弱性とそのメカニズムの解明
- 大規模言語モデルの安全性確保は,悪意あるプロンプトによる攻撃から保護することが重要である。
- 既存の自己チェック型防御は高い防御率を報告するものの,その脆弱性に関する理解が不十分である。
- コードエンコーディングとN個の探索を組み合わせることで,自己チェック型防御を効果的に回避できることを示す。
- 自己チェック型防御は,モデル自身にリクエストの評価を依頼するが,コードエンコーディングとN個の探索の組み合わせによって回避可能であることが示された。
- 防御の強度はターゲットモデルに依存しており,防御率と未防御時の到達率に相関関係があることが明らかになった。
- 攻撃の種類によって,防御を回避できる側の優位性が変化する。これは,各攻撃が防御の決定境界に与えるプローブの数によって説明できる。
FakeIDet3-DB:セキュアIDベンチマークのためのデジタル攻撃とパッチ抽出の改良 [cs.CL, cs.HC, cs.CV, cs.AI]目的:リアルな政府発行IDに対するデジタル操作の包括的なデータベース
- ID認証は,高周波のセキュリティパターンの構造的完全性に依存する。近年,AI技術の発展がID偽造のリスクを高めている。
- プライバシー規制により,リアルなIDを用いたモデル学習が困難であり,合成テンプレートでは現実のIDの複雑な視覚パターンを再現できない。
- 本研究は,プライバシーを保護しつつ,リアルなIDの視覚パターンを最大限に活用できるパッチ抽出技術の開発を目指す。
- FakeIDet3-DBは,古典的な攻撃と生成AIによる攻撃を含む,6400枚以上のID画像から約520万個のパッチを抽出したデータベースである。
- 提案手法PACEは,個人識別情報(PII)の漏洩を防ぎつつ,検知精度を最大化する匿名化パッチ抽出を実現した。
- 最先端モデルの評価では,生成AIおよび古典的手法による攻撃の検出・位置特定が困難であることが示された(検出EER: 32.45%,位置特定AUC-ROC: 83.48%)。
AlphaSchema:LLMベースのアルファマイニングにおける取引意味空間の探索 [cs.AI]目的:アルファマイニングのための取引意味空間の構造化と探索
- 金融市場において,より効率的な投資戦略の発見は常に重要である。
- LLMを用いたアルファマイニングは有望だが,探索空間が暗黙的で制御が困難である。
- AlphaSchemaは,明示的な意味空間を構築し,体系的な探索を可能にすることを目的とする。
- AlphaSchemaは,イベント,コンテキスト,品質,方向性,出力を含むスキーマプランを用いて取引意味空間を構築する。
- 実験結果から,AlphaSchemaは中国株式市場で高い予測性能とポートフォリオパフォーマンスを示すファクタープールを発見した。
- 異なるLLMによる同一スキーマプランの実装は,予測品質において比較可能であり,LLMの選択に対するロバスト性を示した。
自己進化の再考:スキル過学習を軽減するための制約付き探索・利用過程 [cs.AI, cs.LG]目的:大規模言語モデルエージェントにおけるスキル自己進化のメカニズム
- 実世界での応用において,LLMエージェントが過去の経験を蓄積・再利用することは重要である。
- データ駆動型スキル最適化は,限られた実環境データへの過学習が起こりやすい。
- スキル進化における過剰な利用と無制約な探索のバランスを改善し,過学習を軽減すること。
- SkillBoostは,観察された失敗を編集可能なスキルコンポーネントに局所化する構造化された利用段階と,LLMの事前知識を活用した多様な修理候補生成を行う事前知識に基づいた探索段階を備えている。
- 検証された受け入れによって,回帰限界内でパフォーマンスが向上した場合にのみ候補がコミットされることで,リスクが軽減される。
- 23のモデル・ベンチマーク設定における実験で,SkillBoostは最先端のパフォーマンスを発揮し,過学習を軽減し,人間が作成したスキルやLLMによって生成されたスキルを上回った。
FPSGen: BEVサポートトランスポートフローを用いた柔軟な点群シーン生成 [cs.CV, cs.AI]目的:点群シーンの柔軟な生成
- 自動運転やロボティクスにおける環境理解の精度向上に不可欠な技術である。
- 既存手法は部分的な点群データに依存し,遠景や遮蔽領域の生成が不十分である。
- 部分点群に依存せず,BEV情報を用いた点群シーン生成による課題解決を目指す。
- FPSGenはBEV空間での事前分布に基づき点群ソースを生成することで,既存手法の課題を克服した。
- 教師-生徒モデルによる最適輸送計画により,直線的なトランスポートパスを実現し,生成品質を向上させた。
- SemanticKITTIおよびKITTI-360における実験で,最先端の性能を達成した。
スパース性の天井:スパイクニューラルネットワークが活動をエネルギーと交換できる場所とできない場所 [cs.NE, cs.LG]目的:スパイクニューラルネットワークにおけるスパース性の限界と,そのエネルギー効率に関する研究
- ニューラルネットワークのエネルギー効率化は,AIの普及における重要な課題である。
- スパイクニューラルネットワークは低消費電力と期待されるが,スパース性の限界が明確でなかった。
- タスクの種類によってスパース性の限界が異なり,その要因を解明すること。
- 低負荷のフィードフォワード認識タスクでは,精度を損なうことなく発火率を5%まで削減可能であった。
- リカレント言語モデルでは,発火率は約50%以下にすることが困難であり,状態の維持が必要であることが示された。
- スパイクTransformerは2%までスパース化可能であり,スパース性の限界はリカレント圧縮に起因することを示唆した。
光流推定ネットワークに対する物理リアルタイム赤外線攻撃 [cs.CV, cs.AI]目的:光流推定ネットワークの脆弱性検証
- 自動運転や動体検知など,画像処理技術の応用が拡大しており,安全性確保が重要である。
- 光流推定ネットワークは,後続のタスクに大きな影響を与えるため,その頑健性が課題である。
- 本研究は,現実世界における赤外線を用いた光流推定ネットワークへの攻撃手法を提案する。
- 提案手法は,事前に生成した敵対的サンプルをリアルタイムで表示し,物理世界での攻撃を可能にする。
- 従来のデジタルから物理への攻撃手法とは異なり,システム改変なしに直接モデルを攻撃できる。
- 実験結果から,多様な照明条件や物体速度,配置において光流推定の精度を低下させることが確認された。
AIGen:ハイブリッドMLOps統合によるAI部品表の自動生成 [cs.LG]目的:AIシステムの構成要素の機械可読な部品表の生成
- AI開発の透明性と説明責任が重要視される中,AIサプライチェーンのガバナンスが求められている。
- AIシステムの構成要素の正確な記録と管理が困難であり,標準に準拠した部品表の自動生成ツールが不足している。
- 欧州連合AI法,NIST AIリスク管理フレームワーク,ISO/IEC 42001への準拠を支援する基盤を提供すること。
- AIGenは,MLflow MLOpsフレームワーク上で動作し,マイニングヒューリスティックと大規模言語モデルを組み合わせることで,AIBoMを生成する。
- プラグインインターフェースにより,コアコードベースを変更することなく,ドメイン固有のコレクターを拡張できる。
- Hugging Face,PyTorch,TensorFlowなどの多様なAIフレームワークをサポートし,AIサプライチェーンの透明性とトレーサビリティを向上させる。
憲法に基づく中間学習:コンテンツの存在がアラインメントの向上を促進する [cs.CL, cs.AI, cs.CY, cs.LG]目的:アラインメントの向上
- 大規模言語モデルの安全性と倫理的な問題が重要視されており,人間の価値観との整合性が不可欠である。
- 従来のポストトレーニングによるアラインメントは浅く,ファインチューニングによって容易に損なわれるという課題がある。
- 中間学習段階で価値観に基づいたコンテンツを導入することで,より持続的なアラインメントを実現することを目指す。
- 憲法に基づく中間学習モデルは,コントロール群と比較して,アラインメントの汎化性能と持続性が向上した。
- 特に,脅迫に対する耐性において顕著な差が見られ,SFTによって生じる脅迫への傾向を抑制する効果が,その後のファインチューニングでも維持された。
- ただし,文脈内のプレッシャーや対立に対する積極的な抵抗が必要な状況では,SFT後に優位性が弱まる傾向が見られた。
グラフが検証者:手続き間脆弱性検出のためのエージェント的強化学習 [cs.CR, cs.AI, cs.SE]目的:手続き間脆弱性検出のためのエージェント的強化学習フレームワーク
- ソフトウェアの安全性が重要視される現代において,脆弱性検出技術の高度化は不可欠である。
- 既存の脆弱性検出器は関数単位での分析に偏りがちで,複数の関数にまたがる脆弱性の検出が困難である。
- コードプロパティグラフを活用し,エージェントが自ら証拠を収集することで,より正確な脆弱性検出を実現する。
- VulAgentRLは,コードプロパティグラフを基盤としたエージェント的強化学習フレームワークであり,厳密なペアワイズ正解率で最先端のベースラインモデルを上回る性能を示した。
- このフレームワークは,ツールの利用回数を減らしつつ,分布外のデータセットやクラス不均衡下でも優れた性能を維持する。
- 教師からの知識蒸留によるポリシーの初期化は,強化学習がツール利用の行動を学習するために必要不可欠である。
知識拡張型エージェント進化によるAscend C演算子自動生成:AgenticCANN [cs.AI]目的:Ascend C演算子自動合成のための知識拡張型エージェント進化フレームワーク
- NPU推論性能向上には演算子最適化が不可欠であり,ハードウェア知識が重要となる。
- Ascend CはCUDAと異なるプログラミングモデルのため,LLMによる自動生成は課題が多い。
- 知識不足な環境下で,Ascend C演算子の自動生成における実現可能性の低さを解決する。
- AgenticCANNは,Ascend 910B上で6種類の演算子に対し,90〜100%の実現率を達成した。
- 1B Panguモデル推論カーネルにおいて,最大6.65倍の高速化を実現した。
- 知識注入により,elementwise演算子の実現可能性が57%から86%に向上し,汎用的な効果が示された。
大規模言語モデル時代における科学的知識の発見 [cs.ET, cs.DL, cs.AI, cs.CL, cs.IR]目的:科学論文の関連文献発見とスクリーニングにおける大規模言語モデルの応用
- 学術論文の急増により,関連文献の特定が困難になっている現状がある。
- 従来の検索システムは手動によるクエリ作成と精査に依存しており,効率性に課題がある。
- 大規模言語モデルを活用し,より柔軟かつ効率的な文献検索・スクリーニング手法を確立する。
- 34の査読付き論文を調査した結果,生成型LLMが文献検索と適合性評価に有効であることが示された。
- 調査対象論文は,使用LLM,モデルへのアクセス方法,プロンプト技術,評価指標などによって分類された。
- OpenAIRE Graphから1,589件の記録をスクリーニングし,34件を選定したという具体的な調査プロセスが示された。
リスクを考慮したAutoRLのための効率的なヘテロスケダスティックベイズ最適化 [eess.SY, cs.SY, cs.LG, cs.AI]目的:強化学習ハイパーパラメータ配置の最適化
- 強化学習は複雑なタスクで成功を収めているが,ハイパーパラメータの影響が大きい。
- 強化学習の結果は確率的であり,性能と変動がハイパーパラメータに依存する。
- 平均報酬を最大化しつつ,学習実行間の変動を抑制するハイパーパラメータを探索する。
- 提案手法ERAHBOは,平均と分散の両方をモデリングすることで,サンプル効率を向上させる。
- ERAHBOは,リスクを考慮しない既存手法やリスク回避型手法と比較して,一般的に性能が向上する。
- 様々な強化学習アルゴリズムと環境において,リスクを考慮した報酬において優れた結果が得られた。
MPEcho:メロディと音素を意識した制御可能なカバーソング生成フレームワーク [cs.SD, cs.AI, eess.AS]目的:カバーソング生成における音素レベルでの制御
- 音楽制作において,既存曲を異なるスタイルで再解釈するカバーソングは重要な表現手法である。
- 既存のカバーソング生成モデルでは,歌詞の正確性が課題であり,音素エラー率が高い。
- MPEchoは,音素情報を明示的に利用することで,歌詞の正確性を向上させることを目指す。
- MPEchoは,既存のSongEchoフレームワークに音素エンコーダと長さ調整器を組み込むことで,音素エラー率を大幅に低減した。
- 高品質な音声-音素ペアの不足を解消するため,Whisperベースの自動転写モデルPhonsaを開発し,高精度な音素アノテーションを可能にした。
- 実験結果は,PhonsaによるアライメントとMPEchoによるエンドツーエンドのカバーソング生成の有効性を示した。
グラフニューラルネットワークにおける普遍性と近似レート:ランダム特徴量を用いた解析 [cs.LG, stat.ML]目的:グラフニューラルネットワークの普遍性と近似レートの理論的解明
- グラフ構造データは,様々な分野で重要性を増しており,その解析手法が求められている。
- 既存のグラフニューラルネットワークでは表現力に限界があり,複雑な関数を近似することが困難である。
- ランダムなノード特徴量とPENNsを組み合わせることで,近似能力の向上を目指す。
- ランダムなノード特徴量とPENNsを用いることで,固定サイズのグラフ上での関数を確率的に任意に近似可能であることが示された。
- 微分可能な関数に対して,PENNsの層の深さと非ゼロ重みの数と近似精度との関係性を示す上限が導出された。
- ランダム特徴量は,理論的にも実験的にもグラフニューラルネットワークの表現力を高めることが確認された。
説明可能なTransformerモデルによるMpox研究の自動多ラベル分類 [cs.CL, cs.AI]目的:Mpox研究論文の主要トピックへの分類
- Mpox感染症は公衆衛生上の重大な問題であり,研究はワクチン開発や感染予防に不可欠である。
- 発表される研究論文の増加により,情報を効率的に整理・分析することが困難になっている。
- Mpox研究論文の分類を自動化し,情報検索の迅速化と公衆衛生の向上を目指す。
- BERTモデルが97.05%の正解率,97.67%のmicro F1スコア,96.46%のmacro F1スコアを達成した。
- SHAP分析により,モデルの意思決定に関わる重要な単語の特徴とパターンが明らかになった。
- BERTによるMpox研究の自動分類は,研究者や政策立案者,医療従事者の情報収集を支援し,時間短縮と公衆衛生の改善に貢献する。
IMUセンサからの筆跡軌跡再構成のための混合エキスパートモデル [cs.LG]目的:筆跡軌跡の再構成
- 人間とコンピュータのインタラクションにおいて,筆跡情報の活用は重要である。
- 既存手法では,筆圧や表面材質の変化への対応が十分でない場合がある。
- 筆記時と空中移動時の軌跡を正確に再構成し,筆跡認識の精度向上を目指す。
- 提案手法は,筆記部分と空中移動部分をそれぞれ専門的に扱う混合エキスパートモデルを採用した。
- 各エキスパートモデルの学習を改善することで,より高精度な軌跡再構成を実現した。
- 公開データセットの導入により,今後の研究の発展と評価の標準化に貢献する。
PowerAtlas:電力系統における電力・計算の共同スケジュールに向けて [cs.LG]目的:電力・計算の共同スケジューリング
- AI負荷増加によりデータセンターが電力需要として重要性を増しており,柔軟な電力系統運用が求められている。
- 既存の汎用LLMによるスケジュールは制約下で実現不可能であり,系統違反や電力供給不足を引き起こす可能性がある。
- 電力系統の運用ルールと計算タスクのSLAを両立する,実用的な共同スケジューリング手法を開発すること。
- PowerAtlasは,過去データ,ドメイン知識,物理的制約を統合し,電力・計算の共同決定を行うLLMエージェントフレームワークである。
- 中国の電力会社との共同実験で,実データセンターデータを用いた検証を行い,有効性を確認した。
- ECBenchという2,000件のスケジューリングインスタンスからなるベンチマークを構築し,11のLLMでPowerAtlasの有効性を評価した結果,実現可能性とコスト削減効果が確認された。
DREvo:自己進化を促すための再校正された過去の経験の蒸留 [cs.IR, cs.MA, cs.LG]目的:大規模言語モデルエージェントの性能向上のためのハーンネスの自己進化手法
- 大規模言語モデルエージェントの性能はハーンネスに大きく依存するため,その重要性は高い。
- 過去の経験が必ずしも安定した探索指針とならず,性能が進化の反復ごとに変動しやすい。
- 過去の有効な経験を特定し,ハーンネスの進化方向を決定することで,信頼性の高い性能向上を目指す。
- DREvoは,機能レベルでの証拠アンカー,状態依存の証拠再校正,および役割条件付きの探索意図蒸留を統合することで,滑らかな進化軌跡を実現した。
- 5つのベンチマークにおいて最高の精度を達成し,ドメイン推論とエージェントタスクでそれぞれ平均16.2%と14.2%の改善を示した。
- 限られた進化予算下で,既存手法と比較して優れた性能を発揮することが示された。
拡散モデルにおけるウォーターマーキングのためのロバストなワンステップ反転 [cs.CR, cs.AI]目的:拡散モデル生成画像認証のためのウォーターマーキング手法
- 拡散モデルは高品質な画像を生成するが,生成画像の真正性確認が課題となっている。
- 従来の反転に基づくウォーターマーキングは,処理速度が遅く,かつエラーが発生しやすいという問題がある。
- 本研究は,高速かつロバストなウォーターマーキングを実現するための効率的な反転手法を開発することを目的とする。
- 提案手法FARIは,わずか20分のファインチューニングで,従来の50ステップDDIM反転を上回るウォーターマーク検証のロバスト性を実現した。
- FARIは,ワンステップ反転フレームワークと軽量な敵対的LoRAファインチューニングを組み合わせることで,高速化とロバスト性の向上を両立した。
- 反転軌跡の曲率が低いという特性を利用し,少ない計算量で近似することを可能にした。
UrbanDS:グラフ誘導LLMマルチエージェントシステムによるデータ集約型都市タスク [cs.AI]目的:データ集約型都市タスクにおけるLLMマルチエージェントシステムの構築
- 都市問題解決には,多様なデータの統合と分析が不可欠であり,データサイエンスの活用が重要である。
- 既存手法では,大規模かつ異種なデータリポジトリからの情報発見と活用に課題があり,データ集約型タスクへの適用が困難である。
- UrbanDSは,都市データを効率的に処理し,複雑な都市タスクに対応するための新たなアプローチを提供する。
- UrbanDSは,データセット間の関係性をグラフ構造で表現することで,関連データの効率的な検索と活用を可能にした。
- 構築したベンチマークUrbanDS-Benchにおいて,既存のデータサイエンスエージェントと比較して,データ集約型タスクで優れた性能を示した。
- 武漢市東湖区の都市運営プラットフォームへの導入により,実世界での有効性が実証された。
テンポラル畳み込みネットワークを用いた運動センサーからのオンライン筆跡軌跡再構成 [cs.HC, cs.CV, cs.LG]目的:オンライン筆跡軌跡の再構成
- デジタルペンによる筆跡は,人間とコンピュータ間のインタラクションの重要な手段である。
- ペンとタブレットのサンプリングレートの差異が,正確な軌跡再構成の課題となる。
- ペンセンサー信号から正確な軌跡を再構成し,筆跡認識の精度向上を目指す。
- 提案手法は,動的時間伸縮法を用いてペンとタブレットの信号をアラインメントする。
- テンポラル畳み込みネットワークを基にした新たなニューラルネットワークアーキテクチャを導入した。
- 新しいベンチマークデータセットを用いて評価を行い,既存手法を上回る性能を示した。
テキスト画像拡散モデルにおける二重逆変換:プロンプトとノイズの両面からのアプローチ [cs.CV, cs.AI, cs.MM]目的:テキスト画像拡散モデルの逆エンジニアリング手法
- 画像生成AIの発展は目覚ましいが,意図した画像を生成するには高度なプロンプト設計が必要となる。
- 既存のプロンプト逆変換手法は,不安定性や視覚的な忠実性の欠如といった課題を抱えている。
- プロンプトと潜在ノイズの両方を同時に復元することで,より高品質な画像生成と編集を目指す。
- 提案手法Dualinは,CLIPと大規模言語モデルを用いて解釈可能なプロンプトを生成する。
- Dualinは,無条件DDIM逆変換によりターゲット画像の潜在ノイズを正確に再構築し,構造情報の整合性を保証する。
- 実験により,Dualinが高品質なプロンプト生成と,最先端の画像忠実性を両立することが示された。
IMUセンサーからの筆跡軌跡再構成におけるドメイン適応 [cs.LG]目的:筆跡軌跡の再構成
- デジタルペン技術は教育現場での活用が期待され,書き学習の支援に貢献する。
- 大人と子供では筆跡が類似していても,センサー信号に大きな差が生じる点が課題。
- ドメイン適応により,異なる条件での筆跡軌跡再構成の精度向上を目指す。
- ドメイン適応アプローチが,既存の知識を異なる状況で活用する上で有効であることが示された。
- 本研究では,ドメイン適応,ゼロからの学習,ファインチューニングの3つの手法を比較検討した。
- ドメイン適応は,筆跡の速度や自信の差によるセンサー信号の違いを緩和し,軌跡再構成を促進する。
鳥類骨格の分類における視覚的特徴と形態計測的特徴の多重融合 [cs.CV, cs.AI]目的:鳥類骨格の分類
- 考古学へのAI応用が期待されるが,特に鳥類骨遺骸の同定には限界があった。
- 鳥類骨遺骸の分類には専門知識が必要であり,時間と労力がかかる。
- 視覚情報と形態計測データを融合し,AIによる鳥類骨格の自動分類を目指す。
- 骨の種類分類において,86%の精度を達成し,骨格要素の信頼できる識別が可能であることを示した。
- 科レベルの分類は難易度が高く,上位1位の精度は51%だったが,上位3位では75%に達し,正しい分類群が頻繁に上位にランクインした。
- 視覚情報と形態計測情報を統合した深層学習フレームワークの実現可能性を示し,今後の動物考古学におけるAI支援識別法の基盤となる。
