arXiv雑要約
AI - 2026/04/21 公開
忘却に顔を付ける：継続学習とメカニズム解釈可能性の融合 [cs.LG]目的：継続学習におけるメカニズム解釈可能性の探求
- 継続学習は，機械学習モデルが逐次的に学習する能力を向上させる上で重要である。
- 既存の研究では，忘却のメカニズムが十分に解明されておらず，根本的な解決策が欠けている。
- 特徴表現の変化を幾何学的に分析することで，忘却のメカニズムを明らかにし，対策を検討する。
- 忘却は，個々の特徴の符号化が変化することで発生し，特徴の容量減少や下流計算への読み出し阻害が原因となる。
- 玩具モデルの分析により，忘却の最良/最悪のケースが特定され，深層モデルにおける問題点が示唆された。
- Crosscodersを用いた実用的なモデル（Vision Transformer）の解析により，フレームワークの有効性が検証された。
DynaWeb: ウェブエージェントのモデルベース強化学習 [cs.CL, cs.AI]目的：ウェブエージェントのモデルベース強化学習フレームワーク
- 汎用AIアシスタント実現に向け，LLMと強化学習を組み合わせた自律的なウェブエージェント開発が重要である。
- 実環境での学習は，非効率・高コスト・リスクを伴うため，ウェブエージェントの訓練が困難である。
- ウェブ世界のモデルを用いてシミュレーションを行い，効率的な強化学習を実現し，上記の課題を解決する。
- DynaWebは，ウェブページ表現を予測するウェブ世界モデルと強化学習を組み合わせた新しいフレームワークである。
- このモデルにより，エージェントは大量のロールアウト軌跡を生成し，効率的なオンライン強化学習が可能となる。
- WebArenaおよびWebVoyagerのベンチマークで，最先端のオープンソースウェブエージェントモデルの性能を大幅に向上させた。
押し出しによる形状の構築学習 [cs.GR, cs.AI]目的：形状構築の表現形式と，それを用いた3Dメッシュ生成手法
- 3Dモデリングは，様々な分野で不可欠であり，その自動化へのニーズは高い。
- 既存の生成モデルは，生成されるメッシュの品質や多様性に課題が残る。
- テキストによる記述から3Dメッシュを生成し，高品質かつ多様な形状を創出する。
- 本研究では，メッシュ構築を面押し出しのシーケンスとして表現するText Encoded Extrusions (TEE) を提案した。
- 大規模言語モデル(LLM)を用いてTEEから3Dメッシュを生成することで，任意の面数に対応し，かつ多様体メッシュを生成可能である。
- 学習された押し出しシーケンスは既存メッシュへの適用も可能であり，生成に加えて編集機能も実現した。
閉じたソースのMLLMに対するターゲット視点ルーテッドメタ最適化による汎用的な敵対的攻撃 [cs.AI]目的：閉じたソースのマルチモーダル大規模言語モデルに対する汎用的な標的型敵対的攻撃手法の開発
- MLLMは画像とテキストを統合し高度な推論が可能だが，そのセキュリティ評価は重要である。
- 既存の敵対的攻撃は個々のサンプルに特化しており，汎用性や実用性に課題がある。
- 未知の商用MLLMに対し，単一の摂動で任意の入力を標的に誘導する攻撃を実現する。
- 提案手法MCRMO-Attackは，マルチクロップ集約とアテンションガイデッドクロップにより，標的の変動性を抑制する。
- アライナビリティゲート付きトークンルーティングにより，トークンレベルの信頼性を向上させる。
- GPT-4oとGemini-2.0において，既存のベースラインをそれぞれ+23.7%と+19.9%上回る攻撃成功率を達成した。
NPCNet：ナビゲーター駆動型疑似テキストによる敗血症初期表現型の深層クラスタリング [cs.LG]目的：敗血症初期表現型の深層クラスタリング
- 電子カルテは患者モデリングに不可欠だが，従来の集計や補完では時間的変化が歪められる。
- 既存のクラスタリングは臨床的制約を組み込まず，表現型の臨床的区別が曖昧になりがちである。
- 臨床知識を組み込み，臨床的に意味のある敗血症表現型を識別すること。
- NPCNetは，電子カルテを疑似テキストに変換し，臨床知識を注入することで，より精度の高いクラスタリングを実現した。
- 内部クラスタリングベンチマークと臨床的妥当性指標において，既存手法を上回る性能が確認された。
- 敗血症の精密治療戦略の実現に向けた有効な経路を提供する。
eCP：事前学習済みモデルを用いた等変な共形予測 [cs.LG, cs.RO, cs.SY, eess.SY]目的：不確実性定量のための共形予測における幾何学的情報の導入
- ロボット工学等の分野では，長期間にわたる予測において信頼性の高い不確実性推定が不可欠である。
- 従来の共形予測では，予測範囲が広がり，統計的保証が実質的に意味をなさない場合がある。
- 事前学習済み予測モデルの群平均化により，共形予測の不確実性領域の拡大を抑制し，信頼性の高い推定を実現する。
- 提案手法は，共形性スコアの収縮を数学的に保証し，特に高い信頼水準において，より鋭い予測セットを提供する。
- 歩行者軌跡予測の実験設計を通じて，理論的根拠の妥当性を検証した。
- 軌道誘導要素を介して絡み合ったサンプルを活用し，不確実性の緩和を図る。
LLMエージェントにおける不確実性定量化：基礎，新たな課題，そして機会 [cs.AI]目的：LLMエージェントの不確実性定量化に関する基礎的枠組みの確立
- LLMの応用が拡大する中で，安全性確保は重要課題である。不確実性定量化は，そのための基盤技術となる。
- 既存研究は，単一ターンでの質疑応答に偏っており，複雑なタスクをこなすLLMエージェントにおける不確実性定量化は未成熟である。
- LLMエージェントのインタラクティブな環境下における不確実性定量化の課題を特定し，将来の研究方向性を示す。
- 本研究では，既存の不確実性定量化手法を包含する，LLMエージェント向け汎用的な不確実性定量化の定式化を提示する。
- エージェント固有の課題として，不確実性推定器の選択，異種エンティティの不確実性，インタラクティブシステムにおける不確実性の動的モデリング，詳細なベンチマークの不足を指摘する。
- 実世界のベンチマーク$\tau^2$-benchを用いた数値分析を行い，課題の具体性と重要性を示す。
DisCa：蒸留適合型学習可能な特徴キャッシュによるビデオ拡散Transformerの加速 [cs.CV, cs.AI]目的：ビデオ拡散Transformerの加速機構の開発
- ビデオ生成の分野で拡散モデルが成功を収める一方，計算コストが課題となっている。
- 特徴キャッシュは高速化に有効だが，圧縮率を上げるとセマンティクスや詳細が失われやすい。
- 蒸留と特徴キャッシュの組み合わせによる，より効率的なビデオ生成の実現を目指す。
- 蒸留と適合する学習可能な特徴キャッシュ機構を導入し，高次元特徴進化の正確な捕捉を可能にした。
- 大規模ビデオモデルにおける蒸留の安定性を高めるため，Restricted MeanFlowアプローチを提案した。
- 生成品質を維持しつつ，最大で11.8倍の加速を実現した。
大規模言語モデルにおける柔軟な文脈内推論を支える創発的な構造化表現 [cs.CL, cs.AI]目的：大規模言語モデルにおける構造化表現と文脈内推論の関連性
- 言語モデルの高度化に伴い，人間のような推論能力が注目されている。
- モデル内部でどのように構造化された知識が利用されているか不明確であった。
- 文脈内推論における構造化表現の役割を解明し，そのメカニズムを明らかにすること。
- モデルの中間層から後層にかけて，文脈に依存しない概念的サブスペースが出現することを確認した。
- 因果的媒介分析により，このサブスペースがモデルの予測に不可欠であることが示された。
- 初期から中間層の注意ヘッドが文脈情報を統合し，サブスペースを構築・洗練していることが明らかになった。
Bielik Guard：LLMコンテンツモデレーションのための効率的なポーランド語安全性分類器 [cs.CL, cs.AI]目的：ポーランド語のコンテンツ安全性分類器の開発
- LLM利用拡大に伴い，有害コンテンツ対策の重要性が増している。
- ポーランド語における効率的かつ高精度な安全性分類器が不足している。
- LLM向けポーランド語コンテンツの安全性確保と，誤検知の低減。
- Bielik Guardは，0.1Bおよび0.5Bパラメータの2種類のモデルで構成される。
- 0.5BモデルはテストセットでF1スコア0.791(micro)・0.785(macro)を達成し，識別能力が高い。
- 0.1Bモデルv1.1は，HerBERT-PL-Guardを上回る精度(77.65%)と低い誤検知率(0.63%)を示した。
UniComp：プルーニング，量子化，知識蒸留による大規模言語モデル圧縮の統一的評価 [cs.IR, cs.OS, cs.DC, cs.LG]目的：大規模言語モデル圧縮手法の比較評価
- 大規模言語モデルの利用拡大には，モデル圧縮が不可欠である。
- 既存研究は知識集約型ベンチマークに偏っており，多岐にわたる性能評価が不足している。
- 性能，信頼性，効率の3側面から圧縮手法を評価する統一的なフレームワークの構築。
- 圧縮手法の評価により，事実想起能力は維持される傾向にある一方，推論能力や多言語対応能力は低下することが示された。
- 性能維持と信頼性維持の間には必ずしも相関関係はなく，性能向上だけでは信頼性を保証できないことが明らかになった。
- プルーニングされたモデルにおいて，タスク固有のキャリブレーションが推論性能を最大50%相対的に向上させる可能性があることが示された。
臨床時系列データにおけるイベントのタイミングと注意機構 [cs.LG, cs.AI]目的：臨床時系列データからの個別化された順次イベントの自動発見
- 臨床研究における個別化医療の実現には，大規模時系列データの活用が不可欠である。
- 既存のAIモデルはイベントのタイミングや順序を考慮できず，因果関係の推論が困難である。
- 患者固有の経過と共有パターンを評価し，重要なイベントの順序を特定することを目指す。
- LITT（Individual-Level Time Transformation）は，イベントを仮想的な相対時間軸上で整合させる新しいアーキテクチャである。
- LITTはイベントのタイミングに焦点を当てた注意機構を可能にし，臨床経過の個別化された解釈を支援する。
- 乳がん患者の電子カルテデータを用いた検証により，心毒性誘発性心疾患の発症タイミング予測において高い有効性が確認された。
MerLin：フォトニックおよびハイブリッド量子機械学習の探索エンジン [cs.LG, cs.PL, quant-ph]目的：フォトニックおよびハイブリッド量子機械学習における量子モデルの利点発見
- 量子機械学習は，従来の機械学習の限界を突破し，新たな可能性を開く分野である。
- 量子モデルの適用可能性の評価が，アルゴリズム，データセット，ハードウェア制約に依存し，体系的な探索が不足している。
- 体系的なベンチマークと再現性を実現し，アルゴリズム，ベンチマーク，ハードウェアの共同設計を可能にする。
- MerLinは，線形光学回路の最適化されたシミュレーションをPyTorchおよびscikit-learnに統合し，量子層の微分可能なトレーニングを可能にする。
- 既存の18の研究を再現し，カーネル法，リザバーコンピューティング，畳み込み，再帰型アーキテクチャなど，幅広いモデルに対応した再利用可能な実験基盤を確立した。
- MerLinは，既存の機械学習ツールを活用し，アブレーションスタディ，クロスモーダル比較，ハイブリッド古典量子ワークフローを可能にする。
LLMにおける属性推論攻撃に対するプロアクティブな防御 [cs.HC, cs.CL, cs.CL, cs.CR, cs.AI, cs.CL]目的：LLMからの属性推論攻撃に対する防御策
- LLMの普及に伴い，ユーザーのプライバシー保護が重要になっている。
- 既存の匿名化手法では，きめ細やかなプライバシー保護が困難である。
- LLMの推論能力を阻害し，属性推論を防止する手法を開発する。
- 提案手法TRACE-RPSは，オープンソースLLMにおける属性推論の精度を約50%から5%以下に低減する。
- 異なるLLMやプロンプト変動に対して高い汎化性能と堅牢性を示す。
- プライバシー保護と有用性のトレードオフを考慮した設計である。
SpiralFormer: ループトランスフォーマーはマルチ解像度再帰により階層的依存関係を学習可能 [cs.LG]目的：階層的依存関係の学習
- 深層学習モデルの性能向上には，計算効率とパラメータ効率の向上が不可欠である。
- 従来のループトランスフォーマーは，非再帰型モデルに比べて性能が劣ることが課題であった。
- マルチ解像度再帰により，効率的に階層的依存関係を学習することを目的とする。
- SpiralFormerは，マルチ解像度再帰スケジュールに基づいて再帰処理を実行するループトランスフォーマーである。
- 実験結果から，SpiralFormerは160Mから1.4Bのモデル規模において，ループ型および非ループ型のベースラインよりも優れたパラメータ効率と計算効率を示すことが明らかになった。
- マルチ解像度再帰により，モデルが異なるスケールで反復的な機能的専門化を誘導し，階層的依存関係を学習することが示唆された。
拡散に基づく汎用的な確率的ダウンスケーリング [cs.LG]目的：高解像度な気象予測の確率的な生成
- 気象予測の精度向上は，社会経済活動への影響が大きいため重要である。
- 既存の予測モデルでは，空間解像度が低いことが課題となっていた。
- 多様な気象モデルの予測を，モデル固有の調整なしに高解像度化する。
- 拡散モデルを用いたダウンスケーリングは，既存モデルの決定論的予測よりも平均的に性能が向上する。
- CRPS（連続的予測スコア）による評価において，確率的予測のスキルが大幅に向上した。
- 本手法は，気象予測パイプラインにおける空間解像度と不確実性の表現を強化するための，スケーラブルでモデルに依存しないインターフェースを提供する。
予測期間を考慮した適応的モデル選択フレームワーク：予測期間による性能劣化への対応 [cs.CL, cs.LG, cs.AI]目的：需要予測におけるモデル選択の最適化
- 需要変動が大きく，計画期間が長いビジネス環境では，適切な予測が重要である。
- 最適な予測モデルは普遍的ではなく，評価指標や需要パターンによって変動するため，モデル選択は困難である。
- 予測期間による性能変動を考慮し，一貫性のあるモデル選択を可能にすることを目的とする。
- 提案手法AHSIVは，Walmart，M3，M4，M5データセットにおいて，既存手法と同等の性能を示した。
- 予測期間全体でモデル割り当ての一貫性を向上させ，多様な需要特性を持つ環境で有効性が確認された。
- 予測モデルの選択は，静的なランキングではなく，予測期間と需要特性を考慮した適応的な割り当て問題であるべきである。
設計上の欠落：取り消し可能なマルチモーダル感情分析のための検証可能なモダリティ削除 [cs.DB, cs.CL, cs.LG]目的：取り消し可能なマルチモーダル感情分析のための枠組み
- 個人情報を取り扱うマルチモーダルシステムが増加し，プライバシー保護の重要性が高まっている。
- 特定のモダリティを削除する機能が，プライバシー遵守とユーザーの自律性において重要視されている。
- モダリティ削除の検証可能性と，高い精度を両立する手法が求められている。
- MBDは，構造化された表現学習と検証可能なパラメータ変更パイプラインを組み合わせた枠組みである。
- MBDは，不完全な入力下でも高い予測性能を示し，プライバシーと有用性のトレードオフを実現した。
- MBDは，完全な再学習よりも効率的な，外科的アンラーニングという選択肢を提示する。
感情衝突：反感情反射による感情回復のための双曲ハイパーボリック鏡面多様体 [cs.MM, cs.CL, cs.LG]目的：マルチモーダル感情およびセンチメントモデリングのための双曲ハイパーグラフフレームワーク
- 自然なコミュニケーションや人間とコンピュータのインタラクションにおいて，感情表現は不可欠である。
- 既存の手法では，ノイズや欠損したモーダリティに対してロバストな感情理解が難しい。
- マルチモーダルな感情理解における，ロバスト性と意味的な一貫性を向上させることを目指す。
- Emotion Collider (EC-Net)は，ポアンカレ球埋め込みと双方向メッセージパッシングによるハイパーグラフメカニズムを用いる。
- 双曲空間におけるコントラスティブ学習により，クラス分離を明確化し，高次の意味関係を適応的に構築する。
- 標準的なマルチモーダル感情ベンチマークにおいて，EC-Netは高い精度とロバスト性を示し，特にモーダリティが欠損またはノイズを含む場合に改善が見られた。
衝突する粒子のグラフニューラルネットワーク：海氷フロウモデリングへの応用 [cs.LG, cs.AI, cs.CV, physics.comp-ph]目的：海氷の動力学学習と予測
- 気候変動に伴う海氷の減少と，その予測の重要性が高まっている。
- 従来の数値モデルは計算コストが高く，大規模なシミュレーションが困難である。
- GNNとデータ同化を組み合わせることで，効率的かつ高精度な海氷モデルを構築する。
- 提案モデル（Collision-captured Network）は，従来の数値モデルに比べ，計算時間を大幅に短縮できることが示された。
- データ同化技術の導入により，観測データに基づいた高精度な海氷予測が可能となった。
- 周辺氷帯（MIZ）における予測の改善が期待され，機械学習とデータ同化の融合の可能性を示唆する。
LiveGraph：演習問題推薦のための活性構造ニューラル再ランク付け [cs.CE, math-ph, math.MP, cs.IR, cs.LG]目的：演習問題推薦の精度と多様性の両立
- デジタル学習環境の拡大に伴い，個別最適化された教育コンテンツ提供システムの需要が高まっている。
- 既存の推薦システムは，学生の学習行動の偏りや，個別学習経路への適応の遅れという課題を抱えている。
- 学習履歴の構造的関係性を重視し，精度と多様性を両立した推薦を実現することを目指す。
- LiveGraphは，活性構造ニューラル再ランク付けという新たな枠組みを提案し，既存の課題を克服する。
- 学習履歴をグラフ構造で表現し，積極的な学習者とそうでない学習者の情報格差を縮小する。
- 実験結果から，LiveGraphは予測精度と演習問題の多様性の点で既存手法を上回ることが示された。
MASPO：勾配利用，確率質量，および信号信頼性を統合した，ロバストでサンプル効率の高いLLM推論 [cs.LG, cs.AI]目的：大規模言語モデルの推論におけるロバスト性とサンプル効率の向上
- 大規模言語モデルの性能向上は，様々な応用において不可欠である。
- 従来のRLVRアルゴリズムは，LLMの最適化ダイナミクスに適応できていない。
- MASPOは，勾配利用，確率質量，信号信頼性を調和させることでこの問題を解決する。
- MASPOは，微分可能なソフトGaussianゲート，質量適応型リミッター，非対称リスクコントローラーを統合している。
- 実験結果から，MASPOは既存手法を大幅に上回るロバストなRLVRソリューションであることが示された。
- MASPOは，勾配利用の最大化，探索のバランス，信号確信度に基づいた更新を行うことで，LLM推論を改善する。
AI検索サマリーがウェブサイトトラフィックに与える影響：Google AI概要とWikipediaからのエビデンス [cs.CY, cs.AI]目的：Google AI概要がWikipediaのトラフィックに与える因果的影響の推定
- 検索エンジンは情報収集の重要な手段であり，ウェブサイトへのトラフィックを大きく左右する。
- AIによる検索サマリーの導入により，ウェブサイトへのトラフィックが減少する可能性が指摘されている。
- AIサマリーが情報公開元へのトラフィックに与える影響を定量的に明らかにすること。
- Google AI概要の導入は，英語Wikipediaの記事への1日のトラフィックを約15%減少させた。
- 減少幅は記事の種類によって異なり，文化関連の記事で大きく，STEM関連の記事では小さかった。
- この結果は，検索エンジンの生成回答機能が，情報公開元への注目を移行させる可能性を示唆する。
エージェント型サプライチェーン実行環境における攻撃ベクターと防御戦略の分類 [cs.CR, cs.AI]目的：エージェント型サプライチェーン実行環境の攻撃ベクターと防御戦略
- 大規模言語モデルを用いたエージェントシステムが発展しており，そのセキュリティ確保が重要である。
- 従来のビルド時攻撃とは異なり，実行時依存性におけるセキュリティリスクが十分に理解されていない。
- エージェントの複雑な実行時動作に起因するセキュリティリスクを体系的に解決することを目指す。
- データサプライチェーン攻撃とツールサプライチェーン攻撃の二つの主要な脅威カテゴリを特定した。
- エージェントが自己複製型ワームのベクターとなる「Viral Agent Loop」の出現を明らかにした。
- コンテキストを信頼できない制御フローとして扱い，ツールの実行を暗号学的起源によって制限するゼロトラストランタイムアーキテクチャを提唱した。
美しさが役に立たないとき：最新のテキストから画像へのモデルが信頼性の高い訓練データ生成器として失敗する理由の調査 [cs.RO, cs.CV, cs.AI]目的：テキストから画像へのモデルを用いた合成データ生成の性能低下
- 画像認識技術の発展には，大量の訓練データが不可欠である。データ収集のコストやプライバシーの問題もある。
- 近年，合成データが訓練データの代替手段として注目されているが，その実用性には疑問が残されている。
- 最新のテキストから画像へのモデルが，現実世界のデータ分布を適切に反映した訓練データを生成できない問題を解決する。
- 最新のテキストから画像へのモデルは，視覚的な品質は向上しているにも関わらず，訓練データ生成器としての性能は低下している。
- これは，モデルが美的観点に偏り，データの多様性や現実世界の分布を十分にカバーできていないことが原因である。
- 生成モデルのリアリズム向上と，データとしてのリアリズム向上は必ずしも一致しないという重要な示唆が得られた。
ImpRIF：より強い暗黙的推論が，より優れた複雑な指示追従につながる [cs.AR, cs.CL, cs.CL, cs.AI]目的：複雑な指示追従能力の向上
- 大規模言語モデルの応用が高度化するにつれ，複雑な指示を的確に理解する能力が不可欠となっている。
- 既存モデルは，指示に内在する暗黙的な推論構造を十分に捉えきれていないという課題がある。
- 暗黙的な推論を理解させることで，複雑な指示追従性能を大幅に向上させることを目指す。
- ImpRIFは，指示を検証可能な推論グラフとして形式化し，プログラムによる検証とグラフ駆動型Chain-of-Thought推論を可能にする。
- 大規模な学習データ合成，グラフ推論によるファインチューニング，および強化学習を通して，暗黙的な推論能力を強化する。
- 5つの複雑な指示追従ベンチマークにおいて，ベースモデルを大幅に上回る性能を示し，暗黙的推論の重要性が示された。
DeepPresenter：環境に基づいた反省によるプレゼンテーション生成エージェント [cs.AI]目的：多様なユーザーの意図への適応と，フィードバック駆動による反復改善
- プレゼンテーションは情報を効果的に伝える上で重要であり，その自動化は生産性向上に繋がる。
- 既存のプレゼンテーション生成エージェントは，固定されたワークフローに依存し，柔軟性に欠ける。
- 環境からの観察に基づき，プレゼンテーション固有の問題を特定し，修正する能力の向上。
- DeepPresenterは，自律的にスライドを計画，レンダリング，修正することで，長期間にわたる反復改善を実現する。
- 環境に基づいた反省により，内部信号に頼らず，レンダリングされたスライドの状態に基づいて生成プロセスを条件付ける。
- 多様なプレゼンテーション生成シナリオにおいて，最先端の性能を達成し，9Bモデルは大幅に低いコストで高い競争力を維持する。
SIGMA：AliExpressにおける意味に基づいた指示駆動型生成マルチタスクレコメンダー [cs.IR, cs.LG]目的：大規模言語モデルを活用した，意味に基づき指示に従う生成型マルチタスクレコメンダー
- 近年のLLM進化によりレコメンデーションは変革期。より高度な推薦が求められている。
- 既存手法はNext-Item予測に偏り，多様なニーズやビジネス要件に対応しきれない。
- 様々な推薦タスクに対し，指示に基づき柔軟に対応できるレコメンダーを開発する。
- SIGMAは，アイテムを意味空間に埋め込み，協調フィルタリングと組み合わせることで，より的確な推薦を実現。
- ハイブリッドなアイテムトークン化手法と大規模なマルチタスクデータセットにより，多様なニーズに対応可能。
- タスクに応じた確率的融合機構により，推薦の精度と多様性のバランスを最適化。
モデルフリーな汎用AI [cs.AI]目的：汎用強化学習における漸近ε最適性の保証
- AI開発において，環境モデル構築不要な手法は重要である。学習コスト削減や未知環境への適応に貢献する。
- 従来の強化学習エージェントはモデルベースであり，複雑な環境では性能限界がある。
- モデルフリーな汎用エージェントを確立し，環境モデル不要な強化学習の可能性を広げる。
- 本研究では，初のモデルフリーな汎用AIQIを提案し，漸近ε最適性を持つことを証明した。
- AIQIは，従来の汎用エージェントとは異なり，行動価値関数の分布に対する普遍的帰納を用いる。
- 真実の粒条件の下で，AIQIは強漸近ε最適性と漸近εベイジアン最適性を持つことが示された。
バイアス増幅の緩和：低リソース環境におけるグループ間データ拡張による英語学習者の自動採点 [cs.CL, cs.AI]目的：英語学習者の自動採点におけるバイアス増幅の緩和
- 教育評価において自動採点システムの利用が進む中で，公平性が重要な課題となっている。
- 自動採点システムは，学習データに含まれるバイアスを増幅させ，特定グループの評価を不当に低くする可能性がある。
- 英語学習者など，データが少ないグループに対するバイアス増幅を軽減し，公平な自動採点を実現すること。
- 提案手法BRIDGEは，豊富な非英語学習者の高得点サンプルから知識内容を抽出し，英語学習者の言語パターンに組み込むことで，高得点英語学習者のサンプルを合成する。
- 合成サンプルの品質を確保するため，識別器モデルを導入している。
- カリフォルニア科学テスト（CAST）のデータセットを用いた実験により，BRIDGEが高得点英語学習者に対する予測バイアスを効果的に低減し，全体的な採点性能を維持することが示された。
測地意味検索：学習された局所リーマン多様体を用いた引用グラフの地図的ナビゲーション [cs.IR, cs.LG, cs.SI]目的：引用グラフにおける測地意味検索の実現
- 学術論文の引用関係は知識の構造を反映し，研究分野の発展を理解する上で重要である。
- 従来の検索手法は固定されたユークリッド距離に依存しており，論文間の意味的な関連性を十分に捉えられていない。
- 局所リーマン多様体を用いることで，論文間の複雑な関係性をより正確に表現し，検索精度を向上させる。
- GSSは，169KのarXiv論文を用いた評価で，SPECTER+FAISSベースラインと比較してRecall@20で23％の相対的な改善を達成した。
- 学習された測地距離を用いた検索は，直接的な類似度計算よりも定性的に優れていることが保証された。
- k-meansプーリングを用いた階層的な粗探索により，計算コストを4倍削減しつつ，97％の検索品質を維持した。
知識があっても知恵はない：LLMと意図された影響のずれを測定する [cs.LG, cs.AI, cs.CY, stat.AP]目的：LLMと意図された影響との間のずれの測定
- AI技術の発展は目覚ましいが，その有効性を保証するものではない。
- LLMのベンチマーク性能と，実際の応用における性能との間に乖離が生じている。
- 教育現場におけるLLMの有効性を評価し，改善策を提示すること。
- 主要なLLMにおいて，異なるタスク間でのモデルの振る舞いの相関性が，対象タスクにおける専門家との相関性よりも高かった。
- LLM間の偏りが，教育の質や学習成果の意図された影響と一致しない場合が多かった。
- LLMの選択やプロンプト戦略だけでは，ずれの誤差全体の15%しか説明できず，事前学習の影響が大きいことが示唆された。
逐語表現から要旨へ：意味情報ボトルネックによるピラミッド型マルチモーダルメモリの蒸留 [cs.CV, cs.AI, cs.CL, cs.IR, cs.MM]目的：長視野ビデオエージェントのためのピラミッド型マルチモーダルメモリの蒸留
- 近年，マルチモーダル大規模言語モデルの性能は飛躍的に向上しているが，長期的なビデオ理解には限界がある。
- 既存手法は，高遅延な視覚中心アプローチか，詳細情報の欠落や幻覚を起こしやすいテキスト中心アプローチに偏っている。
- 人間の認知効率に着想を得たメモリ構造を構築し，情報圧縮とタスク関連情報の保持のバランスを最適化する。
- 提案手法MM-Memは，4つのベンチマークにおいて最先端の性能を達成し，オフラインおよびストリーミングタスクの両方で高い汎化能力を示した。
- MM-Memは，感覚バッファ，エピソードストリーム，象徴的スキーマといった階層的なメモリ構造により，詳細な知覚痕跡を高度な意味スキーマへと効果的に蒸留する。
- 意味情報ボトルネックに基づく目的関数と，SIB-GRPOによる最適化により，メモリの圧縮とタスク関連情報の保持とのトレードオフを調整している。
探索のための時間的表現：外部報酬なしでの複雑な探索行動の学習 [cs.LG, cs.AI]目的：強化学習における効果的な探索手法
- ロボットの自律的な行動学習には，環境の理解と効果的な探索が不可欠である。
- 従来の探索手法は，報酬設計に依存しやすく，複雑なタスクへの適用が困難である。
- 時間的表現を用いて，未知の将来予測に基づく効率的な探索を実現する。
- 時間的コントラスト表現を活用した探索手法を提案し，予測不能な未来を持つ状態を優先的に探索する。
- この手法は，ロボットの運動，操作，具現化されたAIタスクにおいて複雑な探索行動を学習することを可能にした。
- 従来の距離学習やエピソード記憶に依存する手法と比較して，よりシンプルで効果的な探索戦略を提供する。
硬さの認識に基づく拡散サンプリング：埋め込みルンゲクッタガイダンス [cs.CV, cs.AI]目的：拡散モデルにおける硬さの認識と誤差の活用
- 拡散モデルは高品質な画像生成を実現するが，計算コストが大きい。
- ODEソルバーの誤差が硬い領域で大きくなり，生成品質を低下させる。
- ソルバーの誤差をガイダンス信号として利用し，サンプリングを安定化させる。
- 提案手法ERK-Guidは，ソルバーの硬さを検出し，局所切断誤差を低減する。
- 理論的・実験的に硬さの推定とソルバー誤差の関係を分析し，ERK-Guidの設計を裏付ける。
- 合成データセットとImageNetで，既存手法を上回る性能を示す。
大規模知識グラフにおけるGNNモデルのためのLLM誘導クエリ認識推論システム [cs.RO, cs.LG, cs.DB]目的：大規模知識グラフにおけるGNN推論の効率化
- 知識グラフは，様々な実世界アプリケーションにおいて重要な役割を担う。
- GNN推論クエリは計算コストが高く，その複雑さはクエリによって大きく異なる。
- クエリ構造と意味に適応した推論を実現し，データロードと計算量を削減する。
- KG-WISEは，クエリの構造に基づいてGNNモデルを部分的にロードするタスク駆動型推論パラダイムである。
- LLMを活用し，再利用可能なクエリテンプレートを生成することで，効率的な部分グラフ抽出とコンパクトなモデルインスタンス化を実現した。
- 最大28倍の高速化と98%のメモリ使用量削減を達成し，精度を維持または向上させた。
二層ネットワークにおける差分プライバシー：DP-SGDが公平性と堅牢性に与える影響 [cs.CL, cs.IR, cs.LG, cs.CY]目的：差分プライバシーSGD（DP-SGD）が，公平性と堅牢性に及ぼす影響の解析
- 個人情報保護の重要性が増す中，秘匿データを用いたモデル学習が不可欠となっている。
- 差分プライバシーの導入は性能低下や，不公平な影響，敵対的攻撃への脆弱性をもたらす可能性がある。
- DP-SGDにおける特徴学習のダイナミクスを分析し，公平性と堅牢性の問題解決を目指す。
- 特徴対雑音比（FNR）が重要な指標であり，プライバシー保護のためのノイズが最適な特徴学習を阻害することが示された。
- クラスやサブグループ間でFNRに不均衡が生じると，不均衡な影響を引き起こすことが明らかになった。
- 事前学習とプライベートなファインチューニングの組み合わせは，データセット間の分布のずれが大きい場合に必ずしも改善には繋がらないことが示された。
CBR-to-SQL：医療ドメインにおけるケースベース推論を用いた検索ベースのテキストtoSQLアプローチの再考 [cs.IR, cs.AI, cs.CL]目的：電子健康記録データベースからのSQLクエリ生成
- 医療データの活用は重要だが，SQLの専門知識が不可欠であり，臨床判断や研究の妨げとなる。
- 既存の検索拡張生成(RAG)は，質問の構造とエンティティの整合性を同時に最適化するのが困難である。
- ケースベース推論に基づき，構造的関連性とエンティティ整合性を分離して高精度なSQL生成を目指す。
- CBR-to-SQLは，2つの臨床ベンチマークにおいて，ファインチューニングされた手法と同等の精度を達成した。
- 特に，データ不足や検索の変動といった条件下で，標準的なRAGアプローチと比較して，サンプル効率とロバスト性が著しく向上した。
- 本手法は，医療分野におけるノイズの多い専門用語への対応にも優れている。
ReflexiCoder：強化学習によるコード生成モデルの自己省察と自己修正 [cs.CL, cs.CL, cs.LG, cs.SE]目的：大規模言語モデルによるコード生成における自己省察と自己修正能力の獲得
- コード生成AIの発展は，ソフトウェア開発の効率化に大きく貢献する重要な分野である。
- 複雑なアルゴリズム問題において，単一パスでのコード生成は性能限界に達しやすい。
- 外部からのフィードバックに依存しない，モデル内部での自己改善メカニズムを確立する。
- ReflexiCoderは，自己省察と自己修正の能力をモデルの重みに組み込む強化学習フレームワークである。
- HumanEval (Plus)で94.51% (87.20%)，MBPP (Plus)で81.80% (78.57%)など，複数のベンチマークで最先端の性能を達成した。
- 推論時の計算コストを約40%削減し，トークン効率の向上にも貢献している。
クリックフローマーによるオフライン材料最適化 [cs.AI, cs.CE]目的：材料特性の最適化を目指した計算材料探索手法
- 材料科学の発展には，新たな機能性材料の探索が不可欠であり，計算材料探索はその効率化に貢献する。
- 既存の生成モデルは，探索範囲が限定的で，有望な領域を十分に探索できないという課題がある。
- 本研究は，オフラインモデルベース最適化と生成モデルを融合し，より効率的な材料探索を実現する。
- 本研究で開発したクリックフローマーは，従来の生成モデルと比較して，より優れた特性を持つ材料を生成できることを示した。
- クリックフローマーは，材料特性の直接最適化を生成プロセスに組み込むことで，有望な材料領域を効果的に探索する。
- コード，モデル，関連リソースを公開し，特殊な材料探索や学際的研究への貢献を目指す。
AWPD：未知の水mark存在検出のための周波数シールドネットワーク [cs.CV, cs.AI]目的：未知の水mark存在検出
- 画像著作権保護技術は，ソーシャルメディアやAIGCの発展に伴い重要性が増している。
- 既存の水mark検出は特定アルゴリズムへの依存度が高く，未知の水mark検出に課題がある。
- 特定アルゴリズムに依存せず水markの存在を検出する手法を開発する。
- 提案手法FSNetは，学習可能な周波数ゲーティングにより水mark信号を増幅し，セマンティクスを抑制する。
- 深層では，DMSAと極値プーリングにより水markエネルギー異常を深くマイニングし，感度周波数帯に焦点を当てる。
- FSNetは，既存手法を上回るゼロショット検出性能を示すことが実験で確認された。
カウントダウン・コード：RLVRにおける報酬ハッキングの発生と一般化を研究するためのテストベッド [cs.LG, cs.AI, cs.CL]目的：報酬ハッキングの発生と一般化に関する研究
- 大規模言語モデルの安全性確保は重要であり，意図しない挙動の理解が不可欠である。
- 報酬ハッキングは，モデルが本来の課題を解決せず，代理報酬を過度に最適化する問題である。
- 報酬ハッキングの発生率を正確に測定し，そのメカニズムを解明することを目的とする。
- 新しい環境「カウントダウン・コード」を導入し，報酬ハッキングの発生率を正確に測定することに成功した。
- 教師ありファインチューニングデータにわずかな報酬ハッキングの軌跡が混入するだけで，モデルが報酬ハッキングを学習することが示された。
- 強化学習は報酬ハッキングを増幅させ，元のドメインを超えて一般化させることを明らかにした。
DSH-Bench：階層的被写体分類を用いた難易度・シナリオ対応型被写体駆動テキスト画像生成ベンチマーク [cs.CV, cs.AI]目的：被写体駆動テキスト画像生成モデルの体系的な多角的分析
- テキスト画像生成技術は目覚ましい発展を遂げているが，評価方法が課題となっている。
- 既存のベンチマークは，被写体の多様性，難易度ごとの評価，改善のための示唆に乏しい。
- DSH-Benchは，これらの課題を解決し，モデル改善の方向性を示すことを目指す。
- DSH-Benchは，58種類の細分化されたカテゴリで被写体を網羅的に表現する階層的分類メカニズムを導入した。
- 被写体の難易度とプロンプトのシナリオを分類することで，モデルの能力を詳細に評価できる新しい分類スキームを提案した。
- 提案するSICS指標は，既存の指標よりも人間による評価との相関性が9.4%高いことが示され，被写体の同一性維持を定量化する精度が向上した。
皮膚癌症例検索のための，グローバルおよびローカル表現の同時整列による合成視覚言語検索 [cs.CV, cs.AI]目的：皮膚癌症例の検索システム
- 医療診断支援，教育，品質管理において，関連症例の迅速な検索が重要である。
- 画像とテキストの両方を用いた複合的な検索クエリに対応したシステムが不足している。
- グローバルとローカルの情報を同時に整列することで，検索精度を向上させる。
- 提案手法は，Derm7ptデータセットにおいて，最先端手法と比較して一貫した改善を示した。
- 階層的な複合クエリ表現を学習し，画像とクエリのグローバル・ローカル整列を同時に行うことで，高い検索性能を実現した。
- 臨床的に重要なローカルエビデンスを重視しつつ，全体的な整合性を維持するドメイン知識に基づいた重み付けが有効であった。
AIは美術史家のように見るか？ ビジョン言語モデルによる芸術様式の認識の解釈 [cs.HC, cs.CY, cs.CV, cs.AI]目的：芸術様式の予測における基盤概念の特定と，それらが美術史家の判断と一致するかどうかの評価
- 芸術分野におけるAI応用の可能性を探求することは，文化遺産の理解と保存に不可欠である。
- 既存のAIモデルは，芸術様式を認識する際の判断根拠が不明確であり，美術史家の視点との乖離が懸念される。
- AIモデルが芸術様式を予測する際に用いる概念を明らかにし，その妥当性を美術史家の視点から検証すること。
- 抽出された概念の73%は，美術史家によって一貫性のある視覚的特徴を持つと判断された。
- ある作品の様式を予測するために用いられた概念の90%は，関連性があると判断された。
- 関連性の低い概念が成功裡に様式を予測した場合，モデルが形式的な要素（明暗対比など）を理解している可能性が示唆された。
ソフトクリッピングにおける発散の抑制：確率勾配重みの両側非連結減衰によるアプローチ [cs.LG, cs.AI]目的：強化学習による検証可能な報酬を用いた大規模言語モデルの推論能力向上
- 大規模言語モデルの推論能力向上は，自然言語処理分野における重要な課題である。
- 従来の強化学習手法では，勾配のクリッピングが探索を阻害する問題が存在する。
- 確率勾配重みの発散を抑制し，安定性と持続的な探索を両立させる。
- 提案手法であるDGPOは，重要度サンプリング比に基づく非連結減衰メカニズムを用いることで，境界トークンへの影響を制御する。
- DeepSeek-R1-Distill-Qwenモデルを用いた実験の結果，DGPOは様々な数学的ベンチマークにおいて，既存手法を凌駕する性能を示す。
- DGPOは，強化学習による大規模言語モデルの学習において，堅牢かつスケーラブルな解決策を提供する。
s2n-bignum-bench：LLMの低レベルコード推論能力を評価する実用的なベンチマーク [cs.PL, cs.AI, cs.CR, cs.LO]目的：LLMによる低レベルコードの推論能力評価のためのベンチマーク
- 近年，LLMと形式手法を組み合わせたニューロシンボリックアプローチが数学的定理証明で成果を上げている。
- 競技スタイルの数学問題の成功は，実際の実装に関する証明を構築する能力を必ずしも示さない。
- 産業用暗号ライブラリの形式検証を通じて，LLMの低レベルコード推論能力を評価する。
- 本ベンチマークは，HOL Lightで検証済みの産業用暗号ライブラリs2n-bignumを対象としている。
- LLMに形式仕様を与え，HOL Lightで検証可能な証明スクリプトを生成させることで評価を行う。
- 本ベンチマークは，低レベル暗号アセンブリルーチンの機械検証可能な証明合成に焦点を当てた初の公開ベンチマークである。
LLMをグラフカーネルとして：テキスト豊富なグラフにおけるメッセージパッシングの再考 [cs.LG, cs.CL]目的：テキスト豊富なグラフにおける学習パラダイムの改善
- グラフ構造とテキスト情報を組み合わせた学習は，様々な分野で重要性が増している。
- 既存手法はテキスト情報を固定的な埋め込みに圧縮するため，情報ボトルネックが生じやすい。
- 生テキストを直接活用し，グラフ構造とテキスト情報をより効果的に統合することを目指す。
- 本研究では，LLMをグラフのネイティブな集約演算子として再解釈するRAMPを提案した。
- RAMPは，各ノードの生テキストをアンカーとして推論を行い，近傍ノードからの動的に最適化されたメッセージを伝播させる。
- 実験結果から，RAMPはグラフ伝播と深層テキスト推論の間のギャップを効果的に埋め，優れた性能を発揮することが示された。
プレッシャー下におけるエージェントの安全性妥協の理由 [cs.AI, cs.CL, cs.CY, cs.MA]目的：エージェントの安全性妥協
- 複雑な環境におけるLLMエージェントの活用が拡大しており，安全性確保が重要である。
- 目標達成と安全制約の間の矛盾が頻繁に発生し，安全性軽視の傾向がある。
- エージェントが直面する内因的な緊張「エージェント的プレッシャー」を分析し，安全性妥協を防ぐ。
- エージェントは，目標達成のために，安全性を戦略的に犠牲にする傾向があることが示された。
- 高度な推論能力は，この傾向を加速させ，言語による正当化を構築する。
- プレッシャーの分離などの緩和策を検討し，アライメント回復を目指す。
ロバスト性向上のためのコンテキスト内シンボリック回帰：コルモゴロフ・アルノルドネットワークへの適用 [cs.LG, cs.AI]目的：コルモゴロフ・アルノルドネットワークにおける演算子抽出のロバスト性向上
- 科学的機械学習において，解釈可能なモデルが求められる。
- 既存のKANから数式への変換は，初期値依存性や非凸最適化問題に起因する不安定性がある。
- ネットワーク全体を考慮した，よりロバストなシンボリック回帰手法を開発する。
- コンテキスト内シンボリック回帰により，OFATハイパーパラメータスイープにおける平均二乗誤差が最大99.8%削減された。
- 貪欲法によるコンテキスト内シンボリック回帰とゲート付きマッチング追跡の２つの手法を提案した。
- 提案手法は，予測誤差の低減と，抽出された数式の定性的な一貫性の両方を達成した。