arXiv雑要約
AI - 2026/03/18 公開
DeepLog ニューロシンボリック機械 [cs.AI]目的：ニューロシンボリックAIのための理論的・運用的フレームワーク
- AI分野において，人間のような推論能力を実現することは重要な課題である。
- 従来のニューロシンボリックAIは，特定のシステムに特化し，汎用性に欠ける場合が多い。
- 多様なニューロシンボリックシステムを表現・エミュレート可能な汎用的な基盤を構築すること。
- DeepLogは，ニューロシンボリックモデルと推論タスクを記述するための言語と，計算グラフとして機能する拡張代数回路の2つの主要コンポーネントから構成される。
- DeepLog言語は，ブール，ファジー，確率論理など，様々な論理の種類と，論理のアーキテクチャまたは損失関数での使用方法を抽象化する。
- 実験により，異なる論理，論理の利用方法，CPUベースとGPUベースの実装の性能比較が示され，DeepLogの汎用性と効率性が実証された。
TempCore: ビデオQAベンチマークは時間的に基盤があるか？フレーム選択感度分析とベンチマーク [eess.SY, cs.SY, math.OC, cs.CV, cs.CL, cs.LG]目的：ビデオQAベンチマークにおける時間的基盤の検証
- ビデオ理解はAI研究の重要な分野であり，現実世界での応用が期待される。
- 既存のビデオQAベンチマークは，時間的な情報をどの程度必要としているか不明である。
- 時間的基盤に依存するサンプルを抽出し，より適切な評価基準を確立すること。
- 多くのビデオQAサンプルはフレーム選択に依存せず，時間的要素が重要でないことが示された。
- フレーム選択感度 (FSS) と言語独立性スコア (LIS) を組み合わせることで，時間的に敏感なサンプルの割合が低いことが明らかになった。
- 時間的に敏感なサンプルに焦点を当てた評価サブセット TempCore を構築し，公開予定である。
画像生成からインフラ設計へ：ストリートデザイン生成のためのマルチエージェントパイプライン [cs.AI, cs.CV, cs.CY, cs.HC]目的：ストリートデザイン生成のためのマルチエージェントパイプライン
- 公共交通計画における住民参加は重要であり，現実的な視覚化が不可欠である。
- 従来のストリートデザインは手間がかかり，協調的な意思決定を阻害している。
- リアルなストリートビュー画像上で，自転車レーンなどのインフラを自動で設計・修正する。
- 提案手法は，多様な都市環境において道路形状や条件に適応し，指示に沿ったデザインを生成できる。
- レーン抽出，プロンプト最適化，デザイン生成，自動評価を統合したフレームワークである。
- 本研究は，交通インフラ計画や施設設計へのマルチエージェントパイプライン適用の基盤となる。
5G侵入検知における特徴量帰属：統計的アプローチと論理的アプローチの比較 [cs.CR, cs.LG]目的：5Gネットワークにおける侵入検知の際の特徴量帰属における，統計的アプローチと論理的アプローチの比較
- 5Gネットワークは重要インフラに応用されており，迅速かつ信頼性の高いセキュリティ対策が不可欠である。
- 機械学習モデルのセキュリティアラートは解釈が難しく，適切な対応策の実施を妨げる場合がある。
- 本研究は，説明可能なAI技術を用いて，アラートの原因を特定し，効果的なインシデント対応を可能にすることを目的とする。
- 論理的アプローチに基づく特徴量帰属は，統計的アプローチと比較して，より簡潔かつ安定した結果を示すことが明らかになった。
- 統計的アプローチ（SHAP）で選択された上位特徴量は，論理的アプローチ（VoTE-XAI）によって全て網羅されていた。
- 両手法の効率性を分析した結果，高次元な5G環境下でのリアルタイムセキュリティ監視への適用可能性が示唆された。
汎用的なエンドツーエンドのツール利用強化学習：合成CodeGymによる [cs.RO, cs.HC, cs.SI, cs.LG, cs.AI, cs.CL]目的：ツール利用エージェントの汎化性能向上
- 大規模言語モデルの能力拡張には，外部ツールとの連携が不可欠である。
- 既存手法は，特定のタスクに依存し，新しいツールやワークフローへの適応が困難である。
- コード問題を用いて構造化された学習環境を構築し，汎用的なツール利用能力を獲得する。
- CodeGymは，多様なツール利用環境を合成可能なフレームワークである。
- CodeGymで学習したモデルは，未知の環境においても高い汎化性能を示す。
- Qwen2.5-32B-Instructは，OODベンチマーク$\tau$-Benchで8.7ポイントの精度向上を達成した。
効率的な多言語機械翻訳と音声翻訳のためのTransformerエンコーダ木 [cs.CL, cs.AI]目的：多言語翻訳における計算冗長性の削減と低リソース言語の翻訳品質向上
- グローバル化の進展に伴い，多言語間のコミュニケーション需要が高まっているから。
- 多言語翻訳モデルは計算コストが高く，低リソース言語の性能が低いという課題がある。
- Transformerエンコーダ木を用いることで，計算効率を向上させ，低リソース言語の翻訳精度を高める。
- Transformerエンコーダ木は，類似言語間で中間表現を共有することで，計算冗長性を削減し，低リソース言語の精度を向上させる。
- モデルのパラメータ数を66%削減し，推論計算量を60%低減することに成功した。
- Wav2Vec2との組み合わせにより，従来のモデルと比較して7～14倍高速な音声翻訳を実現した。
LANCE：効率的なオンデバイス継続学習のための低ランク活性圧縮 [cs.RO, cs.CL, cs.LG, cs.AI, cs.NE]目的：オンデバイス継続学習における効率化
- デバイスの制約下でのパーソナライズや長期適応には，オンデバイス学習が不可欠である。
- バックプロパゲーション時の活性の保存コストが高く，学習の効率を阻害している。
- 再帰的な低ランク分解のオーバーヘッドを解消し，メモリと計算コストを削減する。
- LANCEは，活性の保存量を最大250倍削減しつつ，CIFAR-10/100等のデータセットでフルバックプロパゲーション同等の精度を維持する。
- 継続学習ベンチマークにおいて，メモリコストを大幅に削減しながら，直交勾配射影法と同等の性能を示す。
- LANCEは，エッジデバイス上での効率的なファインチューニングと継続学習のための実用的かつスケーラブルな解決策を提供する。
ERGO：ビジョン言語モデルのための効率的な高解像度ビジュアル理解 [cs.CV, cs.AI, cs.CL, cs.LG]目的：ビジョン言語モデルにおける高解像度画像処理の効率化
- 現実世界の応用では，高解像度画像の効率的な処理が不可欠である。
- 既存のモデルは，大量のビジョントークン処理により計算コストが大きい。
- タスクに関連する領域に焦点を当て，計算コストを削減することを目指す。
- ERGOは，マルチモーダルな文脈を活用して知覚的不確実性を考慮し，質問応答のために曖昧な領域をカバーする。
- V*ベンチマークにおいて，Qwen2.5-VL-7Bを4.7ポイント上回り，ビジョン トークン数を23%削減し，推論速度を3倍に向上させた。
- 粗い段階から細かい段階へと推論を行うことで，効率性と精度を両立している。
ロボット計画の対照的な説明のための存在論的基盤 [cs.RO, cs.AI, cs.IR, cs.LO]目的：ロボット計画の比較と，それらの相違点を説明する能力
- 人間とロボットの協調作業において，ロボットの行動理解は不可欠である。
- ロボットの意思決定の根拠を説明する能力が十分ではない。
- ロボットが異なる計画を比較し，その違いを明確に説明する手法の確立。
- 新たな存在論モデルを提案し，競合する計画間の差異を形式化・推論することを可能にした。
- 既存の説明生成アルゴリズムの限界を指摘し，それらを克服する新たなアルゴリズムを開発した。
- 実験評価の結果，提案手法は既存手法よりも優れた説明を生成することが示された。
ヒルベルト：非形式的推論による形式的証明の再帰的構築 [cs.RO, cs.AI, cs.FL, cs.LG]目的：形式的証明と非形式的推論の連携による数学問題解決能力の向上
- 数学の自動検証は，信頼性の高い結果を得る上で不可欠であり，現代科学技術の発展を支える。
- 既存の形式的証明支援システムは，自然言語での推論能力に劣り，解決できる問題が限定的である。
- 非形式的推論と形式的検証の長所を組み合わせ，より多くの数学問題を解決することを目指す。
- ヒルベルトは，自然言語による推論LLMと形式的証明LLMを連携させることで，既存手法を大きく上回る性能を実現した。
- miniF2Fベンチマークで99.2%という高い正答率を達成し，PutnamBenchでは公開モデルとして最高の結果を出した。
- SeedProverなどの商用システムと比較しても優れた性能を示し，非形式的推論と形式的証明のギャップを縮小した。
NanoFlux：敵対的二重LLM評価と知識蒸留による多領域推論 [cs.LG]目的：LLMの推論能力向上のための標的を絞った学習データ生成
- LLMは多様なタスクで著しい成果を上げる一方，複雑な推論能力の向上が課題である。
- 大規模な学習データへの依存があり，計算コストが高く，特定の能力に特化したデータが不足している。
- 敵対的生成と評価を通じて，少量で精度の高い学習データを自動的に生成し，効率的な能力向上を目指す。
- NanoFluxは，従来のファインチューニング手法を上回り，わずか200例以下のデータセットで優れた性能を発揮する。
- 4BパラメータモデルをNanoFluxデータでファインチューニングした結果，数学，科学，医療の各推論タスクでそれぞれ+5.9%，+3.6%，+16.6%の性能向上が確認された。
- 質問の複雑さや推論品質とモデル性能の間には非単調な関係があり，ドメイン固有の最適点が存在することが明らかになった。
推論バンク：推論メモリを用いた自己進化型エージェントのスケーリング [cs.AI, cs.CL]目的：継続的なタスクストリームにおけるエージェントの学習能力向上
- LLMエージェントの現実世界での応用が広がる中，過去の経験を活かすことが重要である。
- 既存のエージェントは，過去の対話履歴から学習できず，同じ誤りを繰り返す可能性がある。
- 推論バンクは，成功・失敗事例から推論戦略を抽出し，エージェントの自己進化を促す。
- 推論バンクは，生の軌跡や成功事例のみを保存する既存のメモリ機構を上回り，有効性と効率性を改善した。
- メモリを意識したテスト時スケーリング(MaTTS)により，学習プロセスが加速・多様化され，性能がさらに向上した。
- メモリ駆動型経験スケーリングは，エージェントの自己進化を可能にする新たなスケーリング次元となりうる。
アトリビューション誘導デコーディング [cs.LG]目的：大規模言語モデルの指示への追従性と事実に基づいた正確なテキスト生成
- 現実世界での応用には，複雑な指示への対応能力と事実の正確性が不可欠である。
- 標準的なデコーディング手法ではこれらの要件を安定的に満たせず，制御技術は出力品質を低下させる場合がある。
- AGDは，モデルの挙動を制御し，信頼性を向上させる新たな手法を提案する。
- AGDは，指示への追従性を大幅に向上させる。Llama 3.1の成功率を66.0%から79.1%に改善した。
- 知識集約型タスクにおいて，AGDは幻覚を減らし，事実の正確性を向上させた。
- AGDのエントロピーに基づく適応的変種は，品質低下を緩和し，計算コストを削減する。
軌道から行動へ：共ノイズ除去フレームワークによる軌道誘導型人間からロボットへのスキル転移 [cs.RO, cs.AI]目的：人間による操作スキルをロボットへ転移するための手法
- ロボットに多様な操作スキルを学習させることは，実世界での応用において重要である。
- ロボットへの直接的なティーチングはコストが高く，規模を拡大することが難しいという課題がある。
- 人間の動画データを用いた効率的なスキル転移を実現し，形態差を克服することを目指す。
- 提案手法Traj2Actionは，3次元軌道を中間表現として用いることで，人間とロボットの形態差を埋める。
- 粗い軌道計画と，それを条件とした精密なロボット固有のアクション生成を共ノイズ除去フレームワークで実現した。
- 実機実験の結果，提案手法は既存手法と比較して，最大で27%と22.25%の性能向上を示した。
美の表現：参加型でありながら客観的な潜在美学に向けて [cs.CY, cs.AI, cs.CV]目的：美の認識に関する機械の能力
- 美は文化や経験的に魅力的であり，人間の根源的な関心事である。
- 美の概念は哲学的にも捉え難く，機械による客観的な評価が困難である。
- 異なるデータで学習したモデル間での美の表現の一致性を示すことで，美の客観的根拠を探求する。
- 美しい画像は，異なるモデル間でより類似した表現を生み出すことが示された。
- この結果は，美しい画像の形式構造には現実的な基盤が存在することを示唆する。
- 美が文化生産と機械知覚の両方において，目的とする吸引力として機能することを示唆する。
ゼフィロス：気象科学のためのエージェント的フレームワーク [cs.AI, cs.LG, physics.ao-ph]目的：気象科学におけるエージェント的フレームワークの構築
- 気象現象の理解と予測は，防災や経済活動に不可欠であり，科学的進歩が求められている。
- 既存の気象モデルは言語理解能力に乏しく，対話的な科学ワークフローでの活用が限定されていた。
- 言語モデルと気象データの連携を通じて，高度な気象分析と予測を可能にすること。
- 本研究で開発されたゼフィロスは，気象データと対話可能なエージェント的フレームワークである。
- ゼフィロスは，テキストのみのベースラインと比較して，正答率を最大44ポイント向上させた。
- 高度な課題は依然として困難であり，今後の発展の余地を示唆している。
圧縮畳み込み注意機構：圧縮された潜在空間における効率的な注意 [cs.CL, cs.AI]目的：長文脈Transformerの計算コストとKVキャッシュの削減
- Transformerは自然言語処理等の分野で重要な役割を果たすが，計算資源を多く消費する点が課題である。
- 従来の注意機構は，文脈長が長くなるほど計算量が増加し，メモリ消費量も大きくなるという問題がある。
- 潜在空間を圧縮することで，計算量とメモリ使用量を削減し，Transformerの効率化を目指す。
- 提案手法であるCCGQAは，GQAやMLAと比較して，同等のKVキャッシュ圧縮率において一貫して高い性能を示す。
- 特にMoEモデルにおいて，GQAやMLAの半分のKVキャッシュで，標準的なMHAと同等の性能を達成し，KVキャッシュを8倍に圧縮できる。
- CCGQAは，注意機構のFLOPsコストを大幅に削減し，既存手法よりも高速な学習とprefillを実現する。H100 GPU上で，prefillレイテンシを約1.7倍，backwardパスを約1.3倍高速化できる。
不寛容なユーザーがAIエージェントを混乱させる：AIエージェントのテストのための人間特性の高忠実度シミュレーション [cs.AI, cs.CL]目的：AIエージェントの堅牢性評価手法
- 会話型AIは急速に進歩するが，実用化には想定外の状況への対応が不可欠である。
- 現在の評価基準は，ユーザーの行動変化に対するAIの脆弱性を捉えられていない。
- ユーザー特性を制御可能な形でシミュレーションし，AIの脆弱性を評価すること。
- TraitBasisは，AIエージェントの活性化空間におけるユーザー特性の方向を学習し，簡単にテストを可能にする。
- 既存の最先端モデルにおいて，τ-Traitを用いた評価で平均2%〜30%の性能低下が確認された。
- TraitBasisは，シミュレーションに基づいた堅牢性テストと学習を促進し，実世界での信頼性の高いAI開発に貢献する。
エージェントランドの悪意：AIサプライチェーンにおけるバックドアの深淵 [cs.CR, cs.AI, cs.LG]目的：AIサプライチェーンにおけるバックドアの埋め込みと誘発
- AI技術の進展に伴い，エージェント型AIの利用が拡大しているため，その安全性の確保は重要である。
- AIエージェントの学習データには，悪意のあるものが混入する可能性があり，セキュリティ上の脆弱性となる。
- 本研究は，AIエージェントのサプライチェーンにおけるバックドア攻撃とその対策を明らかにすることを目的とする。
- 学習データの汚染，事前バックドア化されたベースモデル，環境汚染という３つの脅威モデルが効果的であることが示された。
- わずかな量の悪意のあるデモンストレーションデータで，エージェントに機密情報を漏洩させるバックドアを埋め込むことが可能である。
- 成功率は80％を超え，AIサプライチェーンの脆弱性が浮き彫りになった。
グラフ生成におけるポリグラフ不一致：グラフ分類器に基づく評価指標 [cs.LG, stat.ML]目的：グラフ生成モデルの評価指標
- グラフ構造データは，分子構造やソーシャルネットワークなど，様々な分野で重要である。
- 既存の評価指標は，パラメータ設定に依存し，絶対的な性能評価が困難である。
- 異なる特徴量を用いた評価指標を比較可能な形で統合し，信頼性の高い評価を実現する。
- 提案手法PolyGraph Discrepancy(PGD)は，グラフ分類器を用いて実データと生成データの識別を行い，分布間の距離を近似する。
- PGDは，[0,1]の範囲に制約され，異なるグラフ記述子間での比較が可能となる。
- 実験結果から，PGDはMMD指標よりもロバストで洞察に富んだ評価を提供することが示された。
非識別化文書の検索に基づくリンケージ攻撃からの保護 [cs.CL, cs.AI]目的：非識別化文書に対する検索に基づくリンケージ攻撃対策
- 個人情報保護は重要であり，文書内の個人識別情報隠蔽が不可欠である。
- 非識別化モデルは，情報再識別リスク，特に検索によるリンケージ攻撃に脆弱である。
- 文書の意味内容を維持しつつ，検索によるリンケージ攻撃を防ぐ手法を確立する。
- 提案手法では，文書集合のN-gramインデックスを構築し，稀なN-gramを特定する。
- LLMを活用して，リンケージが不可能になるまでこれらのフレーズを繰り返し書き換える。
- 実験結果から，提案手法は検索に基づくリンケージを効果的に防ぎ，内容の忠実性を保つことが示された。
AdaSwitch：知識蒸留における探索とガイダンスのバランスを適応的切り替えで実現 [cs.CL, cs.AI]目的：知識蒸留を通じた小規模言語モデルの性能向上
- 限られた計算資源でのAI活用には，低遅延・低コストな小規模言語モデルが不可欠である。
- 従来の知識蒸留は，教師モデルとの乖離や学生モデルの出力品質の低さが課題であった。
- AdaSwitchは，コンテキストに応じて教師のガイダンスを動的に選択し，性能と一貫性を両立する。
- AdaSwitchは，オンポリシーとオフポリシーの生成を適応的に組み合わせることで，生成の一貫性を保ちつつ高品質な教師信号を得る。
- 3つのデータセットでの実験により，AdaSwitchは精度と推論能力を安定して向上させることが示された。
- 適度な計算コストで，小規模言語モデルの性能を効果的に高めることが可能である。
ロボットが人間より優れた能力を発揮するとき：制約されたデモンストレーターからの学習 [cs.RO, cs.AI, cs.LG]目的：制約されたデモンストレーターからの学習における，より優れた方策の獲得
- ロボットに複雑なタスクを習得させる上で，人間のデモンストレーションは重要な役割を果たす。
- デモンストレーション環境の制約により，専門家が最適な行動を示すことが難しい場合がある。
- 制約されたデモンストレーションから学習し，人間を超える性能を持つ方策を開発すること。
- 本研究では，タスクの進捗を測る状態のみの報酬信号を推定し，未知の状態に対する自己ラベル報酬を用いる。
- このアプローチは，サンプル効率とタスク完了時間において，一般的な模倣学習を上回る性能を示す。
- 実ロボット実験では，行動クローニングの10倍の速さでタスクを完了することが確認された。
拡散モデルによるグラフ生成：推論時の木探索ガイダンスによる制御可能性向上 [cs.LG, cs.AI, cs.CE]目的：拡散モデルと木探索を活用した制御可能なグラフ生成手法
- グラフ学習は，Web規模システム，知識グラフ，創薬など幅広い分野で基盤技術として重要である。
- 既存の拡散モデルは，望ましい特性の制御が難しく，生成品質が不安定になるという課題がある。
- 推論時のガイダンスで制御性を高める試みがあるが，局所的で限界がある。本研究はそれを克服する。
- 提案手法TreeDiffは，木探索により拡散モデルの生成プロセスを誘導し，制御性を向上させる。
- TreeDiffは，効率的な潜在空間でのノイズ除去とグラフ空間での離散的な修正を組み合わせることで，大規模なグラフ生成を可能にする。
- 分子生成ベンチマークにおいて，TreeDiffは最先端の性能を達成し，計算資源を増やすほど性能が向上する。
読者は，著作権で保護された書籍で学習したAIの出力を，熟練した人間作家の出力よりも好む [cs.CL, cs.AI, cs.CY]目的：AIによる文学テキスト生成の品質評価
- AI技術の進歩は，文学を含む創作活動に大きな影響を与えつつある。
- AIが生成する文章の質や，著作権侵害のリスクが懸念されている。
- AIのファインチューニングが文章の質と読者の好みに与える影響を明らかにすること。
- AIによる文章生成は，コンテキストプロンプトのみでは専門家読者から質の面で低い評価を受けた。
- しかし，特定の作家の作品でファインチューニングすることで，AIの文章は専門家と一般読者の双方から高い評価を得た。
- ファインチューニングにより，AI生成文章の検出率が低下し，読者の好みに与える影響も変化した。
分布整合性損失：逆問題における点ごとのデータ項を超えて [cs.LG, cs.CV, physics.med-ph]目的：逆問題における真の信号の復元
- 医療画像，地球物理学，信号処理など広範な分野で重要な信号復元技術である。
- 従来のデータ整合性損失はノイズに過剰適合しやすく，復元精度が制限される場合がある。
- ノイズ分布との整合性を評価することで，過剰適合を抑制し，復元精度を向上させる。
- 提案手法である分布整合性損失は，従来の損失関数を置き換え，過剰適合を防ぐ。
- 深層画像事前知識を用いた画像ノイズ除去において，早期終了の必要性をなくし，PSNRを向上させた。
- ポアソンノイズを含む医療画像再構成において，アーチファクトを低減し，手動で作成した正則化の効果を高めた。
MARIS：幾何学的拡張と意味的整合による海洋オープン語彙インスタンスセグメンテーション [cs.CV, cs.AI]目的：海洋オープン語彙インスタンスセグメンテーションのための手法
- 海洋環境下での物体認識は，水中ロボットや海洋調査において不可欠であり，その精度向上が求められている。
- 既存手法は語彙の制限が強く，未知の海洋生物種を認識することが困難であるという課題があった。
- 水中画像特有の視覚劣化や意味的ずれを解消し，未知の海洋生物種のセグメンテーション精度を向上させる。
- 本研究では，大規模な水中オープン語彙セグメンテーションベンチマーク「MARIS」を新たに開発した。
- 幾何学的特徴を強化するモジュール（GPEM）と，意味的整合性を高めるモジュール（SAIM）を組み合わせたフレームワークを提案した。
- 提案手法は，MARISベンチマークにおいて既存のオープン語彙セグメンテーション手法を上回り，水中知覚研究の基盤となる。
EfficientNav：ナビゲーションマップのキャッシュと検索による，デバイス上での物体目標ナビゲーションの実現 [cs.RO, cs.AI]目的：物体目標ナビゲーションにおける，デバイス上での効率的なLLMベースのゼロショット性能向上
- ロボット工学やAIにおいて，環境中の物体へのナビゲーションは重要な課題である。
- 大規模LLMに依存した従来のObjNavは，デバイス搭載の制約や遅延の問題を抱える。
- 小規模LLMでも効率的にナビゲーションマップを理解し，低遅延で物体目標ナビゲーションを実現する。
- EfficientNavは，HM3DベンチマークにおいてGPT-4ベースのベースラインと比較して11.1%の成功率向上を達成した。
- また，GPT-4プランナーと比較して，6.7倍の実時間遅延削減と4.7倍のエンドツーエンド遅延削減を実現した。
- セマンティクスを考慮したメモリ検索と，離散的なメモリキャッシュが，性能向上に貢献している。
公正な選考における認識された偏りの戦略的コスト [cs.GT, cs.CY, cs.LG, econ.TH]目的：公正な選考における認識された偏りがもたらす戦略的コストの分析
- 能力主義は社会の公平性を担保する上で重要である。しかし，現実には不平等が残存している。
- 公正な選考プロセスにおいても，社会経済的背景による格差が解消されない場合がある。
- 認識された価値の差異が努力に影響を与え，結果として不平等を拡大するメカニズムを解明する。
- 社会経済的背景が異なる候補者の，選考後の価値に対する認識の差が，合理的な努力の差を生み出すことが示された。
- 選考における選択性の変更や認識された価値の修正が，公平性を向上させるための最適化フレームワークとして提案された。
- テクノソーシャル環境が個人のインセンティブに与える影響を考慮することで，合理的な選択と構造的な不平等の説明を統合する。
ジェンセン・シャノンとカルバック・ライブラーのダイバージェンスの接続：表現学習のための新しい上限 [cs.LG, cs.IT, math.IT]目的：表現学習における情報量最大化のための，カルバック・ライブラー・ダイバージェンスとジェンセン・シャノン・ダイバージェンスの関係性の解明
- 表現学習は，データから有用な特徴を抽出する上で重要であり，様々な機械学習タスクの性能向上に寄与する。
- 情報量の直接最適化は困難であり，実用的な代替指標が必要とされている。
- ジェンセン・シャノン・ダイバージェンスに基づく情報量推定の理論的根拠を明確にし，より安定した推定を可能にする。
- ジェンセン・シャノン・ダイバージェンスとカルバック・ライブラー・ダイバージェンスの間に新たな上限を導出し，理論的な繋がりを明確にした。
- 導出した上限は，情報量推定において既存の手法と比較して安定した低分散な推定値を提供することが実験的に示された。
- この結果は，情報ボトルネックフレームワークにおける識別学習の有用性を理論的にも実証的に裏付けるものである。
PREFINE：シミュレートされたユーザー批評とユーザー固有の評価基準生成によるパーソナライズされた物語生成 [cs.AI, cs.HC]目的：パーソナライズされた物語生成
- 自然言語生成において，個々のユーザーに合わせた物語生成は重要な課題である。
- 既存手法は，明示的なユーザーフィードバックやファインチューニングが必要で，実用性・拡張性・プライバシーの面で課題がある。
- ユーザーフィードバックやパラメータ更新なしに，パーソナライズされた物語生成を可能にすること。
- PREFINEは，ユーザーの過去のインタラクションから擬似ユーザーエージェントを構築し，ユーザー固有の評価基準を生成する。
- これにより，物語の草稿をユーザーの好みに合わせて反復的に洗練し，パーソナライズを促進する。
- PerDOCとPerMPSTのデータセットを用いた評価で，既存手法を上回り，物語の品質を維持しつつ，高いパーソナライズを実現した。
Transformerはベイズクラスタリングを実行できる [cs.LG, cs.AI]目的：ベイズクラスタリングにおけるスケーラビリティと柔軟性の向上
- ベイズクラスタリングは不確実性を考慮できるが，大規模データでは計算コストが高い。
- 実データには欠損値が含まれることが多く，単純な代入では不確実性が無視され，最適な結果が得られない。
- 本研究は，欠損値を含む複雑な事前分布下でのスケーラブルなベイズクラスタリング手法を提案する。
- 提案手法Cluster-PFNは，クラスタ数の推定精度がAIC，BIC，VIよりも高い。
- Cluster-PFNは，VIと同等のクラスタリング品質を，VIより桁違いに高速に達成する。
- 欠損値が多いゲノムデータセットにおいて，代入ベースラインよりも優れた性能を示す。
Evontree：オントロジー規則に基づく大規模言語モデルの自己進化 [cs.SI, math.ST, stat.TH, cs.HC, cs.CL, cs.AI]目的：大規模言語モデルの知識ギャップの自己修正
- 専門分野では，高い解釈性が求められるため，大規模言語モデルの幻覚問題は重大なリスクとなる。
- 専門分野の高品質なデータセットはプライバシー規制により入手が難しく，既存のファインチューニング手法のボトルネックとなっている。
- オントロジー規則を用いて，リソースの少ない専門分野における大規模言語モデルの自己進化を可能にすること。
- Evontreeは，既存のモデルや強化学習ベースラインと比較して，医療QAベンチマークにおいて最大3.7％の精度向上を達成した。
- 生モデルからオントロジー知識を抽出し，知識の不整合を検出し，自己蒸留ファインチューニングにより知識を強化する。
- 詳細な消去研究により，提案手法の堅牢性が確認された。
TAUE：トレーニングフリーなノイズ移植と培養拡散モデル [cs.CL, cs.CY, cs.CV, cs.AI, cs.GR, cs.LG]目的：レイヤーごとの画像生成
- 画像生成AIの発展は，クリエイティブな分野に革新をもたらしている。
- 既存モデルは，レイヤー制御が難しく，完全なシーン生成が困難である。
- 追加学習なしで，レイヤー間の一貫性を保ちつつ高品質な画像を生成する。
- TAUEは，追加学習やデータなしで，最先端の性能を達成した。
- ファインチューニングモデルと同等の画質と，優れたレイヤー間一貫性を示す。
- レイアウト編集，複数オブジェクトの合成，背景置換など新たな応用を可能にする。
AGRAG：LLMのための高度なグラフベース検索拡張生成 [cs.LG, cs.AI, cs.IR]目的：大規模言語モデル（LLM）の性能向上を目指した，高度なグラフベース検索拡張生成フレームワーク
- LLMは汎用的な能力を持つ一方，専門知識や構造化された知識の活用が課題である。
- 既存のグラフベースRAG手法では，幻覚によるグラフ構築の不正確さ，推論能力の不足，不十分な回答が問題となる。
- LLMの知識不足を補い，より正確で包括的な回答を生成するためのフレームワークを提案する。
- AGRAGは，LLMの幻覚を避けるため，統計ベースの手法を用いてグラフを構築する。
- グラフの推論手順を最小コスト最大影響（MCMI）部分グラフ生成問題として定式化し，包括的な推論経路を生成する。
- MCMI部分グラフは，LLMにチャンクの選択理由を明示し，ノイズの影響を低減し，推論能力を向上させる。
マルチエージェント討論による効率的なLLM安全性評価 [cs.AI, cs.CR]目的：大規模言語モデルの安全性評価
- LLMの能力向上に伴い，安全性評価の重要性が増している。社会への影響も大きいため，信頼性確保が不可欠である。
- 最先端LLMを用いた評価はコストが高く，大規模な評価が困難であるという課題がある。
- 低コストな小規模言語モデルで，高精度な安全性評価を実現することを目指している。
- 提案手法では，批判者，擁護者，判断者を伴う構造化された討論を通じて，小規模言語モデルによる評価を実現した。
- HAJailBenchという大規模なjailbreakベンチマークデータセットを構築し，安全性と判断の信頼性を評価した。
- 実験の結果，提案手法はGPT-4oと同程度の合意率を達成しつつ，推論コストを大幅に削減できることが示された。
LLMの安全性に向けたアライメントを考慮した量子化 [cs.CL, cs.AI]目的：LLMの安全性確保のための量子化手法の改善
- LLMの利用拡大に伴い，効率的な推論が重要課題となっている。
- 従来の量子化手法では，安全性への配慮が不十分であった。
- アライメントを考慮した量子化により，安全性と性能の両立を目指す。
- 提案手法CAQは，従来の量子化手法に比べて安全性が大幅に向上する。
- CAQは，LLaMA，Qwen，Mistralなど，多様なモデルアーキテクチャで有効性が確認された。
- 安全性確保のために特別なデータセットを必要とせず，計算コストも低い。
追加学習なしの水中の世界セグメンテーションの探求 [cs.CV, cs.AI]目的：水中生物のセグメンテーション技術
- 海洋生物多様性のモニタリングや生態学的評価において，正確なセグメンテーションは不可欠である。
- 既存のデータセットやモデルは，主に陸上シーンに限定されており，水中環境への応用が遅れている。
- 陸上シーンで学習したモデルを水中環境へ追加学習なしで応用する手法を開発し，セグメンテーション性能を向上させる。
- 新たに大規模な水中セグメンテーションデータセット「AquaOV255」とベンチマーク「UOVSBench」を構築した。
- 追加学習なしで陸上モデルを水中へ転移させるフレームワーク「Earth2Ocean」を提案した。
- 「Earth2Ocean」は既存手法と比較して，平均的に有意な性能向上を示し，効率的な推論を実現する。
グラスマン多様体におけるトポロジー駆動型多部分空間融合学習 [cs.CV, cs.AI]目的：グラスマン多様体上での適応的な部分空間協調
- 高次元データを低次元部分空間で表現する手法は，幾何学的表現学習において重要である。
- 既存手法は静的な単一部分空間表現に依存し，複雑な幾何構造を捉えるための複数部分空間の相互作用を無視している。
- 本研究は，トポロジーに基づく多部分空間融合により，動的な部分空間協調を実現し，この問題を解決する。
- 本研究では，Kolmogorov-Arnold表現定理に着想を得て，タスクに関連する部分空間をトポロジカル収束解析を通して動的に選択・重み付けする適応的複数部分空間モデリングメカニズムを提案する。
- さらに，多様体上のFréchet平均最適化による異質幾何学的表現の融合を可能にする，多部分空間相互作用ブロックを導入する。
- 実験の結果，3Dアクション認識，脳波分類，グラフタスクにおいて最先端の性能が示され，幾何学的深層学習の進展に貢献する。
FedSDWC：外れ値検出のための連合型相乗的二重表現弱い因果学習 [cs.LG, cs.AI]目的：連合学習における外れ値データの検出と汎化性能の向上
- データプライバシー保護の要請と計算資源の発展により，連合学習が注目されている。
- データ分布の差異（共変量シフト，意味シフト）が連合学習の信頼性を損なう。
- 不変特徴と変動特徴間の弱い因果関係をモデル化し，外れ値検出能力を高める。
- 提案手法FedSDWCは，既存の不変特徴学習法の限界を克服し，因果的な意味表現を推論する。
- 理論的に，特定の条件下でFedSDWCの汎化誤差限界を導出し，クライアント事前分布との関係を明らかにした。
- CIFAR-10，CIFAR-100等のベンチマークデータセットで，FedSDWCが既存手法を平均3.04％，8.11％上回る性能を示した。
受動から説得へ：共感と交渉のための局所活性化注入 [cs.CL, cs.AI]目的：共感と交渉における行動特性の制御
- 人間らしい複雑な社会行動の理解は，AIの高度化に不可欠である。
- 共感や戦略的丁寧さといった行動特性は，従来の制御手法では困難であった。
- 局所的な活性化注入により，これらの複雑な行動特性の制御を可能にすることを目指す。
- STAR（Attribution and Representationによる操舵）は，行動特性の起源を特定し，その箇所にコントラスト的な活性化ベクトルを注入する。
- 感情的な対話と交渉において，局所活性化注入は，グローバルな操舵や指示プロンプトよりも優れた性能を示す。
- 人間による評価では，改善が言葉の表面的な変化ではなく，認識される品質の向上を反映していることが確認された。
マスク化された自己回帰変分加速：高速な推論が実用的な強化学習を可能にする [cs.LG, cs.AI]目的：マスク化された自己回帰拡散モデルの推論高速化と，強化学習への応用
- 生成モデルは，画像生成などの分野で目覚ましい成果を上げており，その重要性は増している。
- 従来のマスク化された自己回帰モデルは，推論速度が遅く，強化学習への適用が困難であった。
- 本研究では，蒸留技術を用いて推論を高速化し，強化学習によるモデルの改善を実現する。
- MARVALは，拡散過程を単一の自己回帰ステップに圧縮することで，推論速度を30倍以上向上させた。
- ImageNetデータセットにおいて，FIDスコア2.00を達成し，サンプル品質を維持しながら高速化を実現した。
- MARVAL-RLを用いた強化学習により，CLIPスコアと画像報酬スコアが改善し，より人間の好みに合った生成が可能になった。
楽観的強化学習における後悔の裾分布 [cs.LG, math.OC]目的：有限ホライズン離散マルコフ決定過程における，楽観主義に基づく強化学習の後悔の裾分布の評価
- 強化学習は，エージェントが環境との相互作用を通じて最適な行動を学習する重要な手法である。
- 従来の強化学習分析は期待後悔に焦点を当てており，稀に発生する大きな後悔については未解明な点が多い。
- 本研究は，期待値だけでなく，後悔の裾分布を解析することで，よりロバストな強化学習アルゴリズムの設計に貢献する。
- モデルベースのUCBVIアルゴリズムとモデルフリーのQ学習において，後悔の裾分布に対する明示的な上限を導出した。
- 裾分布は，インスタンスに依存するスケールから推移閾値までが準ガウス分布，それ以降が準ワイブル分布という特徴的な二重構造を持つことが示された。
- パラメータαを調整することで，期待後悔と準ガウス減衰範囲とのバランスを制御可能であることが明らかになった。
SpatialBench：空間認知のためのマルチモーダル大規模言語モデルのベンチマーク [cs.RO, cs.AI]目的：マルチモーダル大規模言語モデルにおける空間認知能力の評価
- 現実世界での知能には空間認知が不可欠であり，物理環境との効果的な相互作用を可能とする。
- 既存のベンチマークは空間認知を単純化し，空間能力の階層構造や相互依存性を捉えられていない。
- 空間認知を階層的に評価するフレームワークと，それを実現する大規模ベンチマークSpatialBenchを構築する。
- SpatialBenchは，空間知能を5つの複雑レベルに分解し，それらに対応する15のタスクを含む。
- 大規模言語モデルの実験により，知覚的な基盤は強いものの，記号的推論，因果関係の推論，計画能力には限界があることが明らかになった。
- 人間は目的指向の抽象化を行う一方，大規模言語モデルは空間的な意図なく表面的な詳細に過度に注意を払う傾向にある。
表形式データの合成におけるフローマッチング [cs.LG, stat.ML]目的：表形式データの合成手法に関する研究
- プライバシー保護が重要視される中，データ共有を可能にする技術が求められている。
- 拡散モデルは高性能だが，計算コストが高いという課題がある。
- フローマッチングを用いて，効率的かつ高性能な合成手法を開発すること。
- フローマッチング（FM）は，特にTabbyFlowにおいて，拡散モデルと比較して優れた性能を示すことが明らかになった。
- FMは，少ない関数評価回数（100ステップ以下）で高い性能を達成し，計算効率に優れている。
- 最適な確率経路の選択が重要であり，OT経路は安定性，VP経路はプライバシーリスク軽減に繋がりうる。
言語を波動現象として：ニューラルネットワークにおける意味的位相同期と干渉 [cs.LG, cs.AI, cs.CL]目的：ニューラルネットワークにおける意味的位相構造の解析
- 自然言語処理において，文脈を捉えるためには系列モデリングが不可欠である。
- 既存モデルでは，位相の情報がどのように意味表現に貢献しているか不明確である。
- 位相に着目し，意味情報が位相にどのようにエンコードされるかを明らかにすること。
- 同義語ペアは，ランダムなペアと比較して有意に高い位相コヒーレンスを示すことが確認された。
- モデルは，層ごとに位相回転を行うことで，語彙的曖昧性を解消できることが示された。
- 位相表現は，信号の大きさが減衰しても堅牢であり，翻訳品質の低下を最小限に抑えることができた。
ビデオ編集に続く条件付きオーディオ生成によるコヒーレントなオーディオ・ビジュアル編集 [cs.MM, cs.LG, cs.SD]目的：編集されたビデオとそれに伴うオーディオ間のコヒーレンス強化
- 映像と音声は共に重要な情報源であり，両者の調和は視聴体験に大きく影響する。
- ビデオ編集後の音声調整は困難であり，映像と音声の不一致が頻繁に発生する。
- ビデオ編集後の音声生成を通じて，映像と音声の整合性を高めることを目指す。
- 提案手法は，ビデオ編集後の音声生成において既存手法を上回る性能を示す。
- ソースオーディオの情報を活用し，編集内容に応じて影響度を動的に調整することで，音声の構造を維持。
- データ拡張戦略により，学習効率の向上と，高品質なオーディオ・ビジュアル編集を実現。
ポリマーから金属への応力-ひずみ挙動の知識転移：動的時間伸縮と転移学習に基づく，安価で汎用的なアディティブマニュファクチャリング部品の品質保証フレームワーク [cs.LG]目的：アディティブマニュファクチャリング部品の品質保証のための知識転移手法の開発
- アディティブマニュファクチャリングの信頼性向上には，部品の応力-ひずみ特性の正確な把握が不可欠である。
- 金属アディティブマニュファクチャリングにおける従来の品質保証手法は，コストと時間がかかるという課題がある。
- 安価なポリマーのデータを用いて，高価な金属の応力-ひずみ挙動を予測する手法を確立することを目指す。
- 動的時間伸縮（DTW）と転移学習（TL）を組み合わせたフレームワークにより，最適なポリマーデータセットの選択が可能となった。
- ResinデータセットがAlSi10MgおよびTi6Al4Vのターゲットデータセットに，Nylonデータセットが炭素鋼のターゲットデータセットにそれぞれ最適なポリマーデータセットとして選択された。
- 本手法は，平均絶対パーセント誤差12.41%，平均二乗誤差63.75，決定係数0.96を達成し，従来のLSTMモデルや全ポリマーデータセットを用いたTLモデルを上回る予測性能を示した。
テキスト画像生成モデルにおける隠れた偏りの自動プロンプト検索による可視化 [cs.LG]目的：テキスト画像生成モデルにおける社会的な偏りの検出と評価
- 画像生成技術の発展に伴い，その社会への影響が重要視されている。
- 既存の手法では，偏りのあるプロンプトを網羅的に特定することが困難である。
- 偏りを増幅させるプロンプトを自動的に生成し，モデルの脆弱性を明らかにする。
- Bias-Guided Prompt Search (BGPS)フレームワークを開発し，偏りを最大化するプロンプトを自動生成することに成功した。
- Stable Diffusion 1.5およびデバイアスモデルにおいて，従来未検出の偏りが多数発見された。
- 生成されたプロンプトは解釈可能であり，既存手法よりもperplexity指標が改善された。BGPSはバイアス軽減評価ツールとしても活用可能である。
ADGに基づく現実的な実行下におけるMAPFのプランナ設計のトレードオフ分析 [cs.AI]目的：現実的な実行設定下におけるプランナ設計選択が性能に与える影響の分析
- 産業用倉庫や自動化工場でのロボット利用が増加しており，現実的な物理的制約下での信頼性が重要である。
- 既存のMAPF評価フレームワークは簡略化されたロボットモデルに依存しており，アルゴリズムベンチマークと実用的な性能に乖離がある。
- 本研究は，現実的な評価フレームワークを用いて，プランナ設計のトレードオフを定量的に評価し，実用的な展開を目指す。
- 最適解の探索と実行性能の間には必ずしも相関関係がないことが示された。
- キネマティックモデリングの不正確さはシステム性能に影響を与えることが確認された。
- モデルの精度と計画の最適性の間にはトレードオフが存在し，そのバランスが重要であることが示唆された。