arXiv雑要約
AI - 2026/03/09 公開
文脈を考慮した優先サンプリングによる自動運転における模倣学習の強化 [cs.LG, cs.RO]目的：自動運転システムの模倣学習におけるデータ効率の向上
- 自動運転技術は，交通渋滞の緩和や事故の削減に貢献し，社会に大きな利益をもたらす。
- 模倣学習では，データセットの偏りが学習のボトルネックとなり，汎化性能を低下させる。
- 稀有だが重要なサンプルに高い優先度を与え，データセットの不均衡を解消する。
- 提案手法CAPSは，VQ-VAEを用いてデータを構造化し，意味のあるパターンを抽出する。
- CAPSは，これらのパターンに基づいてデータをクラスタリングし，データセットの再平衡化を実現する。
- CARLAシミュレーターを用いた実験により，CAPSがモデルの汎化性能を向上させ，運転スコアと成功率を大幅に改善することが示された。
FindAnything：あらゆる環境におけるロボット探査のためのオープンボキャブラリおよび物体中心マッピング [cs.RO, cs.RO, cs.AI, cs.CV]目的：ロボット探査のための，オープンボキャブラリと物体中心のマッピング手法
- 未知環境でのロボットの展開やタスク計画には，幾何学的に正確かつ意味的に表現豊かなマップが不可欠である。
- 大規模な未知環境において，リアルタイムでオープンボキャブラリの意味的理解を実現するには，計算資源の制約が課題となる。
- 計算資源を抑えつつ，大規模環境におけるリアルタイムなオープンボキャブラリ理解を可能とするマッピング手法を確立する。
- FindAnythingは，ビジョンと言語情報を活用した高密度なボリューメトリックサブマップを構築するフレームワークである。
- この手法は，従来の最先端技術と同等の意味的精度を達成しつつ，大幅に高速かつメモリ効率が良い。
- シミュレーション環境におけるMAVの自律探索タスクにおいて，そのリアルタイム性が有効であることが示された。
トークナイザーの偏りからバックボーンの能力へ：時系列予測のためのLLMの制御された研究 [cs.LG, cs.AI]目的：時系列予測におけるLLMバックボーンの潜在能力の評価
- 時系列データは，金融，気象，医療など，多くの分野で不可欠であり，正確な予測が求められる。
- 既存研究では，トークナイザーとデトークナイザーのペアがデータに過剰適合し，LLMの真の能力を評価しづらい。
- 大規模な事前学習により偏りの少ないトークナイザーを構築し，LLMバックボーンの真の予測能力を明らかにする。
- 大規模事前学習を用いたトークナイザーとLLMバックボーンの統合により，より客観的な評価が可能となった。
- LLMバックボーンは一定の可能性を示したが，大規模な時系列データで訓練されたモデルを常に上回る性能とは言えなかった。
- 本研究の成果は，LLMを時系列予測に適用する際の課題と可能性を示唆している。
中間トークンを擬人化してはならない！ [cs.CL, cs.AI]目的：中間トークンの擬人化の危険性
- 言語モデルの性能向上には，推論過程を可視化する方法が重要である。
- 中間トークンを人間の思考過程と同一視する誤った解釈が存在する。
- 中間トークンの本質を理解し，言語モデルの適切な利用を促進すること。
- 中間トークンを「思考の痕跡」とみなすことは，モデルの本質を誤解させる。
- そのような擬人化は，効果的なモデル利用を妨げ，不適切な研究につながる可能性がある。
- 中間トークンの擬人化を避け，その本質に基づいた研究が必要である。
悪意のある技術的生態系：成人向けAI生成された非合意性わいせつ画像における技術的ガバナンスの限界の露呈 [cs.HC, cs.AI, cs.CY, cs.LG]目的：成人向けAI生成された非合意性わいせつ画像（AIG-NCII）の防止における社会技術的AIガバナンスの役割の特定と解剖
- AI技術の急速な発展は，プライバシー侵害や人権侵害のリスクを高めている。
- 現在の技術的ガバナンスは，悪意のある技術的生態系を効果的に規制できていない。
- 成人向けAIG-NCIIの生成・拡散を可能にする技術的生態系の問題を解決することを目指す。
- 本研究では，「悪意のある技術的生態系」を特定し，その構成要素を明らかにした。
- NIST AI 100-4報告書を参考に，現在の合成コンテンツガバナンス手法がAIG-NCIIの規制に不十分であることを示した。
- 既存のガバナンス手法の欠陥や誤った前提を指摘し，改善の必要性を示唆した。
連合学習：プライバシー保護協調型知能に関する調査 [cs.LG, cs.AI]目的：プライバシー保護協調型知能の現状と課題
- データ利活用が重要視される中，個人のプライバシー保護との両立が課題となっている。
- 中央集権的な機械学習では，データの漏洩リスクや法規制への対応が問題となる。
- 分散環境下での効率的かつ安全な機械学習モデルの構築を目指す。
- 連合学習は，データ中央集積をせずに協調学習を可能にする新しい手法である。
- 本調査では，連合学習の基本的な構成要素，ライフサイクル，技術的課題を包括的に解説する。
- 今後の研究課題として，非IIDデータへの対応，システムヘテロジニティの軽減，効率的な通信などが挙げられる。
HCT-QA：人間中心型テーブルに対する質問応答のベンチマーク [cs.IR, cs.AI, cs.DB]目的：人間中心型テーブルに対する質問応答性能の評価
- PDFやWebページ等に存在するテーブルデータは，様々な分野で重要な情報源である。
- 既存手法は複雑なテーブル構造に対応できず，SQLによる容易なクエリが困難である。
- 自然言語による質問応答評価の標準ベンチマークを確立し，モデル性能の向上を目指す。
- 大規模言語モデルや視覚言語モデル25種・9種で実験を行い，HCT-QAの質問応答性能を評価した。
- HCT-QAデータセットを用いたファインチューニングにより，F1スコアが最大25%向上することを示した。
- HCT-QAは，多様性と複雑性，包括的なメタデータ，新規合成データ生成器により，既存ベンチマークを上回る。
フーリエスペクトル法に着想を得たニューラル衝突演算子近似：ボルツマン方程式の解法 [cs.LG, cs.AI, cs.NA, math.NA, physics.comp-ph]目的：ボルツマン方程式の衝突演算子の近似
- ボルツマン方程式は，粒子分布関数の発展を記述する重要なモデルであり，物理学，工学等の分野で広く利用されている。
- 高次元の速度空間や非弾性衝突の場合，数値解法は計算コストが非常に高くなるという課題が存在する。
- フーリエスペクトル法と深層学習を組み合わせ，効率的に衝突演算子を近似することで，計算コスト削減を目指す。
- 提案手法FourierSpecNetは，解像度に依存しない学習とゼロショット超解像を可能にし，再学習なしで未知の解像度での予測精度を向上させる。
- 理論的な解析により，離散化を細かくするほど，学習された演算子がスペクトル解に収束することが示された。
- Maxwellian分布やハード球分子モデル，非弾性衝突シナリオを含む複数のベンチマークケースで，従来のスペクトル解法と比較して，同等以上の精度と大幅な計算コスト削減が確認された。
RM-R1：報酬モデリングを推論として [cs.CL, cs.AI, cs.LG]目的：大規模言語モデルと人間の選好を整合させるための報酬モデリングの向上
- 大規模言語モデルの性能向上の鍵は，人間の価値観との整合性にある。報酬モデリングはその重要な要素である。
- 従来の報酬モデルは，判断の根拠が不明確で，精度に課題が残る場合がある。
- 報酬モデリングに推論能力を組み込み，より解釈可能で高性能なモデルを開発することを目指す。
- 提案手法ReasRMは，報酬モデリングを推論タスクとして捉え，高精度な報酬信号の生成を実現した。
- ReasRMの中核であるCoRメカニズムは，回答の評価基準を自動生成し，客観的な評価を可能にする。
- 実験の結果，ReasRMは既存のオープンソースおよび商用モデルと比較して，最大4.9%高い性能を示した。
ソフトウェア開発ライフサイクルからの視点：コード大規模言語モデルとエージェントのベンチマーク調査 [cs.SE, cs.AI]目的：コード大規模言語モデルとエージェントのベンチマークに関する体系的なレビュー
- ソフトウェア開発において，AIの活用が重要性を増しており，その性能評価が不可欠である。
- 既存のベンチマークは，ソフトウェア開発ライフサイクル全体を網羅的にカバーしていない。
- ソフトウェア開発ライフサイクル全体におけるベンチマークの偏りを明らかにし，今後の研究方向性を示す。
- 現在のベンチマークの約61%は，ソフトウェア実装段階に集中しており，要件定義や設計段階は著しく少ない。
- 多くのベンチマークにおいて，データ漏洩のリスクを高める汚染対策が欠如している。
- コード大規模言語モデルとエージェントの実用的な有効性を高めるための課題と今後の方向性が特定された。
イベントベースニューラルネットワークにおける非同期性の最大化 [cs.DC, cs.NI, cs.LG, cs.AI, cs.CL, cs.CV]目的：イベントによる特徴量の学習
- 視覚センシングの低遅延化・省電力化が求められ，イベントカメラへの注目度が高まっている。
- イベントカメラの非同期性・疎なデータ形式が，従来の機械学習への適用を困難にしている。
- イベントデータを効率的に学習可能な特徴量へ変換し，性能向上を目指す。
- EVAは，既存の非同期-同期変換手法と比較して，より表現力豊かで汎用性の高い特徴量を生成する。
- ジェスチャー認識や車両認識タスクにおいて，既存手法を上回る性能を達成した。
- イベントカメラを用いた物体検出タスクにおいて，初めて高い精度を達成した (Gen1データセットで0.477 mAP)。
言語モデルにおける推論への内容の影響軽減：微細な活性化制御によるアプローチ [cs.AI, cs.CL]目的：言語モデルの推論における内容バイアスの軽減
- 大規模言語モデルの利用拡大に伴い，その推論能力の信頼性確保が重要課題となっている。
- 言語モデルは，内容の妥当性と形式的な論理的妥当性を混同し，誤った推論を行う傾向がある。
- 活性化制御を通じて，内容バイアスを軽減し，より公平な推論能力を獲得することを目指す。
- 活性化制御は，内容バイアスに対する線形的な制御を可能にするが，静的なアプローチだけでは十分ではないことが示された。
- kNNに基づく条件付きアプローチ（K-CAST）により，応答性の低いモデルにおけるバイアスを効果的に軽減し，形式的な推論精度を最大15%絶対的に向上させることができた。
- 内容バイアスに対する活性化制御は，プロンプトの変化に強く，多言語能力への影響も最小限であり，他の推論タスクにも部分的に一般化可能であることが示された。
AdAEM: LLMの価値観の違いを適応的かつ自動的に拡張可能に測定する手法 [cs.CY, cs.AI, cs.CL]目的：LLMの価値観の違いの測定
- LLMの発展に伴い，その価値観の比較・分析が不可欠となっている。
- 既存の価値観測定手法は，質問の質が低く，モデル間の差異を明確に示せない場合がある。
- AdAEMは，多様なLLMから価値観の違いを抽出することで，より有益な分析を可能にする。
- AdAEMは，既存の静的なベンチマークとは異なり，質問を自動的に生成・拡張する。
- 内部価値境界を探索することで，論争的なトピックを抽出し，モデルの価値観の違いを明確に示す。
- 生成された質問と評価手法は公開されており，LLMの価値観に関する学際的な研究を促進する基盤となる。
KramaBench：データレイクにおけるデータ・インサイトパイプラインに関するAIシステムのベンチマーク [cs.RO, cs.DB, cs.AI, cs.MA]目的：データレイク上のデータからインサイトを得るためのAIシステムの能力評価
- データ分析の自動化ニーズが高まっており，AIによるデータ処理パイプラインの構築が重要視されている。
- 既存のAIモデルは，複雑なデータ処理パイプラインの設計・実行に課題を抱えている。
- データレイクの複雑なデータ処理タスクを自動化し，AIシステムの性能を客観的に評価すること。
- KramaBenchは，104の課題，1700ファイル，24のデータソース，6つのドメインを含むベンチマーク。
- 現在のAIシステムは，単一タスクはこなせるものの，完全なエンドツーエンドのパイプラインの構築に苦戦している。
- 最高性能のシステムでも，エンドツーエンドの精度は55%に留まり，タスクの特定と実装能力に差があることが示された。
VisioMath：LMMにおける図形に基づく数学的推論のベンチマーク [cs.AI, cs.CV]目的：図形を用いた数学的推論能力の評価基準
- 視覚情報と言語理解を統合するLMMの重要性が増しており，様々な分野で高い性能を発揮している。
- 複数の類似視覚入力を比較・推論する能力は，特に数学や教育において重要だが，十分に検討されていない。
- 微妙な視覚的差異を識別する能力を測ることで，LMMの数学的推論能力向上を目指す。
- VisioMathは，K-12数学の問題1800件で構成され，候補解答が視覚的に類似した図形である点が特徴である。
- 最先端のLMMの評価により，画像間の類似性が高いほど精度が低下することが示された。
- 誤りの主な原因は，テキスト情報に基づかない，位置情報などのヒューリスティックな推論に起因する画像とテキストの不整合である。
LLMにおける道徳的能力の多角的評価：何が重要かを識別する [cs.AI]目的：LLMにおける道徳的能力の評価方法
- AIの社会実装が進む中で，倫理的な判断が求められる場面が増加しており，AIの道徳的能力の評価が重要である。
- 既存の研究では，道徳的な要素が強調された限定的なシナリオに偏り，道徳的推論プロセスが十分に検証されていない。
- 道徳的に関連する情報を識別する能力を含む，AIの道徳的能力をより包括的に評価するフレームワークを提案すること。
- 先行研究と比較して，LLMは一般的に非専門家よりも道徳的推論の複数の側面で優れたパフォーマンスを示した。
- しかし，道徳的感受性をテストするために設計された新しいシナリオでは，いくつかのLLMのパフォーマンスが人間よりも大幅に低下した。
- 現在の評価は，ノイズの中から道徳的に関連する情報を識別する能力を排除している可能性があり，これは真の道徳的スキルにとって不可欠である。
ContextBench：特定の潜在的活性化を促すための文脈の修正 [cs.AI, cs.LG, stat.ML]目的：言語モデルにおける特定の行動や潜在的特徴を誘発する入力の特定
- 言語モデルの安全性確保は重要であり，意図しない挙動を防ぐ必要がある。
- 潜在的特徴や行動を制御する手法が確立しておらず，安全性評価が困難である。
- 文脈修正を通じて，特定の潜在的活性化を促し，安全性評価を可能にすること。
- ContextBenchは，文脈修正手法の能力と安全性への応用を評価するベンチマークである。
- 最新手法は，誘発の強さと言語の流暢さのバランスを取ることに苦戦していることが示された。
- LLM支援や拡散モデルを用いたEPOの改良により，誘発効果と流暢さの両方が向上した。
Sysformer：適応システムプロンプトによる大規模言語モデルの安全性確保 [cs.AI, cs.CL, cs.LG]目的：大規模言語モデルの安全性向上
- 大規模言語モデルは様々な場面で活用されるが，安全性確保は重要課題である。
- 既存手法は，高コストな再学習や不十分なヒューリスティックに頼ることが多い。
- システムプロンプトの適応学習により，モデルパラメータを固定したまま安全性を向上させる。
- Sysformerは，ユーザープロンプトに応じてシステムプロンプトを更新し，安全性向上を実現した。
- 有害プロンプトに対する拒否率を最大80％，安全なプロンプトへの応答性を最大90％向上させた。
- 高度な脱獄攻撃に対しても100％の耐性を実現し，汎用性も確認された。
SPoT：Vision Transformerにおけるトークンのサブピクセル配置 [cs.CV, cs.LG]目的：Vision Transformerにおけるトークンの配置戦略
- 画像認識において，Transformerモデルの利用が一般的となりつつある。
- 従来のトークン化手法では，特徴量が離散的なパッチグリッドに制限されていた。
- サブピクセル配置により，この制約を回避し，より効率的なモデル構築を目指す。
- SPoTは，トークンを画像内で連続的に配置する新しいトークン化戦略である。
- 理想的なサブピクセル配置探索により，推論時のトークン数を大幅に削減できることが示された。
- SPoTは，柔軟性，効率性，解釈可能性に優れたViTアーキテクチャの新たな方向性を示す。
トランスフォーマーにおけるクロスアテンション相互作用の定量化：TCR-pMHC結合の解釈 [cs.CE, cs.LG, q-bio.BM]目的：TCR-pMHC結合におけるクロスアテンション相互作用の定量化
- T細胞とpMHC複合体の結合モデル化は，ヒト免疫応答の基本メカニズム理解や治療法開発に不可欠である。
- Transformerモデルの解釈可能性が低く，T細胞応答のメカニズム理解が妨げられている。
- トランスフォーマーデコーダーのクロスアテンションメカニズムを解釈する手法を開発し，解釈性と予測精度を向上させる。
- QCAIは，トランスフォーマーデコーダーのクロスアテンションメカニズムを解釈する新しい手法である。
- TCR-XAIベンチマークを用いて評価した結果，QCAIは解釈性と予測精度において最先端の性能を達成した。
- 計算された物理的距離と残基重要度の推定値との相関関係から，QCAIの有効性が示された。
SPARC：クロスモデル・クロスモーダル解釈のための概念整合疎オトエンコーダ [cs.CV, cs.AI]目的：異なるAIモデルにおける概念の表現の整合性
- AIモデルの解釈可能性向上は，その信頼性と実用性を高める上で不可欠である。
- 既存手法では，モデル固有の表現が生まれ，モデル間での概念比較が困難である。
- 異なるモデル・モダリティ間で共有可能な概念空間を構築し，解釈性を向上させる。
- SPARCは，多様なモデル・モダリティ間で一貫した潜在空間を学習することで，概念の整合性を大幅に改善する。
- Open Imagesデータセットにおいて，先行手法と比較して3倍以上の整合性（Jaccard類似度0.80）を達成した。
- SPARCは，テキストによる画像内の物体位置特定や，モデルを跨いだ情報検索といった応用を可能にする。
自動運転におけるマルチモーダル知覚に対する時間ずれ攻撃 [cs.LG]目的：自動運転におけるマルチモーダル知覚の脆弱性とその影響の評価
- 自動運転の安全性向上には，周囲環境の正確な知覚が不可欠であり，マルチモーダル知覚が重要な役割を担う。
- マルチモーダル知覚は時間的な同期に依存しており，その同期が乱れると誤認識を引き起こす可能性がある。
- 本研究は，時間ずれ攻撃によるマルチモーダル知覚の性能低下を明らかにし，その対策に資することを目的とする。
- 車両内ネットワークを介して時間ずれを発生させる攻撃「DejaVu」を提案し，その有効性と危険性を示した。
- 物体検出はLiDAR入力，追跡はカメラ入力への依存度が高く，攻撃による影響に差が見られた。
- 実験では，LiDARの1フレーム遅延で検出精度が大幅に低下し，カメラの遅延で追跡精度が著しく悪化することが確認された。
MOOC，スマート教育，AI：統合的な教育法へ向けての10年間の進化 [cs.CY, cs.AI]目的：MOOC，スマート教育，AIの統合的教育フレームワーク
- 高等教育の質向上とアクセス拡大のため，新たな教育手法の探求が重要である。
- MOOC，スマート教育，AIは個別導入が進む一方，相互連携が不十分である。
- 各手法の長所を活かし，より効果的な教育を実現するための統合的フレームワークを構築する。
- MOOCによる構造化された知識の提示，スマート教育による適応的な学習支援，AIによる効率的な学習促進の3つの次元を提示した。
- これらの次元を階層的な知識変換モデルとして形式化し，具体的な学習事例を通してその効果を示した。
- 各層が知識習得の明確な向上に寄与することが実証された。
拡散合成による表面欠陥検出のための明示的二重分布学習 [cs.CV, cs.AI]目的：表面欠陥検出のための明示的二重分布モデル
- 産業界における品質管理の重要性が増す中，欠陥検出技術の高度化が求められている。
- 従来の異常検知手法は，異常データの分布を均一と仮定しており，実際の製造環境でのデータ不足に対応できない。
- 本研究は，正常パターンと異常パターンの統計的特性を明示的にモデル化することで，この問題を解決する。
- 提案手法ExDDは，二重の分布を明示的にモデル化するフレームワークであり，従来の異常検知法の限界を克服する。
- 潜在拡散モデルとドメイン固有のテキスト条件付けを組み合わせることで，データ不足を補い，工業的文脈を保持した合成欠陥を生成する。
- KSDD2データセットでの実験により，提案手法が優れた性能を示すことが確認された（I-AUROC: 94.2%, P-AUROC: 97.7%）。
自律走行のための多様かつ適応的な行動カリキュラム：マルチエージェント強化学習を用いた教師・生徒フレームワーク [cs.RO, cs.LG]目的：自律走行における安全かつ汎用性の高い行動学習
- 現実世界の複雑な交通状況に対応する自律走行技術の確立が求められている。
- 従来の強化学習はルールベースのシナリオに依存し，現実世界への適応が課題となっていた。
- 多様な交通状況に対応可能な自動カリキュラム学習フレームワークの開発。
- 教師モデルは多様な難易度の交通行動を生成することが示された。
- 自動カリキュラムで学習した生徒モデルは，ルールベースのシナリオで学習したモデルを上回り，高い報酬を得た。
- 生徒モデルは，バランスの取れた積極的な運転行動を示すことが確認された。
化学文献からの多様な情報抽出を可能にするマルチエージェントシステム [cs.CE, q-bio.GN, cs.RO, cs.AI, cs.CV, cs.MA]目的：化学文献からの情報抽出の自動化
- AIを活用した化学研究の発展には，高品質な化学データベースが不可欠である。
- 化学情報の多様性や表現様式の変化により，文献からの自動抽出は困難であった。
- 化学情報の抽出タスクを細分化し，専門エージェントの連携によって高精度化を目指す。
- 開発したマルチエージェントシステムは，既存の最先端モデルを大幅に上回るF1スコア76.27%を達成した。
- 複雑な化学反応グラフィックのベンチマークデータセットで高い性能を示した。
- 分子画像認識やテキストベースの反応抽出など，多様な情報抽出タスクへの適用可能性も実証された。
記憶と空間の融合：状態空間ニューラル演算子 [cs.LG]目的：時間依存偏微分方程式の解作用素学習のためのコンパクトなアーキテクチャ
- 物理現象のシミュレーションは科学技術の発展に不可欠であり，高精度かつ効率的な手法が求められている。
- 従来の偏微分方程式の数値解法は計算コストが高く，複雑な問題に対応が難しい場合がある。
- 少ないパラメータで長距離依存性を捉え，効率的な偏微分方程式の学習を可能にすること。
- SS-NOは，1Dバーガース方程式，2Dナビエ-ストークス方程式など，多様な偏微分方程式ベンチマークで最先端の性能を達成した。
- 適応ダンピングと学習可能な周波数変調は，演算子モデリングにおいて効果的であることが示された。
- 軽量な因数分解は，大規模な偏微分方程式学習への有望な道を提供する。
MAP：マップレベル注意処理による大規模視覚言語モデルにおける幻覚の軽減 [cs.CV, cs.AI]目的：大規模視覚言語モデルにおける幻覚軽減策
- 視覚と言語を統合したタスクにおいて，大規模言語モデルの性能向上は目覚ましい。
- これらのモデルは，視覚情報と矛盾する内容を生成する「幻覚」という問題を抱えている。
- マップレベルでの注意処理を通じて，視覚情報との整合性を高めることを目指す。
- 本研究では，モデルの隠れ状態を2次元セマンティックマップとして解釈する新しいアプローチを提案した。
- 提案手法MAPは，訓練不要なデコーディング方法であり，マップレベルの操作を通して事実に基づいた情報を活用する。
- MAPはPOPE，MME，MMHal-Benchなどのベンチマークで，LVLMの真実性と性能を向上させることを示した。
TIC-GRPO：人間からのフィードバックを用いた強化学習のための証明可能かつ効率的な最適化 [cs.LG]目的：人間からのフィードバックを用いた強化学習における最適化手法
- 大規模言語モデルの性能向上には，人間からのフィードバックが不可欠であるため，その活用法の探求が重要である。
- 従来の強化学習アルゴリズムは，計算コストが高く，収束が遅いという課題がある。
- GRPOの効率性と安定性を向上させ，より高速な収束を実現することを目的とする。
- 提案手法TIC-GRPOは，トークンレベルの重要度サンプリングを単一の軌道レベルの確率比率に置き換えることで，現在のポリシー勾配を推定する。
- 理論的な解析により，TIC-GRPOはGRPOよりも高速に収束することが示された。
- 数学的推論およびコーディングタスクにおける実験結果から，TIC-GRPOがGRPOを上回る性能を示すことが確認された。
VLMQ：トークン重要度に基づく視覚言語モデルのポストトレーニング量子化 [cs.CV, cs.AI, cs.CL]目的：視覚言語モデルの量子化性能向上
- 大規模モデルの効率化が重要であり，特に推論速度の向上が求められている。
- 視覚言語モデルへの量子化技術の適用はまだ十分に進んでいない。
- 視覚トークンの過剰な表現とモダリティギャップを解消し，量子化性能を改善する。
- VLMQは，視覚言語モデルに特化した量子化フレームワークであり，重要なトークンを優先的に処理する。
- 勾配に基づいた重要度因子を導入することで，トークンごとの重要度のばらつきを捉えている。
- 8つのベンチマークにおいて最先端の性能を示し，特に低ビット量子化において顕著な改善が見られた。
SAM誘導拡散モデルによる高忠実度赤外・可視画像融合 (SAM Indō Kakusan Moderu ni yoru Kō Chūjido Akagai・Kashi Gazō Yūgō) [cs.CV, cs.AI]目的：赤外線画像と可視線画像の融合による知覚能力の向上
- 画像認識などの視覚タスクにおいて，赤外線と可視線の情報を組み合わせることで，より高度な情報取得が可能となる。
- 既存手法では，シーンの深い意味理解の欠如により重要な対象が失われたり，融合過程でアーティファクトや詳細が失われたりする。
- シーンの意味的理解に基づき，高忠実度な画像融合を実現し，画像品質とタスク性能を向上させる。
- 提案手法SGDFuseは，Segment Anything Model (SAM)によって生成された高品質なセマンティックマスクを条件として拡散モデルを誘導する。
- 実験により，SGDFuseは主観評価・客観評価ともに最先端の性能を達成し，下流タスクへの適応性も高いことが示された。
- これにより，画像融合における重要な課題に対する強力な解決策を提供する。
過剰指定混合線形回帰におけるEM推定の進化の特性評価 [eess.SY, cs.SY, cs.LG]目的：過剰指定された2成分混合線形回帰におけるExpectation-Maximization（EM）アルゴリズムの挙動の理論的理解
- 混合モデルは実用性と理論的基盤から注目されている。モデルの適切な選択は分析の精度に不可欠である。
- モデルがデータ分布よりも多くの混合成分を持つ過剰指定の問題は，依然として解決すべき課題である。
- 混合重みの初期値が不均衡な場合と均衡な場合について，EMアルゴリズムの収束速度を明らかにする。
- 不均衡な初期混合重みの場合，回帰パラメータは$O(\log(1/\epsilon))$ステップで線形収束する。
- 均衡な初期混合重みの場合，$\epsilon$精度を達成するまでに$O(\epsilon^{-2})$ステップという準線形収束が観察された。
- 十分不均衡な混合重みでは統計的精度は$O((d/n)^{1/2})$，十分均衡な混合重みでは$O((d/n)^{1/4})$となる。
GNNベースのSATソルバーの学習困難性に関する幾何学的考察 [cs.LG, cond-mat.dis-nn, cs.AI]目的：GNNベースのSATソルバーの学習困難性の幾何学的解明
- SAT問題は計算複雑性理論において重要な問題であり，様々な分野に応用されている。
- GNNベースのSATソルバーは，困難な問題インスタンスにおいて性能が著しく低下する。
- グラフの Ricci 曲線率を用いて，GNNソルバーの性能低下の原因を幾何学的に説明する。
- ランダムk-SAT式から導出される二部グラフは，負の曲線率を持つことが証明された。
- 問題の難易度が上がるにつれて，グラフの Ricci 曲線率は減少することが示された。
- 負の Ricci 曲線率は局所的な接続性のボトルネックを示し，GNNソルバーにおける情報の圧縮を妨げる。
多様なタスクに対応する単一モデル：マルチタスクプランニングにおける効率的なワールドモデルの活用 [cs.LG]目的：異種マルチタスク意思決定における汎用的なプランニング手法
- 多様なタスクを効率的に学習することは，汎用的なAIシステムの実現に不可欠である。
- 従来のマルチタスクワールドモデルは，多様なタスクを扱う際に勾配の衝突やモデルの柔軟性喪失といった課題を抱える。
- 勾配の衝突を緩和し，モデルの学習能力を動的に調整することで，マルチタスクプランニングの効率化を目指す。
- 提案手法ScaleZeroは，MoEアーキテクチャと動的パラメータスケーリング戦略により，勾配の衝突を軽減し，タスク固有の知識を効率的に保持する。
- ScaleZeroは，Atari，DMC，Jerichoといったベンチマークにおいて，単一タスクエージェントと同等の性能を示す。
- 動的パラメータスケーリング戦略により，環境とのインタラクション数を71.5%削減しながら，競争力のある性能を維持する。
医療における言語モデル応用の性能評価戦略 [cs.LG, cs.AI]目的：医療における言語モデル応用の性能評価
- 医療現場でのAI活用が重要視される中，言語モデルの応用範囲は拡大している。
- 定量的なベンチマークは，過学習や汎化性能の低下といった課題を抱えている。
- 言語モデルの性能をより適切に評価し，実用化を促進すること。
- 言語モデルの性能評価には，臨床タスクの理解と実際の環境での変動を考慮することが重要である。
- 既存の定量的なベンチマークには限界があり，人間の専門知識を活用した評価戦略が注目されている。
- 医療機器を含む言語モデル応用の性能評価に関する最新手法について議論されている。
理路整然とした安全アライメント：回答後検証による脱獄防御の確保 [cs.CL, cs.LG, cs.AI]目的：大規模言語モデルの脱獄攻撃に対する安全性向上
- 大規模言語モデルの能力向上に伴い，安全性確保が不可欠である。
- 悪意のあるプロンプトに対する防御が十分ではなく，脱獄攻撃のリスクがある。
- モデルが回答前に安全性を評価することで，脱獄攻撃への耐性を高める。
- 提案手法「回答後検証」は，安全性と過剰な拒否率のバランスを改善する。
- ファインチューニングされたモデルは，MMLU，MATH500，HumanEvalなどのベンチマークで高い推論能力を維持する。
- 本研究は，安全性トレーニングの必要性を示唆し，少量のデータでも効果が期待できることを示す。
VEGA：物理情報ニューラル演算子と近接方策最適化による電気自動車ナビゲーションエージェント [cs.RO, cs.LG]目的：電気自動車のエネルギー効率を考慮した経路探索システム
- 電気自動車の普及に伴い，航続距離と充電インフラの最適化が重要課題となっている。
- 既存の経路探索システムでは，車両固有の物理特性を考慮した効率的なルート選定が困難である。
- 車両の物理パラメータ推定と強化学習を組み合わせ，最適なルートと充電地点を同時に決定する。
- VEGAは，物理情報に基づき車両固有のパラメータを高精度に推定することで，エネルギー効率の良い経路を生成する。
- 米国全土の高速道路ネットワークを用いた実験で，サンフランシスコからニューヨークまでのルートを現実的な時間と充電回数で実現した。
- 学習済みの方策は，フランスや日本の道路ネットワークに対しても再学習なしに高い汎化性能を示した。
同時音声翻訳における遅延指標のメタ評価：遅れてもまだ良い [cs.RO, cs.RO, cs.CL, cs.AI]目的：同時音声翻訳システムの遅延指標に関する包括的なメタ評価
- 音声翻訳は，グローバルコミュニケーションを促進し，情報へのアクセスを容易にする重要な技術である。
- 既存の遅延指標は一貫性のない結果を生み出し，特に短い形式のデータや人工的なセグメンテーションにおいて課題がある。
- セグメンテーションに起因する構造的な偏りを解消し，より正確な短形式評価を実現すること。
- 既存の遅延指標にはセグメンテーションに関連する構造的な偏りが存在することが明らかになった。
- 新しい遅延指標YAALおよびLongYAALと，再セグメンテーションツールSoftSegmenterが，既存の指標よりも優れた性能を示す。
- これらの成果物はOmniSTEvalツールキットに実装され，同時音声翻訳システムの評価の信頼性向上に貢献する。
C^2Prompt：連合継続学習のためのクラス認識クライアント知識の相互作用 [cs.LG, cs.CV]目的：連合継続学習における，時間的および空間的な忘却の軽減
- 分散環境下での継続学習は，プライバシー保護と効率的な学習を両立する点で重要である。
- 既存の連合継続学習手法では，クラスごとの知識の一貫性が課題となっている。
- 本研究は，クラス認識による知識の相互作用を通じて，連合継続学習の性能向上を目指す。
- 提案手法C^2Promptは，クライアント間におけるクラス分布の差異を低減するメカニズムを導入した。
- さらに，クラス関連性の高い知識を集約する集約スキームを設計し，クラス間知識の混乱を軽減する。
- 複数のベンチマーク実験において，C^2Promptが最先端の性能を達成することを示した。
収縮誘発コンクリート損傷の全場予測のための自己回帰的U-Net [cs.LG]目的：コンクリートにおける収縮誘発損傷の全場予測
- コンクリート構造物の耐久性向上は社会インフラ維持に不可欠である。
- 損傷評価は時間と計算資源を要し，効率的な予測手法が課題である。
- 自己回帰的U-Netによる損傷予測の効率化と高精度化を目指す。
- 自己回帰的U-Netは，微細構造と収縮プロファイルを基に，損傷の経時変化を予測可能である。
- 損傷予測値を再入力することで，連続的な損傷進行評価を効率的に行うことができる。
- 提案アーキテクチャは高い計算効率と予測性能を示し，集粒の特性と力学的性質の関係を解明する。
双曲多様体におけるタクソノミーを意識した動的モーション生成 [cs.RO, cs.LG]目的：タクソノミー構造と時間的ダイナミクスを保存する潜在表現の学習
- ロボットの人間らしいモーション生成は，運動の階層構造を捉えたバイオメカニクス研究に基づいている。
- 既存のモーション生成モデルは，この階層構造を無視し，生成モーションと構造の乖離が生じている。
- 生成されるモーションのタクソノミー構造と物理的整合性を両立させることを目指す。
- 提案手法GPHDMは，双曲多様体上でガウス過程動的モデルのダイナミクス事前分布を拡張し，タクソノミーを意識した誘導バイアスを統合する。
- 確率的再帰的アプローチ2種類と，プルバック計量測地線に基づく手法により，タクソノミー構造と物理整合性を両立したモーション生成を実現。
- 手の把持タクソノミーを用いた実験により，GPHDMが潜在的なタクソノミーと時間的ダイナミクスを忠実にエンコードし，物理的に整合性の取れた新規軌道生成が可能であることが示された。
拡散言語モデル学習におけるプランナー認識パス学習 [cs.LG]目的：拡散言語モデルにおけるプランナーと学習の不一致の解消
- 拡散言語モデルは，自己回帰モデルに代わる強力な選択肢として注目されており，高速な推論が可能。
- プランナーによる計画的なパス選択は推論を改善するが，学習時との間に不一致が生じる。
- この研究は，プランナーを考慮した学習によって，学習時と推論時の不一致を解消することを目指す。
- 本研究では，標準的なELBOがプランナーを用いた推論を正確に記述しないことを理論的に証明した。
- 新たなP-ELBOを導出し，プランナーに基づいた逆ダイナミクスを学習目標に組み込んだPAPLを提案した。
- PAPLは，タンパク質配列，テキスト生成，コード生成において顕著な性能向上を実証した。
拡散アラインメントを変分期待値最大化として [cs.MA, cs.SY, eess.SY, cs.LG]目的：拡散モデルの最適化
- 拡散モデルは生成モデリングの有力な手法であり，多様な応用が期待されている。
- 報酬過剰最適化やモード崩壊といった問題が，既存手法で頻発している。
- 報酬を最大化しつつ，多様性を維持する拡散アラインメント手法を提案する。
- 本研究では，拡散アラインメントを変分期待値最大化（DAV）として定式化するフレームワークを提示した。
- DAVは，EステップとMステップを交互に行うことで，報酬と多様性のバランスを取ることを可能にする。
- テキスト画像合成やDNA配列設計といった連続・離散タスクにおいて，DAVの有効性を確認した。
偏光と意見対立のオンライン最小化：低ランク行列バンディットによるアプローチ [cs.LG, cs.SI]目的：偏光と意見対立の最小化
- 社会現象の理解と制御に不可欠であり，情報拡散や意思決定に影響を及ぼす。
- 従来のモデルは静的で完全な情報に基づいており，現実の不完全な情報下での動的な状況に対応できない。
- 未知の意見分布のもと，介入を通じて偏光と意見対立をオンラインで最小化する手法を開発する。
- 提案手法は，低ランク行列バンディットに基づいた二段階アルゴリズムであり，低次元構造の推定と線形バンディットアルゴリズムの組み合わせにより効率的な学習を実現する。
- 累積後悔は$\widetilde{\mathcal{O}}\big(\max(\tfrac{1}{\kappa},\sqrt{|V|})\sqrt{|V|T}\big)$であり，エージェント数や介入の多様性に依存する。
- 実験結果は，提案手法が線形バンディットと比較して，累積後悔と実行時間の両面で優れていることを示している。
偏微分方程式の解読：デコーダー専用モデルのPDEへのクロスモーダル適応 [cs.LG, cs.CL]目的：偏微分方程式に基づく時間依存シミュレーションタスクに対する，エンコーダー専用モデルとデコーダー専用モデルのクロスモーダル適応の比較
- 科学計算において，大規模言語モデルの応用が期待されており，新たなアプローチの開発が重要である。
- 従来のクロスモーダル適応研究はエンコーダー専用モデルに偏っており，より汎用的なデコーダー専用モデルの検討が不足している。
- デコーダー専用モデルの性能向上を目指し，双方向性を模倣する新しい手法を提案することで，その可能性を広げる。
- 既存のアプローチでは，デコーダー専用モデルはエンコーダー専用モデルに比べて性能が劣るが，モデルの規模拡大でも改善は見られなかった。
- 提案手法であるParallel FlippingとSequence Doublingは，デコーダー専用モデルの性能を向上させ，エンコーダー専用モデルとの差を縮小した。
- 本研究の知見は，科学計算におけるクロスモーダル適応に利用可能なモデルの範囲を広げることが期待される。
デジタルフェロモンに基づく，制御状態/異常状態の分類手法 [cs.HC, cs.NE, cs.SY, eess.SY]目的：制御状態と異常状態の分類，およびメンテナンスが必要な状態への移行予測
- 複雑な生産ラインにおいて，迅速かつ厳密な状態判断は品質管理と生産効率の維持に不可欠である。
- 従来の監視システムでは，微妙な変化の検出や将来の状態予測が困難な場合がある。
- 本研究は，動的なシステムの状態変化を捉え，予測するための新たな手法を提案する。
- デジタルフェロモンを用いて，システムの過去の温度変化パターンを数値化し，現在の状態を評価する。
- 温度の極端な変化や変動，変化点などを考慮した脅威スコアを導入することで，異常状態の兆候を早期に捉える。
- 過去のシステム状態を反映する環境スコアを加えることで，リアルタイムな状態分類と将来の予測精度を高める。
モデルの幅が線形モード接続性に与える影響：置換は本当に必要か？ [cs.HC, cs.LG]目的：モデル幅と線形モード接続性の関係性
- 深層学習モデルの汎化性能向上は重要な課題であり，その手法の一つとしてモデルのアンサンブルが知られている。
- モデルのアンサンブルは計算コストが高いという課題があり，効率的な接続方法が求められていた。
- モデル幅を広げることで，置換なしに線形モード接続性を実現し，アンサンブルの効率化を目指す。
- モデル幅を広げるだけで線形モード接続性を実現できることを実験的に示した。
- 適切なソフトマックス温度較正を用いることで，置換を必要とせずに線形モード接続性が成立することが確認された。
- 層ごとの指数加重接続性（LEWC）の概念を導入し，この現象がアンサンブル出力と一致することによって説明した。
言語モデルのマイクロベンチマークの信頼性はどの程度か [cs.CL, cs.LG]目的：言語モデルマイクロベンチマークの信頼性評価
- 言語モデルの開発コスト削減が課題であり，効率的な評価手法が求められている。
- マイクロベンチマークは評価の迅速化に貢献するが，その信頼性が十分に検証されていない。
- マイクロベンチマークの適切な規模と，それによるランキングの信頼性を明らかにすること。
- マイクロベンチマークは，完全なベンチマークと同程度のモデルランキングの再現性を持たないことが多い。
- モデル間の性能差が小さい場合，マイクロベンチマークは250例程度のデータが必要であり，ランダムサンプリングと同程度の性能しか示さない。
- 8B命令チューニング済みモデルのMMLU-Proマイクロベンチマークでは，ペアワイズ比較の半数以上が再現されない可能性が示唆された。
LikePhys: 拡散モデルにおける直感的物理理解の評価 - 尤度に基づく選好による [eess.SY, cs.SY, cs.CV, cs.AI]目的：動画拡散モデルにおける直感的物理理解の評価手法
- 汎用的な物理法則に基づいたワールドシミュレータ構築には不可欠な直感的物理理解。
- 生成された動画において，物理的な正しさと視覚的な表現を分離して評価することが困難。
- 動画拡散モデルの直感的物理理解を，尤度に基づく選好を用いて定量的に評価すること。
- LikePhysは，物理的に妥当な動画と不可能な動画を識別することで，拡散モデルの直感的物理理解を評価する。
- 提案手法の評価指標であるPlausibility Preference Error（PPE）は，人間の選好と強い一致性を示す。
- モデルの規模や推論設定の拡大に伴い，物理理解能力が向上する傾向が確認された。
Phys2Real：不確実性認識シミュレーション to リアルのマニピュレーションのためのVLM事前知識とインタラクティブなオンライン適応の融合 [cs.RO, cs.AI]目的：不確実性認識型シミュレーション to リアルのマニピュレーションに関する研究
- ロボットの学習はコストと時間がかかるため，シミュレーション環境での学習が重要視されている。
- シミュレーション環境で学習したポリシーを現実世界に適用する際のドメインギャップが課題である。
- VLMとオンライン適応を融合することで，シミュレーションから現実世界への効果的な転移を目指す。
- 提案手法Phys2Realは，VLMから推測される物理パラメータとインタラクティブな適応を組み合わせることで，高い性能を発揮した。
- T字ブロックの実験では，従来のドメインランダム化と比較して，成功率が大幅に向上した（底重T字ブロック：100% vs 79%，トップ重T字ブロック：57% vs 23%）。
- ハンマーの実験では，タスク完了までの平均時間が15%短縮された。VLMとインタラクション情報の組み合わせが成功の鍵となることが示唆された。