arXiv雑要約
AI - 2026/07/31 公開
統一的な表形式データ異常検知のための文脈内再構成 [cs.AI]目的:表形式データの異常検知における統一的なモデル構築
- 表形式データは広く利用され,その異常検知は重要性が増している。
- 既存手法では,異質なデータを扱う際に特徴量の意味が失われやすい。
- 多様な異常パターンに対応可能な統一的検知手法の確立。
- 本研究では,文脈内再構成アプローチCOREを提案し,異質な特徴量を意味を保持したまま統一的な表現空間に揃える。
- COREは,異常検知を二値分類問題として捉えるのではなく,文脈内の正常サンプルを用いて各サンプルを再構成する。
- 再構成誤差が異常度を反映し,未知のデータセットに対しても汎化性能を発揮する。
言語モデルにおける隠れたAPI:分岐する未来から再利用可能な因果的インターフェースの発見 [cs.AI]目的:言語モデルの隠れた状態における再利用可能な因果的インターフェース
- 言語モデルの内部動作の理解は,AIの安全性と信頼性の向上に不可欠である。
- 現在の評価方法は,言語モデルの内部インターフェースの再利用性を明確に示せていない。
- 隠れた状態の因果的関係を明らかにし,再利用可能なインターフェースを特定すること。
- 分岐する未来という手法を用いて,研究者定義の潜在ラベルなしで隠れた状態の因果的関係を定量化した。
- Qwen2.5-1.5BとLlama-3-8Bにおいて,共有インターフェースが最も低い予測外記述長を示し,0.216natsと0.294natsの改善が見られた。
- 移植実験により,共有インターフェースが最も高いターゲット正解率,局所性,コピー保存,複合プロファイルを示した。
リアルタイム厳密ピーク情報鮮度安全性:後悔最小化学習による実現 [cs.IR, cs.LG]目的:厳密なピーク情報鮮度(PAoI)の安全性保証
- 産業制御やV2Xなど,安全性が重要なIoTシステムにおいて,情報鮮度は不可欠である。
- 従来のPAoI管理手法は,特定の条件下でのみ有効であり,実用的な環境での適用が困難であった。
- 本研究は,敵対的条件下でも厳密なPAoI制約を満たす,実用的なオンライン凸最適化手法を提案する。
- 提案手法OCO-PAoI-Hardは,シミュレーション環境において,すべての試行でピーク情報鮮度違反をゼロに抑えた。
- 対照的な既存手法は,1.65%から64.0%の割合でピーク情報鮮度違反が発生した。
- 理論的な後悔境界内に収まることを実証し,その有効性と堅牢性を確認した。
Arm2Air:3次元リレー形成のためのクロス・エンボディメント骨格転移 [cs.RO, cs.AI]目的:3次元空間におけるUAVリレー配置の効率化
- 災害時等の通信インフラ障害時,UAVリレーネットワークが通信回復に不可欠である。
- 都市部では,見通し外,通信範囲,高度,三次元障害物の考慮が複雑で,最適なリレー配置が困難である。
- ロボットアームの障害物回避骨格をUAVに転移し,効率的なリレー配置を実現する。
- Arm2Airは,従来のプランナーと比較して,エンドツーエンド計画の実行時間を平均64.9%削減した。
- 高障害物密度な都市環境において,ボトルネック容量を32.6%向上,容量変動を74.7%低減した。
- わずか3枚のターゲットデータで,リレー位置のRMSEを53.6%削減し,パラメータ更新数を大幅に抑制した。
ブラックボックス組合せ最適化における方策進化のための合成条件目的 [cs.AI]目的:ブラックボックス組合せ最適化における方策進化のための合成条件目的の学習
- 組合せ最適化は,現実世界の複雑な問題を解決するための基盤技術である。
- 目的関数が不明なブラックボックス環境では,効率的な探索が困難である。
- 探索履歴に基づいた合成目的関数により,効率的な探索と多様性の確保を目指す。
- SCOPEは,探索履歴に応じて合成目的関数を適応的に更新・選択する。
- 多様な候補を生成する方策を進化させ,ブラックボックス評価による性能評価を行う。
- 複数のベンチマーク問題で,評価予算が限られた状況下で探索性能が向上することが示された。
ReDiPPO:参照に基づいた価値校正と不一致を認識したトークン再重み付けによる数学的推論 [cs.AI, cs.CL]目的:数学的推論における価値推定の精度向上と,それを用いた方策最適化
- 大規模言語モデルの数学的推論能力は重要であり,その強化は学術的,実用的な価値を持つ。
- 従来の価値関数は,長期間の推論と希薄な報酬により,トークンレベルでの正確な信用割り当てが困難である。
- 参照情報を用いて価値推定を改善し,推論の難しい部分を特定して最適化する。
- ReDiPPOは,参照解答を利用した価値関数により,従来の価値関数の精度を向上させる。
- トークンレベルでの不一致を指標として,重要なトークンに重みを置いた方策最適化を行う。
- 様々な数学的推論ベンチマークにおいて,PPOなどの既存手法を上回る成果が得られた。
分散ネットワークにおけるロバストなコアセット選択のための,一次制約付き三層最適化 [cs.LG]目的:ロバストなコアセット選択
- IoTの急速な発展により,分散型エッジネットワークで大量のデータが生成されている。
- 大規模データに対する計算負荷とストレージのボトルネックが存在する。
- プライバシー保護とモデルのロバスト性を考慮した分散最適化フレームワークを開発する。
- 本研究では,コアセット選択,ロバスト最適化,分散学習間の階層的依存関係を特徴付けた。
- レベルごとの制約を持つ三層最適化問題として,分散型ロバストコアセット選択を定式化した。
- 分散型ロバストコアセット選択のための最初の方法であるF$^2$CTOを提案し,その収束率を解析的に示した。
HealthCAT:ウェアラブルセンサデータを用いた健康指標予測と時間的解釈のための解釈可能なEncoder専用Transformerフレームワーク [cs.AI, cs.LG]目的:ウェアラブルセンサデータに基づく健康指標の予測と,それらの時間的な解釈
- ウェアラブルセンサは行動パターンと健康状態の関連性を明らかにする可能性を秘めている。
- 既存の深層学習手法は予測精度を重視するあまり,解釈可能性が低く,健康研究への応用が限られている。
- HealthCATは,時間的な解釈可能性を確保しつつ,ウェアラブルセンサデータから健康指標を高精度に予測することを目指す。
- HealthCATは,既存の深層学習モデルと比較して,F1スコアと精度において最大17%および12%の改善を示した。
- マスキング実験の結果,HealthCATが特定した時間ステップは,ランダムな選択よりも有意に予測価値が高かった。
- HealthCATは,集計指標だけでなく,健康モニタリングや行動パターン分析を支援する時間的パターンを明らかにする。
HALO:安全なエージェント実行のための局所的義務による異種承認 [cs.AI, cs.RO, cs.SE]目的:異種応答におけるコンポーネントのサポート維持と,依存関係を考慮した承認プロトコル
- エージェントAIの発展に伴い,多様な応答形式が求められる状況が生じている。
- 応答の各コンポーネントが独立して変化し,依存関係が崩れるリスクがある。
- 応答全体を拒否することなく,依存関係を維持しつつ安全に実行可能なコンポーネントを選別する。
- HALOは,96件の承認期待と20件のプロトコルテスト全てを満たした。
- 構造化された応答再生実験では,248/248のサポートされたコンポーネントを維持し,うち128/128は無関係な変更の影響を受けなかった。
- PX4/Gazeboセッションでは,全ての古いルートをブロックし,対応する古いセットポイントは観測されず,全ての新しい回復に成功した。
意思決定時情報が適応実験を正当化するかの認定 [cs.LG]目的:適応実験の実行可否の判断基準
- 実験の効率化が求められる現代において,データ駆動型の適応実験は重要である。
- 適応実験の開始時期に関する厳密な基準が存在せず,安全性への懸念がある。
- 適応実験の開始を正当化するための枠組みを提示し,安全性を確保すること。
- 提案手法\OPAL{}は,実験開始前の契約に基づき,適応実験の必要性とリスクを評価する。
- Cell Paintingデータセットを用いた評価で,\OPAL{}は厳格なリスク管理下で有効な化合物を特定することに成功した。
- 既存手法と比較して,\OPAL{}のみが活性化とリスク制御の両立を実現した。
単一文書から複数文書へ:大規模言語モデルの多粒度イベント分析のベンチマーク [cs.CL, cs.CL, cs.AI]目的:大規模言語モデルにおける多粒度イベント分析の性能評価
- 情報抽出の基礎であり,様々な分野で重要性が高まっている。
- 既存のベンチマークは文書粒度,タスク設計,データソースに制限がある。
- 多粒度イベント分析におけるLLMの能力を総合的に評価することを目指す。
- MiGUE-Benchを開発し,イベント検出,関係推論,構造誘導,将来予測の4つのタスクを設計した。
- 最先端のLLMとRAG手法による実験から,現在のLLMの限界と課題が明らかになった。
- イベント分析におけるLLMの改善に向けた洞察を提供する。
脳波を用いた感情認識における評価プロトコルと被験者間汎化性能 [cs.LG]目的:脳波を用いた感情認識における評価プロトコルと被験者間汎化性能の評価
- 感情認識技術は,メンタルヘルスケアやヒューマンコンピュータインタラクションなど,幅広い分野での応用が期待されている。
- 脳波を用いた感情認識の精度は,使用する評価プロトコルに大きく依存しており,一貫した評価方法が確立されていない。
- 本研究は,感情認識の評価プロトコルが結果に与える影響を明確にし,被験者間汎化性能を向上させるための指針を示す。
- SEEDデータベースを用いた実験で,プロトコルに合わせた被験者依存型評価では公表値に近い精度が得られた。
- 反復的なテストセット評価に基づいたチェックポイント選択により,平均ウィンドウ精度が大幅に向上した。
- 被験者分離型評価では高い精度が得られたものの,未知の被験者に対する精度には課題が残る。
ソース中心状態進化を持つループトランスフォーマー [cs.LG, cs.CL]目的:ループトランスフォーマーにおける入力条件と参照保持共有再帰の一致
- Transformerモデルの性能向上は自然言語処理の発展に不可欠であり,計算効率の改善が求められている。
- ループトランスフォーマーでは,共有ブロックが様々な隠れ状態を管理する必要があり,状態の変動が課題となる。
- 入力条件と参照保持共有再帰を両立させ,安定した状態進化を可能にすることを目的とする。
- 提案手法SCSEは,学習されたアンカーと初期偏差を通じて入力依存性を維持しつつ,参照保持共有再帰を実現する。
- SCSEは,偏差がゼロの場合にゼロへの写像を保証し,アンカー不変性を実現することで,状態進化の品質を向上させる。
- WikiTextやLAMBADAなどの評価実験により,SCSEが制御された再帰的品質の最前線を改善することが示された。
カラーグレーディングの学習:写真共有なし。パーソナライズされた画像強化のための連合美的嗜好学習 [cs.CV, cs.AI, cs.DC]目的:パーソナライズされた画像強化のための美的嗜好学習
- 画像処理技術は,写真や映像の品質向上に不可欠であり,多様な応用分野で需要が高まっている。
- 個人の美的嗜好を反映した画像強化は難しい。プライベートな写真や評価の収集が困難であり,プライバシー保護の観点からも課題がある。
- 中央集権的なデータ収集を伴わずに,分散された環境で個人の美的嗜好を学習し,効率的な画像変換を実現することを目指す。
- 本研究では,Federated Aesthetic Preference Learning (FedPAIE)という新しいフレームワークを提案し,ユーザーのプライバシーを保護しながらパーソナライズされた画像強化を可能にした。
- FedPAIEは,軽量なデュアルキュー美的スコアラーを学習し,ローカルなサポートセットでパーソナライズされたスコアラーに校正することで,自然な色の変化を実現する。
- 実験結果から,FedPAIEはオープンワールドでのパーソナライズに有効であり,ユーザーの好みと画像の忠実度のバランスが良いことが示された。
表現学習のためのサブモジュラー情報尺度に基づく目的関数:分散と分離の視点 [cs.LG, cs.AI, cs.CV]目的:表現学習におけるサブモジュラー情報尺度に基づく目的関数の幾何学的・統計的特性の解明
- 表現学習は,機械学習の基盤技術であり,多様な応用分野において重要な役割を担う。
- サブモジュラー情報尺度を用いた表現学習は成功を収めているものの,その特性は十分に理解されていない。
- 異なるサブモジュラー情報尺度が生み出す幾何学的・統計的特性を理論的に解明し,目的関数の選択指針を提供する。
- 総情報量(TI)目的関数はクラス内構造を特徴づけ,グラフカットTIはクラス内分散を,LogDet TIは一般化された分散と共分散量を回復する。
- 相互情報量(MI)目的関数はクラス間構造を捉え,グラフカットMIは重心分離とFisher判別に,LogDet MIはMahalanobis距離による分離に,Facility Location MIは最近傍モード表現の重複を計測する。
- 合成実験により,理論的解明と実験結果の一致が確認され,サブモジュラー情報尺度に基づく目的関数の設計に関する指針が得られた。
FedOGL:連合型オープンワールド多Modalグラフ学習における破滅的忘却との戦い [cs.LG]目的:連合型多Modalグラフ学習における破滅的忘却の軽減
- 分散環境でのグラフ学習は,プライバシー保護に貢献し,多様なデータソースの活用を可能にするため重要である。
- 連合型学習において,新しいクラスの学習と過去の知識の保持を両立させることは困難であり,特にグラフ構造の変更が問題となる。
- 本研究は,多Modalグラフにおける知識の消失を防ぎ,継続的な学習性能の向上を目指す。
- FedOGLは,クライアント側でリプレイとタスク開始時の知識蒸留により過去の決定行動を保持し,グラフ伝播メモリを保護する。
- サーバー側では,コンパクトなカテゴリプロトタイプを維持・転送することで,生グラフデータを共有せずに知識共有を促進する。
- 実験結果から,FedOGLは既存手法と比較して,破滅的忘却による性能劣化を42.67%削減できることが示された。
JigShape:VLMにおける視覚幾何学的推論の評価 - ジグソーパズルを通じて [cs.CV, cs.AI]目的:VLMにおける視覚幾何学的推論能力の評価
- 視覚情報と言語の統合は,AIの重要な課題であり,高度な推論能力が求められる。
- 既存のジグソーパズルベンチマークは,曖昧な正解を含むため,正確な評価が困難である。
- 明確な正解を持つジグソーパズルベンチマークを構築し,VLMの幾何学的推論能力を検証する。
- 既存の最先端VLMは,ジグソーパズルにおいて幾何学的推論能力が著しく低いことが示された。
- 教師ありファインチューニングは4x4パズルで高い精度を達成するものの,より大きなグリッドでは性能が急激に低下する。
- この「スケーリングの崖」は,現在のアーキテクチャではピース数の増加に対応した制約充足が困難であることを示唆する。
AIエージェントの信頼に基づく出荷は止めるべき:能力は実運用準備ではない [cs.MA, cs.AI]目的:AIエージェントの実運用準備度を測るための指標
- AIエージェントの活用が拡大する中で,その安全性と信頼性が重要課題となっている。
- AIエージェントの能力評価だけでは,実運用環境での問題を見落とす可能性がある。
- 実運用環境におけるリスクを評価し,安全なAIエージェントの展開を支援すること。
- 本研究で提案するProofAgent Index(PAI)は,AIエージェントの評価,コンテキスト,コンプライアンス,ガバナンスの4側面を統合する。
- ヘルスケアと金融の2つの分野での検証により,PAIが隠れた準備シグナルを検出し,高リスクと低リスクの構成を区別できることが示された。
- コンテキストエンジニアリングが信頼性に大きく影響し,能力の向上だけでは実運用準備は保証されないことが明らかになった。
低ランク適応におけるタイトなサンプル複雑性:整合的な境界とランク選択 [cs.LG, cs.CL]目的:低ランク適応(LoRA)の統計的性質の解明
- 大規模事前学習モデルのファインチューニングは重要であり,LoRAはその標準的な手法である。
- LoRAの汎化誤差に関する厳密な下界が未確立であり,最適なランクrの選択基準がない。
- LoRAの統計的複雑性を特徴付け,ランク選択の指針を提供する。
- LoRAの経験的リスク最小化の過剰リスクの上界がO~(rd/n)であることを証明した。
- ランクrの部分空間のFano型パッキングにより,整合的な下界Ω(rd/n)を導出した。
- 制約付き経験的リスク最小化においては,最適なランクが真のランクr*と一致し,過剰なランク設定は性能を低下させる。
微分可能な臨界クリアリング境界のためのイベント構造化物理情報ニューラルネットワーク [cs.LG, cs.SY, eess.SY]目的:電力系統の過渡安定性評価のための臨界クリアリング時間推定手法
- 電力系統の安定運用に不可欠であり,大規模停電の防止に貢献する。
- 複雑な故障時ダイナミクスにより,正確な臨界クリアリング時間推定が困難である。
- 物理情報ニューラルネットワークを用いて,効率的かつ高精度な臨界クリアリング時間推定を実現する。
- 提案手法は,既存のニューラルサーロゲートと比較して,軌道予測および安定境界の精度を向上させる。
- イベント連鎖の正確性を保証することで,状態界面における欠陥項を排除し,誤差推定の精度を高める。
- IEEEバスシステムを用いた実験により,提案手法の有効性と計算効率が実証された。
AI生成応答における広告の評価と価格設定 [cs.IR, cs.AI]目的:AI生成応答に埋め込まれた広告の,ユーザーへの有用性と商業的価値の評価
- 検索がLLM駆動の応答エンジンへ移行する中で,広告のあり方が変化しており,その評価が重要である。
- 広告のクリック意図を正確に評価する既存の手法には,データ不足,アノテーションのばらつき,LLMの判断の曖昧さなどの課題がある。
- 心理学に基づいたエージェントシミュレーションにより,クリック意図を定量化し,広告の適切な価格設定を可能にすること。
- 心理学に基づいたエージェントシミュレーションにより,クリック意図を評価するモデルを構築し,その精度を検証した。
- 構築した評価モデルは,最先端のLLMの評価と比較して,関連性評価において高い性能を示した(79% vs 60-67%)。
- 評価モデルの出力に基づき,広告オークションにおける最適な支払いルールを導出し,その有効性を検証した。
Rehearse:自己改善型自動探索における信頼性低下からの脱却 [cs.AI]目的:機械学習コードの自動改善における,変更の有効性事前判断の信頼性変化の調査
- 機械学習モデルの性能向上には,継続的なコード改善が不可欠であり,自動探索はその効率化に貢献する。
- 自動探索において,変更が有効かどうかを事前に判断する能力が,探索の効率を大きく左右する。
- 探索が進むにつれて低下する事前判断の信頼性を改善し,探索効率の低下を防ぐ。
- 自動探索の進行に伴い,有効な変更の割合が減少し,「信頼性の崖」と呼ばれる現象が発生することが確認された。
- 候補となる変更案を比較検討する「Rehearse」という手法を導入することで,事前判断の信頼性を回復させることができた。
- 「Rehearse」は,nanochat,画像分類,時系列予測といった複数のタスクにおいて,同じ計算資源下で性能向上を実現した。
LabEvolver:訓練不要な経験進化による安全で現実世界の実験エージェント [cs.RO, cs.AI]目的:実験実行経験からのエピソード記憶を伴う,安全で現実世界の実験エージェント
- 科学的発見の自動化は,研究開発の効率化に不可欠であり,実験の再現性と加速が求められている。
- 従来のロボットによる実験は,訓練データへの依存や環境変化への対応が難しく,汎用性に課題があった。
- 実験経験から学習し進化するフレームワークを構築することで,訓練不要で安全かつ汎用的な実験エージェントを実現する。
- LabEvolverは,pH調整の完了時間と安全ゲートの停止回数をそれぞれ48.2%と60.0%削減し,現実世界での実現可能性を示した。
- ALFWorldにおいて,ReActと比較して20ステップ以内の累積成功率を76.2%から91.4%に向上させ,実験環境外での汎用性を示した。
- 実験を通して,経験進化が閉ループ型自動科学的発見への実行可能な道である可能性が示された。
類似度に基づく上位K再利用による効率的な長文脈注意機構 [cs.CL, cs.LG]目的:長文脈注意機構における効率的な上位K再利用手法
- 近年,大規模言語モデルの文脈長拡大が重要視されており,計算コストの削減が課題となっている。
- 既存の上位Kスパース注意機構では,選択コストが文脈長に比例し,長文脈への適用が困難である。
- 過去の検索結果を再利用することで,選択コストを削減し,長文脈処理の効率化を目指す。
- ReTopKは,過去のクエリとサポートのペアをキャッシュし,類似クエリのサポートを再利用することで,計算コストを削減する。
- 16K~128Kの文脈長において,既存手法と比較して,perplexity,NIAH,LongBenchのスコアで優位性を示す。
- 128K文脈,K=512の場合,Exact Top-Kと比較して0.50%のperplexity増大で,注意計算を3.07倍高速化する。
低ビットLLM推論のための回転とファイングレイングループ量子化の隠れた相乗効果の活用:GyRot [cs.AR, cs.LG]目的:低ビットLLM推論における効率化
- 大規模言語モデル(LLM)の利用拡大には,計算資源の効率的な利用が不可欠である。
- 回転とファイングレイングループ量子化を組み合わせる際,精度低下やハードウェアのオーバーヘッドが生じやすい。
- 回転とグループ量子化の協調的な統合により,量子化性能を向上させ,スケーリング因子の精度要件を緩和することを目指す。
- 提案手法GyRotは,LLaMAモデル群において最先端の4ビット精度を達成する。
- 既存のLLMアクセラレータと比較して,最大3.4倍の高速化と3.6倍のエネルギー効率を実現する。
- GyRotは,スケーラブルかつエネルギー効率の高いLLMデプロイメントの実用性を実証する。
遺伝的プログラミングで進化させたヒューリスティック知識による大規模言語モデルの誘導:動的マルチモードプロジェクトスケジューリングへの応用 [cs.HC, cs.AI]目的:動的マルチモードプロジェクトスケジューリングにおける意思決定の改善
- プロジェクトスケジューリングは,資源配分や納期遵守に不可欠であり,効率的な計画が重要である。
- 従来のヒューリスティックルールは専門知識が必要で,変化への対応が難しいという課題がある。
- 遺伝的プログラミングで進化させた知識を用いて,大規模言語モデルの意思決定を支援し,問題を解決する。
- 遺伝的プログラミングで進化させたルールを大規模言語モデルに誘導することで,スケジューリング性能が向上することが示された。
- 特徴選択やルール参照といった知識注入方法の効果が確認され,特に特徴選択はトークン効率に優れることがわかった。
- 誘導により,意思決定の安定性が向上し,生成される説明における特徴の焦点が変化することが確認された。
RefineSVG:画像からSVG生成のための視覚フィードバック駆動型強化学習 [cs.CV, cs.AI]目的:画像からSVG生成における高精度化
- 画像生成技術は,デザインやデータ可視化において重要であり,その効率と品質向上が求められている。
- 既存手法では,複雑な画像に対して幾何学的なずれや誤りが発生しやすく,視覚的な誤認を生じやすい。
- 視覚フィードバックループを用いて,モデルが自己修正を行い,SVG生成の精度と効率を向上させる。
- RefineSVGは,視覚フィードバックを利用することで,既存手法と比較して再構成精度,構造精度,コード効率において一貫して高い性能を示す。
- Diff-Mapと呼ばれる多次元の視覚残差マップをReAct形式の修正信号としてモデルに提供し,ターゲットとなる画像との比較を通じて自己修正を促す。
- SVGに特化したセマンティック語彙を導入することで,トークンシーケンスを52%以上圧縮し,効率的な処理を実現している。
SpatialCLI:空間ツールを用いた推論学習,そしてそれらなしでの推論 [cs.AI]目的:空間ツールを用いた推論と,それらを通じた専門的な知覚能力の内部化
- 視覚と言語を組み合わせたモデルは,ロボットなどの具現化されたエージェントにおいて重要な役割を担う。
- 汎用モデルはタスク全体を理解できるが,成功を左右する視覚的詳細を見落とすことがある。
- 空間ツールを用いて視覚詳細の認識能力をモデルに獲得させ,タスク遂行能力の向上を目指す。
- SpatialCLIは,視覚モデルを空間ツールとして活用し,VLMの知覚能力を拡張するフレームワークである。
- MindCubeにおいて,SpatialCLIはQwen3-VL-8B-Instructの性能を大幅に向上させ,GPT-5.6 Sol(ツール使用時)を上回った。
- 内部化学習により,ツールなしでも高い性能を維持することが確認された。
LightRot:正確な低ビット大規模言語モデル推論のための軽量回転スキームとアーキテクチャ [cs.AR, cs.LG]目的:低ビット大規模言語モデル推論のための軽量回転スキームとハードウェアアクセラレータ
- 大規模言語モデルの能力向上に伴い,省エネルギーで高精度な推論が重要になっている。
- 低ビット量子化における回転演算のエネルギーコストが課題となっている。
- LightRotは,高度なモデルでの効率的な低ビット推論を実現する。
- 提案手法LightRotは,4ビット推論で27.4 TOPS/Wのピークエネルギー効率を達成した。
- LLaMA2-13BやLLaMA3-8Bなどの先進モデルで最適化されており,実世界の会話シナリオでも堅牢な性能を示す。
- アルゴリズムとハードウェアの効率化により,スケーラブルな低ビット大規模言語モデル推論の新たな基準を確立した。
Albilich:LLMを活用した数学研究のための制御可能な証明状態オーケストレーションとCAS統合 [cs.AI, cs.LG]目的:LLMを用いた数学研究における証明状態の制御,評価,再現性の向上
- 数学研究は人類の知的好奇心を満たすだけでなく,科学技術の発展に不可欠である。
- LLMは数学研究に貢献する可能性を秘めるものの,長期的証明の調整や検証が困難である。
- LLMとCASを統合し,数学研究の自動化と効率化を目指す。
- AlbilichはRealMathベンチマークにおいて,CAS利用時10/10問題を,非利用時9/10問題を解決した。
- Kourovka Notebookの未解決問題に対し,反例の発見と定理の強化証明を達成した。
- CAS利用により,Problem 17.91においてトークン数を32.0%削減することを示した。
MECA:メカニズムを中心とした,明確で価値のある数学的予想の構築メカニズム [eess.SY, cs.SY, math.OC, cs.AI]目的:明確かつ価値のある数学的予想の構築
- AIによる数学的発見において,自動的な予想構築は重要な課題である。
- 既存の予想は範囲が広すぎたり,定義が曖昧だったり,証明が困難な場合が多い。
- メカニズムに基づいた精緻化により,証明困難ながらも価値のある予想を生成する。
- MECAは,メカニズムと予想を共同で開発するマルチエージェントフレームワークである。
- 既存研究との比較実験で,MECAが明確な数学的根拠を持つ精密な予想を生成することが示された。
- 文献から生成した100の問題に対し,自動証明器による検証を行った結果,MECAが生成した予想は解決困難であることが示された。
NMINE:正規化相互情報量ニューラル推定 [cs.LG]目的:連続変数の正規化相互情報量推定手法
- 統計的依存関係の一般的な指標であり,線形・非線形関係を捉えられるため,様々な分野で重要である。
- 高次元データや連続変数における相互情報量の推定は,次元数や数値安定性に課題が残されていた。
- ニューラルネットワークを用いて,高次元連続変数における正規化相互情報量の高精度な推定を目指す。
- 提案手法は,MINEベースの相互情報量推定器とMI-NEEに着想を得た周辺エントロピー推定器を組み合わせている。
- ガウス分布データを用いた実験により,既存のKSGベース手法と比較して,推定精度が向上することが示された。
- ニューラル推定は,連続多次元設定における依存性測定の有望な方向性を示唆している。
VESTIGE:ゲノムTransformerの腐敗を意識したファインチューニングのための知識誘導型マスキング戦略 - 古代DNA再構築による検証 [cs.LG]目的:ゲノムTransformerのファインチューニングにおける腐敗を考慮したマスキング戦略
- ゲノム解析は生物学,医学において重要であり,精度向上が求められている。
- 既存のマスキング手法は,位置による腐敗の度合いを考慮せず,精度低下を招く場合がある。
- 損傷パターンを考慮したマスキングにより,古代DNA再構築の精度を向上させる。
- VESTIGEは,位置ごとの腐敗プロファイルに基づいてマスキング分布を調整し,標準MLMを上回る性能を示した。
- 検証クロスエントロピーを13%削減し,ESMFold再構築においてTMスコア>0.95を達成した。
- 1D CNNによるバイオセキュリティ分類器はAUC=0.935を示し,再構築されたウィンドウの98.2%をクリアした。
ホップフィールドネットワークにおける新しい同期計算ダイナミクス [cs.RO, cs.SY, eess.SY, cs.AI]目的:ホップフィールドネットワークの処理時間短縮
- 連想記憶モデルとして,パターン認識や最適化問題への応用が期待されている
- 従来の非同期ダイナミクスでは,処理速度の向上が課題であった
- 同時更新による処理時間短縮と,収束性の保証を両立すること
- 本研究では,離散微分フィルタ(DDF)という新しいツールを開発し,それに基づいた同期ダイナミクスSD-DDFを提案した
- SD-DDFは,エネルギー減少を最大化する次状態の計算を効率的に行うことで,処理時間の大幅な短縮を実現する
- 計算実験により,提案手法の有効性が確認された
データレイクにおける深層調査のための構造化検索:Baikal [cs.AI, cs.CL, cs.LG]目的:データレイクにおける深層調査の効率と質向上
- データレイクは大量の情報を保有するが,有効活用には高度な情報検索技術が不可欠である。
- 既存手法では,局所的な情報に偏り,多様な側面からの調査が不十分になりがちである。
- Baikalは,効率的な探索と活用により,網羅的かつ質の高い調査を実現する。
- Baikalは,データを意味領域にクラスタリングし,探索と活用をバランスさせることで,深層調査を効率化する。
- HybridQAとTAT-QAデータレイクを用いた評価において,Baikalは既存手法を最大36%上回る成果を達成した。
- この改善は,意味領域に基づいた構造化探索により,情報の根拠と多様性が向上し,より有用な発見につながるためである。
最適なバッチサイズスケジュールを用いた共同スケーリング則 [cs.LG, cs.AI, math.OC]目的:学習率とバッチサイズの相互作用に関する損失の表現
- 深層学習の性能向上には,学習プロセス全体の最適化が不可欠である。
- 従来の深層学習では,バッチサイズを固定しており,学習率との相互作用が無視されている。
- 動的なバッチサイズスケジュールによって,学習効率とモデルの汎化性能を向上させる。
- 凸最適化の観点から損失関数を解析し,学習率とバッチサイズのスケジュールに関する理論的な関係性を導出した。
- 任意の学習率スケジュールに対して最適なバッチサイズスケジュールを閉形式で算出できることを示した。
- 提案手法は,固定バッチサイズと比較して,大規模言語モデルの学習において優れたスケーリング則を示す。
VeriSkill:プログラム検証能力の自己進化フレームワーク [cs.AI]目的:プログラム検証能力の自己進化
- ソフトウェアの信頼性向上は不可欠であり,プログラム検証はその重要な手段である。
- 既存の自己進化手法では,検証タスクにおけるスキル固有の失敗特定が困難である。
- 検証失敗の原因特定と,検証性能向上とプログラム意味の維持を両立する。
- VeriSkillは,検証失敗をスキル不足に帰属させ,診断シグネチャを再利用可能な教訓に変換する。
- 検証性能を向上させつつプログラムの意味論を維持しながら,候補スキルを反復的に洗練する。
- 複数の検証ツール,エージェントフレームワーク,LLMバックエンドで,既存手法を上回る性能を示した。
二重教師による情報ボトルネック蒸留を用いた敵対的攻撃に対するロバスト性/精度のトレードオフ改善 [cs.LG]目的:敵対的攻撃に対するロバスト性とクリーンデータに対する精度とのトレードオフ改善
- 深層ニューラルネットワークは機械学習で成功しているが,敵対的攻撃に脆弱であるという課題がある。
- 既存の対策は,クリーンデータに対する精度を低下させながら,ロバスト性を向上させている。
- クリーン教師モデルを追加し,精度低下を抑制しつつロバスト性を維持する。
- 提案手法は,CIFAR-10およびCIFAR-100データセットにおいて,オリジナルIBDと比較してクリーンデータに対する分類精度を向上させた。
- 敵対的サンプルに対する精度は同程度に維持され,最新手法B-MTARDと競合する性能を示した。
- 特に,クリーン精度とロバスト精度間の調和平均において優れた結果が得られた。
リクエスト指向コンピューティング共有による効率的な大規模レコメンデーション [cs.LG, cs.AI, cs.IR]目的:大規模レコメンデーションにおける効率的な計算共有手法
- レコメンデーションシステムは,ユーザー体験向上のために不可欠であり,その性能がビジネス成果に大きく影響する。
- モデルの規模拡大にはコスト制約があり,予測精度と運用コストのバランスが課題となっている。
- リクエスト単位での計算共有により,推論効率を向上させ,予測精度を維持・改善すること。
- ROCSは,リクエストと候補アイテムの特徴を分離し,候補アイテムに依存しない表現を効率的に計算することで,推論効率を向上させる。
- パブリックベンチマークにおいて,ROCSは様々なレコメンデーションモデルで品質と効率のトレードオフを改善した。
- 実運用環境では,ROCSは検索モデルにおいてQPSを最大3倍に向上させ,短尺動画ランキングモデルではLogLossを0.5%改善しつつQPSを50%増加させた。
大規模ビジョン言語モデルは視覚的錯覚の真相を明らかにできるか?知覚と推論能力の分析 [cs.CL, cs.AI]目的:視覚的錯覚を利用した大規模ビジョン言語モデルの知覚と推論能力の評価
- 視覚と言語を統合したモデルの認知能力向上は,AI研究の重要な進展である。
- 既存の評価は特定のドメインに偏り,現実世界の複雑な推論能力を測れていない。
- 視覚的錯覚を用いることで,知覚と推論が組み合わさる状況下でのモデルの性能を検証する。
- 構築したIllusionReasoningベンチマークにより,多くの大規模ビジョン言語モデルの推論能力が過大評価されていることが示された。
- 人間の視覚系が現実と異なる解釈をする視覚的錯覚は,モデルの能力を診断する有効なツールとなりうる。
- 本研究は,大規模ビジョン言語モデルの限界と改善の方向性に関する新たな知見を提供する。
ドメイン特化型データ資産発見のための構造化知識基盤 [cs.IR, cs.AI, cs.DB]目的:ドメイン特化型データ資産発見のための構造化知識基盤
- 企業におけるデータ分析の重要性が高まる中,適切なデータ資産の発見が課題となっている。
- 汎用的なRAGでは適切な資産を発見できず,利用状況の知識不足により誤った解釈が生じる。
- 意味的ギャップやスキーマの変化といった問題に対応し,データ資産発見の精度を向上させる。
- 提案手法は,知識グラフを用いた候補ゲートと意図ルーティングにより,トークン数を大幅に削減した。
- エンティティ認識とシナリオ注釈を活用したランキング手法により,データ資産発見のHit@10を大幅に改善した。
- ベンチマークテストの結果,Hit@10は19.1%から96.6%に向上し,知識カバレッジも改善された。
LLMに基づく推薦のための階層的潜在的推論 [cs.IR, cs.AI]目的:LLMに基づく推薦システムにおける潜在的推論の階層構造化
- 近年のLLMの発展は,推薦システムの性能向上に大きく貢献している。意味理解と文脈モデリングを活用できる点が強み。
- 既存の潜在的推論手法は中間状態の生成や検証に重点が置かれ,各層の役割と貢献が明確でない点が課題。
- 本研究は,LLMの各層におけるユーザー嗜好の役割を明確化し,効率的な推論経路を構築することを目的とする。
- 提案手法HiLaRは,時間的情報を活用した階層的なユーザー嗜好表現を構築し,LLMの潜在的推論状態との整合性を高める。
- HiLaRは,最終的な推薦結果のフィードバックに加え,各層の目標尤度変化に基づいて推論プロセスを最適化する。
- Amazonのデータセットを用いた実験により,HiLaRが既存の推薦手法を上回る性能を示すことが確認された。
DAS-PMVC:二重アラインメントと構造強化による部分多視点クラスタリングフレームワーク [cs.LG, cs.CV]目的:部分多視点クラスタリングのフレームワーク
- データ分析において,多様な視点からの情報を統合することで,よりロバストで精度の高い分析が可能となる。
- 異なる視点間のデータ不整合(部分多視点アラインメント問題)が,クラスタリング性能を低下させる。
- 視点構造の一貫性と意味的関連性を活用し,部分多視点アラインメント問題を解決する。
- DAS-PMVCは,アンカーグラフ構造アラインメント,構造強化特徴学習,二重アラインメント戦略の3要素から構成される。
- アンカーポイントの関係に基づき,潜在空間の一貫性を保ったサンプル埋め込み表現を導出し,初期アラインメントを行う。
- 様々なデータセットにおける実験結果は,DAS-PMVCが最先端手法を上回り,その有効性と優位性を示す。
ImageCLEFmedical 2026におけるDS@GT ARC: 概念検出のためのアーキテクチャ多様性と,医療画像解析におけるキャプション予測のための基礎モデルのスケーリング [cs.CV, cs.IR, cs.LG]目的:医療画像に対する概念検出とキャプション予測の性能向上
- 医療画像解析は,疾患診断や治療計画において不可欠な役割を担うため,その精度向上が重要である。
- 医療画像に含まれる概念の自動検出や自然言語による説明生成は依然として困難な課題である。
- 多様なアーキテクチャとモデル規模のスケーリングを通じて,医療画像解析の性能を最大限に引き出すことを目指す。
- 概念検出タスクにおいて,ConvNeXt-V2,BiomedCLIP,DenseNet-169のアンサンブルがF1スコア0.5790で1位となった。
- BiomedCLIP埋め込みを用いた訓練不要なKNN検索パイプラインは,アンサンブルと同等の性能を低いコストで実現した。
- キャプション予測タスクでは,Gemma-3 27Bモデルが0.3571で3位となり,モデル規模と学習コストの多様性を示した。
身元分離・幾何形状保存型顔蒸留によるプライベート顔認識学習データセットの公開 [cs.CV, cs.AI]目的:プライベート顔認識学習データセットのプライバシー保護と,実用性の維持
- 顔認識技術は,セキュリティや利便性向上に不可欠。学習データセットの重要性は高い。
- 学習データセット公開は身元情報漏洩リスクを伴う。保護手法の精度向上が課題。
- 身元と認識用特徴を分離し,プライバシーと実用性の両立を目指す。
- 提案手法「Private Face Distillation」は,身元情報の分離と幾何形状の維持を両立。
- IJB-C評価において,ベースラインと比較して認識率を3.94%向上。身元特定リスクも低減。
- プライベート顔認識学習データセット公開において,身元分離と代理ID幾何形状の保持が重要。
勾配不要タスク条件付き検索によるオンデバイスにおける文脈学習 [cs.CL, cs.IR, cs.LG]目的:オンデバイス文脈学習のためのタスク条件付き検索手法
- デバイス上での効率的な機械学習が求められており,事前計算による文脈の活用が重要である。
- 限られた計算資源とメモリ容量下で,タスク固有の情報に基づいた効果的な検索が課題である。
- 勾配計算を必要とせず,効率的な検索基盤を構築し,タスクに応じた文脈を学習する。
- 提案手法CoRAは,凍結されたエンコーダをタスク条件付き検索器に変換し,限られたリソース下で効果的な検索を実現する。
- 出力由来の条件付け空間を構築し,候補入力表現をその空間に整列させることで,補完的なエンコーダ層を選択する。
- 実験結果から,CoRAはリトリバーの微調整やバックプロパゲーションなしに,Raspberry Pi 5を含む多様な環境で有効であることが示された。
小さく訓練し,大きく展開する:幾何学的再正規化によるゼロショットGNN転移 [cs.LG, cs.AI, physics.soc-ph]目的:グラフニューラルネットワークの転移可能性
- 大規模グラフにおけるGNNの活用は重要だが,インフラ依存性やスケーラビリティが課題である。
- 大規模グラフでは,訓練コストが高く,再訓練が必要となる場合が多い。
- 幾何学的再正規化によりグラフを粗視化し,小規模グラフで訓練したモデルを大規模グラフへ転移させる。
- 幾何学的再正規化で粗視化したグラフで訓練することで,大規模グラフでの予測性能を維持しつつ,訓練コストを大幅に削減できる。
- 学習された表現や予測軌跡は,スケール間で整合性が保たれていることが示された。
- ネットワークサイズよりも構造的類似性がGNNの転移可能性を決定する可能性が示唆され,スケール不変なグラフアーキテクチャへの道が開かれる。
VocalRender:楽曲制作のためのスコアネイティブ歌声合成 [cs.SD, cs.AI]目的:楽曲制作における歌声合成の実現
- 歌声合成技術は,音楽制作やエンターテインメント分野において重要な役割を担う。
- 既存の歌声合成システムは,楽曲制作のワークフローとの親和性に課題がある。
- 楽曲のスコア情報を直接利用し,より自然で制御可能な歌声合成を目指す。
- VocalRenderは,歌詞,音程,音符の長さ,テンポから直接歌声を合成するスコアネイティブシステムである。
- Interleaved lyric--note表現と自己回帰拡散モデルにより,明示的な音長予測なしに連続的な音響潜在表現を生成する。
- 2,300時間の歌唱データで学習し,高い明瞭度,メロディ制御,話者類似性を実現。自然度CMOSで最先端のベースラインを0.42ポイント上回った。
最良の教師を超えて:推論解法の多様体拡大と圧縮 [cs.LG]目的:推論解法の多様体の拡大と圧縮による,より強力な学生モデルの獲得
- 強化学習は,複雑なタスクの自動化において重要な役割を果たすが,その性能向上には課題が残る。
- 強化学習で訓練されたモデルは,有効な解法のサブセットに偏りやすく,汎化性能が限定される場合がある。
- 複数の教師モデルを統合し,その多様性を活用することで,よりロバストで高性能な学生モデルを育成すること。
- 本研究では,教師モデルの構築と知識蒸留を組み合わせた「拡大と圧縮」フレームワークを提案し,数学,コード生成,指示応答の各タスクで優れた結果を得た。
- 提案手法は,単一の最良教師モデルを凌駕し,Qwen3-1.7Bモデルにおいて,それぞれ2.0%,8.3%,6.9%の性能向上を達成した。
- これにより,単に優れた教師を選択するのではなく,補完的な教師グループを意図的に構築し,圧縮することが,より強力な学生モデルを生み出す有効な戦略であることが示された。
RIPPLE:位相を生成する,復元しない [cs.CL, cs.LG, cs.SD]目的:多チャンネルの位相生成
- 音響や地震学において,チャンネル間位相関係は信号の物理的特性を表現する上で重要である。
- 既存手法では位相を独立に復元するため,チャンネル間の位相関係が失われることがある。
- チャンネル間位相関係を維持しつつ,より高精度な位相生成を目指す。
- RIPPLEはGriffin-Lim法を位相の事前分布と捉え,チャンネル間構造を保持しながら位相を洗練させる。
- 環境音響伝達実験と地震波形変換実験の両方で,既存の復元パイプラインを上回る性能を示した。
- 地震波形変換実験では,S波偏波誤差を大幅に低減することに成功した。
