arXiv雑要約
AI - 2026/08/03 公開
大規模言語モデルと記号的推論の組み合わせによる,説明可能な知識ベースを用いたマルチロボットの時系列計画 [cs.CE, physics.comp-ph, eess.SY, cs.SY, cs.AI, cs.HC, cs.RO]目的:マルチロボットタスク計画の生成と実行
- ロボットの自律的なタスク実行は,人手不足解消や危険な作業の代替に不可欠である。
- 複雑なタスクの計画は,知識ベースの構築と維持に多大な労力を要する。
- 言語モデルを活用し,知識ベース構築の自動化と計画精度の向上を目指す。
- 大規模言語モデルで構築された知識ベースは,手動によるモデリングの労力を大幅に削減できることが示された。
- 生成された知識ベースは,一貫性チェックと修正により,モデルの誤りを検出・修復できる。
- 記号的計画とスケジュール最適化を組み合わせることで,実行可能な行動ツリーを生成可能である。
ホモロジー安定性とグローバル構造保存のための次元削減 [cs.LG, cs.AI, cs.MS]目的:ホモロジー安定性とグローバル構造の保存
- データ解析において,高次元データの可視化と構造理解は重要な課題である。
- 従来の次元削減手法では,グローバルな構造やホモロジー的特徴の保存が困難である。
- グローバル構造とホモロジー特徴を保存しつつ,実用的な次元削減手法を開発すること。
- 提案手法DiReは,UMAPやtSNEとは異なるトレードオフを提供する。
- DiReは,局所的な可視化よりも,大規模な幾何学構造の定量化を可能とする埋め込みフレームワークである。
- ベッチ曲線や持続ホモロジー図を用いることで,DiReはグローバル構造の解析を支援する。
人間の個別運動シグネチャの再現:反復運動に対するデータ駆動的アプローチ [cs.GR, cs.AI, cs.LG, cs.SY, eess.SY]目的:人間の個別運動シグネチャの再現
- 拡張現実やロボットの活用拡大に伴い,人間らしい自然な運動モデルの必要性が高まっている。
- 既存モデルは人間の運動行動を単純化し,効果的な認知アーキテクチャ開発の阻害要因となっている。
- 個人の特徴的な運動パターンを捉え,より人間らしい運動生成を目指す。
- 運動振幅が,既存の研究に加え,個人の運動シグネチャの特徴づけに有用であることが示された。
- LSTMニューラルネットワークを用いたデータ駆動的なアプローチにより,個人の特徴を捉えた一次元運動生成が可能となった。
- 実験結果から,本モデルは学習対象者の速度分布と振幅包絡線を再現し,他の個人とは区別できることが示された。
協調的な分散推定とベイジアンニューラルネットワークによる,偶然的不確かさと認識論的不確かさの分離 [cs.CG, math.AT, cs.RO, cs.LG, stat.ML]目的:偶然的不確かさと認識論的不確かさの分離
- 現実世界のデータには不確かさが内在し,その理解と定量化は様々な応用において重要である。
- 従来の分散推定ネットワークは過学習を起こしやすく,ベイジアンニューラルネットワークは学習が困難である。
- 分散推定ネットワークとベイジアンニューラルネットワークを協調的に学習することで,両方の不確かさを分離し,平均推定精度を向上させる。
- 提案手法は,偶然的不確かさと認識論的不確かさを分離しつつ,平均推定の性能を改善する。
- 様々なデータセットで有効性とスケーラビリティが実証された。
- 特に,偶然的不確かさが既知の時系列異分散回帰データセットで効果が確認された。
モーメントカーネル:回転と反射に対する不変性を深層畳み込みネットワークに組み込むためのシンプルでスケーラブルなアプローチ [cs.CV, cs.LG]目的:回転および反射に対する不変性を有する畳み込みカーネルの表現
- 画像認識において畳み込みニューラルネットワークの成功は,並進不変性に大きく起因する。回転や反射といった他の対称性も重要である。
- 回転や反射に対する不変性を扱う手法は,特に3次元において実装が複雑で,専門的な知識やライブラリを必要とする場合が多い。
- 標準的な畳み込みモジュールを用いて実装可能な,シンプルでスケーラブルなカーネル表現を提案し,不変性の問題を解決する。
- モーメントカーネルは,テンソル値特徴フィールド間の直交変換に対して不変な畳み込みカーネルを,座標成分とクロネッカーデルタの積を用いて表現できることを証明した。
- 脳MRIの3次元アフィン変換回帰などの生物医学的タスクにおいて,モーメントカーネルは最悪の場合の向きの一貫性を改善し,3次元での学習を可能にした。
- 本手法は,グループ畳み込みに必要な向きチャネルの拡張を回避し,グリッドを保持する回転および反射に対して正確な一貫性を提供する。
StaQ:離散行動方策ミラー降下法における有限メモリアプローチ [cs.LG, cs.AI]目的:離散行動空間における有限メモリを用いた方策ミラー降下法のアルゴリズム
- 強化学習において,方策の改善と安定化が重要な課題であり,汎化性能を高める必要がある。
- 従来のミラー降下法は理論的に優れているものの,過去のQ関数を全て保存する必要があり,計算量が膨大となる。
- 過去のQ関数を有限個のみ保存することで,計算量を削減しつつ,ミラー降下法の利点を維持することを目指す。
- 提案手法StaQでは,過去M個のQ関数のみをメモリに保持することで,近似誤差を抑制しつつ,理論的な性能を保証する。
- MinAtar等のベンチマークテストにより,Mの増加が性能向上に寄与することが実証された。
- ある閾値を超えると性能は完全なミラー降下法に近づき,無限の過去Q関数の総和は必ずしも必要ではないことが示唆された。
ASVSim:水上車両研究のための高忠実度シミュレーションフレームワーク [cs.RO, cs.LG]目的:水上自律型車両の研究開発・評価のためのシミュレーションフレームワーク
- 欧州のグリーンディール推進により,内陸水路輸送への関心が高まっている
- 水上自律型車両の研究開発に必要な,高忠実度なオープンソースのシミュレーション環境が不足している
- 内陸および港湾環境における水上自律型車両の研究を支援し,データセットの生成を可能にすること
- ASVSimは,水上車両の運動シミュレーションと,レーダーやカメラなどの海洋センサーシミュレーションを組み合わせている
- これにより,コンピュータビジョンモデルや強化学習エージェントの学習用データセットの生成が可能となる
- 水路セグメンテーションと自律航行の実験を通じて,シミュレーターの性能が実証された
ホワイトボックス型深層ワイヤレスセンシングへ向けて [cs.LG, cs.AI]目的:深層ワイヤレスセンシングの物理的解釈可能性と汎化性能の向上
- 無線センシングは,非接触で多様な情報を取得可能であり,ヘルスケアやセキュリティ等に応用が期待される分野である。
- 既存の深層学習モデルはブラックボックス化しており,物理的根拠がないため,信頼性や実用環境での性能が課題となっている。
- 物理モデルに基づいた解釈可能な深層学習モデルを構築し,無線センシングの性能と信頼性を両立させる。
- 提案手法RF-CRATEは,複素数値Transformerアーキテクチャを採用し,物理的な解釈可能性と高い性能を両立した。
- 実データセットを用いた実験により,RF-CRATEは既存のブラックボックスモデルと同等の性能を発揮しつつ,分類精度で3.39%の向上,回帰誤差で10.34%の減少を達成した。
- 本研究は,数学的根拠に基づいたモデルが無線センシングにおいて有効であることを示し,物理的に整合性の取れたホワイトボックス型システムの実現に貢献する。
乱流チャネル流れの超解像のためのパッチベース3D変分オートエンコーダ [cs.LG, cs.AI, physics.flu-dyn]目的:乱流チャネル流れの超解像技術の開発
- 壁面乱流は工学的に重要であり,高精度な数値シミュレーションが求められる。
- 直接数値シミュレーションは計算コストが高く,大規模なシミュレーションが困難である。
- 計算コストを抑えつつ,高精度な流れ場の再構成を可能にすることを目指す。
- 提案手法は,DNSと比較して平均絶対誤差0.055を達成し,補間法よりも優れた性能を示した。
- フーリエ振幅スペクトル空間において,平均絶対誤差を約3分の1に削減することに成功した。
- 粗解像な有限要素シミュレーションに適用することで,入力に存在しないスペクトル成分を再構成可能となった。
RePaCA:推論型大規模言語モデルを用いた静的自動パッチ正当性評価 [cs.SE, cs.AI]目的:自動パッチ正当性評価の精度向上
- ソフトウェアの品質維持に不可欠であり,バグ修正の自動化による開発効率向上が期待される。
- 既存の自動パッチ生成ツールは,テストケースを満たすものの根本原因を解決しない過学習パッチを生成しやすい。
- 大規模言語モデルを活用し,静的解析による過学習パッチの検出精度を向上させる。
- 提案手法RePaCAは,大規模言語モデルにバグのあるコードと修正後のコードを提示し,コードの違いと修正理由を推論させる。
- 強化学習によるファインチューニングにより,APCAタスクに特化した推論能力を強化し,高い正当性評価精度を達成した。
- Defects4Jデータセットを用いた評価で,83.1%の精度と84.8%のF1スコアを記録し,既存手法を上回る性能を示した。
「私の庭にはいらない」:LLMがホームレスに対するオンラインおよびオフラインの社会的不偏見を明らかにする [cs.CY, cs.AI, cs.CL]目的:ホームレスに対する社会的不偏見の検出と追跡
- ホームレス問題は世界中で深刻であり,解決には社会全体の理解と協力が不可欠である。
- ホームレスに対する社会的不偏見は,政策決定や公共の認識に悪影響を及ぼす大きな障壁となっている。
- オンラインメディアとオフラインの言説から社会的不偏見を特定し,偏見の監視を支援する。
- 本研究では,Reddit,X,ニュース記事,市議会記録など,多様なデータソースから構成されるホームレスに関する偏見コーパスを構築した。
- LLMの性能評価の結果,NIMBY(私の庭にはいらない)に関する過剰なタグ付けと,事実に関する記述の検出不足が課題として明らかになった。
- 誤りの分析から,LLMが住宅関連の語彙や疑問形を反対意見の代理として扱う傾向があることが示された。
ゲームをしようか? オープンエンドなウォーゲームのための言語モデル [cs.RO, cs.AI]目的:オープンエンドなウォーゲームにおける言語モデルの制御プロファイルの分類
- AIを用いたシミュレーションは,戦略的意思決定や行動分析において重要な役割を担う。
- 言語モデルがウォーゲームでどの程度創造的な制御権限を持つか明確にされていない。
- 言語モデルの役割(行動選択,結果決定,または両方)を明確にすることで,シミュレーションの精度向上を目指す。
- 223件の論文を調査した結果,言語モデルがプレイヤーの行動と結果の両方を制御している研究はわずか9%であった。
- シミュレーションの忠実度は,エージェントの行動の妥当性だけでなく,言語モデルが信頼できる裁定者または世界モデルとして機能できるかどうかに依存する。
- 言語モデルの出力結果を社会シミュレーションとして扱う前に,モデルが行動と結果に対してどの程度の制御権限を持つかを知る必要がある。
共有ネットワークによる適応的ポリシーバックボーン [cs.LG, cs.AI]目的:強化学習における効率的な適応
- 強化学習は様々な分野で成果を上げているが,実用化には課題が多い。
- 事前データや参照ポリシーの有効性は,タスクの不一致により低下する。
- 分布外タスクへの適応能力を向上させること。
- 提案手法であるAPBは,軽量な線形層を挿入することで,効率的なパラメータ調整を実現した。
- APBは,標準的な強化学習よりもサンプル効率を向上させ,分布外タスクに適応した。
- 既存のメタ強化学習のベースラインが失敗するタスクでもAPBは有効であった。
高速特徴場(F³):イベントの予測的表現 [cs.CV, cs.AI, cs.LG, cs.RO]目的:イベントベースカメラからのデータ表現
- 従来のカメラでは困難な高速な動体認識への応用が期待される分野である。
- イベントベースカメラのデータは疎であり,ノイズに弱く,処理が難しいという課題がある。
- 過去のイベントから未来のイベントを予測することで,効率的かつロバストなデータ表現を構築する。
- 提案手法F³は,シーン構造と動きの情報を保持しつつ,イベントデータの疎性を活用している。
- マルチ解像度ハッシュエンコーディングとディープセットのアイデアにより,HDで120Hz,VGAで440Hzの高速処理を実現した。
- 光学フロー推定,セマンティックセグメンテーション,単眼距離推定において,最先端の性能を達成した。
ハミルトニアン駆動によるニューラルネットワークの幾何学的構築:対数正規分布,金融不正検出,およびネットワークセキュリティへの応用 [cs.LG]目的:ニューラルネットワークの幾何学的構築手法
- 近年,機械学習における幾何学的アプローチの重要性が増しており,その理論的基盤の確立が求められている。
- 従来のニューラルネットワークは,その内部構造の解釈可能性が低く,汎化性能の向上が課題となっている。
- 統計多様体上にニューラルネットワークを構築することで,幾何学的な制約を利用した効率的な学習を目指す。
- 対数正規分布を用いた統計多様体上でのニューラルネットワーク構築法を提案し,そのアーキテクチャを Hamiltonian 系によって定式化した。
- シナプス重み行列の回転成分は特殊ユニタリ群 $SU(1,1)$ の作用から,活性化関数は系のシンプレクティック構造から導出される。
- 金融不正検出やネットワークセキュリティへの応用可能性を示唆し,幾何学的アプローチによるニューラルネットワークの新たな方向性を示した。
パリ: 分散型学習済みオープンウェイト拡散モデル [cs.DL, cs.GR, cs.DC, cs.LG]目的:分散型計算による事前学習拡散モデルの開発
- 拡散モデルは画像生成の分野で急速に進歩しており,その応用範囲は広い。
- 大規模モデルの学習には,高価な集中型インフラストラクチャが必要となる。
- 分散型学習によって,よりアクセスしやすい大規模モデルの学習を目指す。
- パリは,集中型インフラなしで高品質な画像生成が可能であることを示した。
- 専門家モデルを独立して学習させ,軽量なルーターで適切な専門家を選択する。
- パリは,従来の分散型モデルよりも少ないデータと計算量で同等の品質を達成した。
フーリエ回帰モデルにおけるフィッシャー情報,学習,およびバイアスの考察 [cs.LG, cond-mat.dis-nn, physics.data-an, quant-ph]目的:量子ニューラルネットワークの学習および予測性能予測におけるフィッシャー情報行列に基づく評価指標の有効性
- 量子機械学習への関心の高まりに伴い,量子ニューラルネットワークの評価が重要になっている。
- モデルの学習と性能に影響を与える有効次元とバイアスの関係性が明確に理解されていない。
- 有効次元とバイアスがモデルの学習と性能にどのように影響するかを解明すること。
- バイアスがない,つまり関数に対して無関心なモデルの場合,高い有効次元はより良い学習可能性と性能をもたらす。
- 関数を学習する際にバイアスがあるモデルの場合,低い有効次元は学習において有益である可能性が高い。
- フーリエモデルのフィッシャー情報行列の解析的な表現を導出し,モデルの有効次元を制御する特徴を特定した。
償却サンプリングのための強化学習型逐次モンテカルロ法 [cs.LG, stat.ML]目的:非正規化密度関数で定義される分布からのサンプリング
- 確率モデルの推論は,機械学習や統計物理など広範な分野で重要である。
- 高次元分布からの効率的なサンプリングは依然として困難な課題である。
- 逐次モンテカルロ法と強化学習を組み合わせることで,サンプリング効率と安定性を向上させる。
- 本研究では,最大エントロピー強化学習(MaxEnt RL)で訓練されたニューラル逐次サンプラーと逐次モンテカルロ(SMC)の関連性を示した。
- SMCからのサンプルを振る舞い方策として利用するオフポリシー強化学習訓練手順を導入し,提案カーネルとツイスト関数の同時学習を実現した。
- 合成多峰性ターゲットやアラニンジペプチドのボルツマン分布において,真の分布の近似精度と訓練の安定性の向上を実証した。
胎児超音波解釈のための認識論的認識型ビジョン言語基盤モデル [cs.CV, cs.AI, cs.IR, cs.MM]目的:胎児超音波画像に関するレポート生成および診断
- 周産期医療における胎児の健康状態の早期発見と適切な管理は,母子双方の健康を確保する上で不可欠である。
- 既存の医用画像処理モデルは,成人の画像に最適化されており,多様な画像や多角的視点が必要な胎児超音波画像に対しては性能が低い。
- 胎児超音波画像特有の課題を克服し,より正確かつ効率的な診断支援を実現すること。
- 本研究で開発したFetalMindは,既存のモデルと比較して全妊娠段階において優れた性能を示し,平均で14%の向上を達成した。
- 特に重篤な状態の診断精度は61.2%高く,効率性,安定性,拡張性にも優れている。
- 臨床ワークフローを考慮したSalient Epistemic Disentanglement(SED)により,疾患と視点の関連性を解きほぐし,臨床的に妥当な推論を実現した。
拡散モデルにおけるその場での自動誘導:自己修正の誘発 [cs.LG]目的:拡散モデルにおける高品質,多様性,プロンプト適合性の高い画像生成
- 画像生成AIの発展は,芸術,デザイン,エンターテインメントなど幅広い分野に革新をもたらす。
- 従来の誘導方法では,品質と多様性の両立が難しく,調整が煩雑である。
- モデル自身の能力を活用し,外部モデルなしで効率的な自己修正を実現すること。
- 提案手法であるIn-situ Autoguidanceは,追加のモデルを必要とせず,モデル自身から誘導を生成する。
- この手法は,確率的なフォワードパスを通じて,その場で劣った予測を生成し,自己修正の形として誘導を行う。
- 実験結果から,本手法が費用対効果の高い誘導の強力な基盤となり,外部モデルなしで自己誘導の利点が得られることが示された。
単調かつ分離可能な集合関数:特徴づけとニューラルモデル [cs.LG, cs.AI]目的:集合包含問題に対する応用を動機とし,集合の自然な部分順序を保存する集合からベクトルへの関数設計
- 集合間の包含関係を扱う問題は,情報検索や機械学習など幅広い分野で重要である。
- 既存の集合モデルでは,集合包含関係を明示的に考慮していないため,性能が制限される場合がある。
- 集合包含関係を保存する関数を設計し,集合間の包含関係を考慮したより高性能なモデルを構築すること。
- 単調かつ分離可能な(MAS)集合関数のベクトル次元数の上限と下限を,多重集合の基数と基礎集合のサイズを用いて導出した。
- 無限の基礎集合の場合,MAS関数は存在しないが,「弱MAS」と呼ばれる緩和された性質を持つモデルを提案し,その安定性を示した。
- MAS関数を利用して,単調な構造を持つユニバーサルモデルを構築でき,すべての単調集合関数を近似できることを示した。
MaNGA銀河における速度分散モデリングのための新しいXAI強化量子敵対的ネットワーク [eess.SY, cs.SY, eess.SP, cs.LG, cs.CR]目的:MaNGA銀河の速度分散モデリングにおける量子敵対的ネットワークの性能向上
- 銀河の形成と進化の理解には,速度分散が重要な役割を果たすため,その正確なモデリングが不可欠である。
- 現在の量子機械学習は,予測精度,頑健性,解釈可能性のバランスを取るのが難しいという課題がある。
- 量子機械学習と古典的なアーキテクチャを組み合わせることで,軽量かつ高性能で解釈可能な予測モデルを開発する。
- 提案モデル(Vanillaモデル)は,RMSE=0.27,MSE=0.071,MAE=0.21,R^2=0.59を達成し,回帰指標において敵対的モデルと比較して一貫した性能を示した。
- 敵対的評価者がQNNを導くことで,予測精度とモデルの説明可能性の両方を最適化できることが示された。
- 本研究は,量子機械学習の適用範囲を拡大し,既存の限界を超える可能性を示唆している。
第二最適サービスへの対価:不正なLLMプロバイダに対するゲーム理論的アプローチ [cs.GT, cs.AI]目的:不正なLLMプロバイダに対するインセンティブ設計
- LLMのAPI利用が普及する中で,プロバイダによる不正行為が深刻な問題となっている。
- プロバイダは,モデルの性能を偽ったり,無意味なトークンを付加して課金を増やしたりする可能性がある。
- ユーザーがプロバイダの戦略的行動を考慮した上で,最適なメカニズムを設計することを目的とする。
- 提案メカニズムは,近似的なインセンティブ整合性を持ち,ユーザーの効用を保証することが示された。
- 連続的な戦略空間において,近似比$O(T^{1-\epsilon}\log T)$を達成するメカニズムの存在が証明された。
- 既存のメカニズムと比較して,提案メカニズムの性能が非劣であること,あるいはそれを上回ることが示された。
ハイパーパラメータ最適化のためのベイズ最適化における動的事前分布 [cs.LG]目的:ハイパーパラメータ最適化における動的な事前分布の活用
- 機械学習モデルの性能はハイパーパラメータに大きく依存するため,効率的な最適化が重要である。
- 既存のベイズ最適化手法は初期設定時の知識に偏り,最適化過程で専門家の知見を反映させることが困難である。
- 最適化過程でユーザーが継続的に介入し,事前知識を組み込むことで,より効率的なハイパーパラメータ探索を目指す。
- DynaBOは,ユーザーが提供する事前分布を減衰重みで組み込むことで,最適化過程を継続的に制御可能にする。
- 誤った事前分布の影響を抑制するサロゲートモデルベースの安全機構を導入し,頑健性を向上させている。
- 理論的な収束性,欺瞞的な事前分布への耐性,そして情報量の多い事前分布を用いた際の加速的な収束を証明した。
部分空間回転アルゴリズムに着想を得た正則化によるロバストな双方向連想記憶 [cs.LG, cs.AI]目的:双方向連想記憶のロバスト性向上
- 連想記憶は,人間の記憶メカニズムを模倣した強力な情報処理モデルである。
- 既存の双方向連想記憶は,ノイズや敵対的攻撃に弱く,実用上の課題がある。
- ノイズや攻撃に対する耐性を高めた,よりロバストな連想記憶の実現を目指す。
- 提案手法である双方向部分空間回転アルゴリズム(B-SRA)は,従来の学習アルゴリズムよりもロバスト性と収束性を大幅に改善する。
- 直交性のある重み行列(OWM)と勾配パターンアライメント(GPA)が,連想記憶のロバスト性を高める上で重要であることが明らかになった。
- OWMとGPAを統合したSAME構成が,最も高い耐性を示し,実用的な連想記憶の構築に貢献する。
埋め込み型汎用予測知能:マルチエージェント学習の一貫性のあるフレームワーク [cs.MA, cs.DB, cs.AI]目的:マルチエージェント学習における一貫性のあるフレームワーク
- 複雑な環境下での学習には,他エージェントの行動予測が不可欠である。
- 従来の強化学習では,環境の非定常性やエージェント間の相互作用が考慮されていない。
- 自己予測を通じて,エージェントが他者の行動を正確に予測し,協力関係を構築すること。
- 本研究では,自己予測を中心とした新しい数学的フレームワークを提示した。
- このフレームワークは,マルチエージェント環境において,他のエージェントの推論と協力関係を促進する。
- 理想的な埋め込み型エージェントは,無限次の心の理論を形成し,相互予測の一貫性を達成しうる。
適応型検証器を用いたマルチモーダル強化学習 [cs.AI]目的:AIエージェントのためのマルチモーダル強化学習における報酬最適化手法
- AIエージェントの能力向上には,より高度な推論と学習が不可欠であり,マルチモーダル強化学習が注目されている。
- 従来のマルチモーダル強化学習では,最終的な正答のみに基づく疎な報酬しか利用できず,学習の効率が低いという課題があった。
- 推論過程におけるより詳細なガイダンスを提供し,AIエージェントの学習効率と性能を向上させることを目指す。
- 本研究では,教師モデルとルールベースの評価関数を組み合わせた報酬エージェントArgosを導入し,最終応答の正確性,参照エンティティと行動の空間的・時間的局在性,および推論プロセスの品質を同時に評価する。
- SFTデータキュレーションとRLトレーニングの両方でArgosを活用することで,空間推論,視覚的幻覚,ロボティクスなどの複数のエージェントタスクにおいて最先端の結果を達成した。
- Argosは,報酬ハッキングを抑制し,オンライン検証なしにはRL中にAIエージェントが根拠のない解に陥ることを防ぐ上で重要な役割を果たすことが示された。
AREA3D:統一的なフィードフォワード3D認識とビジョン-言語ガイダンスによるアクティブ再構成エージェント [cs.CV, cs.AI, cs.RO]目的:アクティブ3D再構成における再構成精度向上
- 3次元環境の理解は,ロボティクスや拡張現実など幅広い分野で不可欠である。
- 既存手法は手動で設計されたヒューリスティックに依存し,冗長な観測が生じやすい。
- より効率的で正確な3次元再構成を実現するための新しいアプローチを確立すること。
- AREA3Dは,フィードフォワード3D再構成モデルとビジョン-言語ガイダンスを活用する。
- 不確実性モデリングと再構成器を分離し,高精度な不確実性推定を可能にした。
- ビジョン-言語モデルによる高レベルな意味的ガイダンスにより,視覚的に多様な観点を選択できる。
概念ドリフト下における機械学習モデルの学習とデプロイのための最適リソース配分 [cs.LG, cs.NI]目的:概念ドリフトと限られた予算下における機械学習モデルの学習とデプロイのリソース配分
- 機械学習は様々な分野で活用が広がっており,その性能維持には継続的なモデル更新が不可欠である。
- リソース制約下で,モデルの陳腐化(概念ドリフト)に対応した効率的な学習・デプロイ方法が課題である。
- 概念ドリフトの特性を考慮し,コスト効率の良いモデル管理手法を確立することを目的とする。
- 概念ドリフトの期間の老化特性が,最適な学習方針に大きく影響することが示された。
- 平均残余寿命が減少する分布(DMRL)下では最適な学習方針が導き出され,増加する分布(IMRL)下では直感的なヒューリスティック手法が劣ることが証明された。
- 通信制約下でのモデルデプロイにおいて,準凸性を示す最適化問題を提案し,ほぼ最適なクライアント側の性能を達成するランダム化スケジューリング戦略を提案した。
レジェンドル力学のシンプレクティック表現 [cs.LG]目的:レジェンドル力学のシンプレクティック表現
- 現代の学習システムはデータ表現を扱うが,その表現が物理的構造をどのように符号化するかは不明な点が多い。
- 既存手法では,力学または損失関数を通して幾何学的構造を課すが,表現自体の保存則への適合性は未検討である。
- 表現レベルでのシンプレクティック保存則の実現可能性を探求し,レジェンドル双対性に基づく力学を提案する。
- レジェンドル双対性を満たす過程が,シンプレクティック変換の標準形として実現可能であることを数学的に証明した。
- この標準形を用いて,レジェンドルグラフを保存するハミルトニアンシンプレクティックリザバを構築し,その有効性を示した。
- 数値実験により,レジェンドル保存ハミルトニアンリザバが,標準的なリザバやシンプレクティックリザバと明確に区別できることを確認した。
潜在的彫刻によるゼロショット汎化:分布外異常検知への多様体学習アプローチ [cs.LG, cs.CR]目的:ゼロショット環境下での異常検知性能向上
- サイバー攻撃は巧妙化の一途をたどっており,機械学習による検知技術の重要性が増している。
- 既存の異常検知システムは,学習データに偏りやすく,未知の攻撃に対する汎化性能が課題である。
- 学習データに存在しない攻撃パターンを検知するためのロバストな手法を開発する。
- 提案手法Latent Sculptingは,潜在表現を構造化することで,未知の攻撃に対するロバスト性を向上させる。
- CIC-IDS-2017ベンチマークにおいて,ゼロショット評価でF1スコア0.867,AUROC 0.913を達成した。
- 特に,潜入攻撃や低容量DoS攻撃など,従来の手法では困難な分布シフトに対しても高い検知性能を示した。
WebCoderBench:包括的かつ解釈可能な評価指標を用いたWebアプリケーション生成のベンチマーク [cs.RO, cs.SE, cs.AI]目的:LLMによるWebアプリケーション生成の評価基準
- Webアプリケーションは,LLMの能力を示す重要な場であり,商業的価値も高い。
- 現実的な要件,汎用的な評価指標,解釈可能な結果が課題となっていた。
- 現実のユーザー要件に基づく,汎用性と解釈可能性を備えたベンチマークを構築する。
- WebCoderBenchは,1572の実際のユーザー要件を含む,初のリアルワールドベンチマークである。
- 9つの観点に基づき,ルールベースとLLMを活用した24の評価指標を提供し,客観的な評価を実現した。
- 実験の結果,どのモデルも全ての評価指標で優位性を示さず,ターゲットを絞ったLLMの改善の機会があることが示唆された。
M3MAD-Bench:ドメインとモダリティにわたるマルチエージェント討論の多次元評価 [cs.AI]目的:マルチエージェント討論(MAD)手法の評価基準
- 複雑な推論を支援するMADは,エージェント間の協調により回答品質向上に貢献する。
- 既存研究では,評価設定が統一されておらず,テキストのみに偏っている。
- マルチドメイン・マルチモーダル環境におけるMADの有効性を客観的に評価する。
- M3MAD-Benchは,知識,数学,医学など5分野13データセットを網羅する標準化された評価基盤である。
- 実験の結果,協調型MAD手法は,特に推論とマルチモーダルタスクにおいて,敵対型より頑健であることが示された。
- ただし,協調型は効率の面でコストがかかる傾向があり,実用的なMAD戦略設計の指針となる。
GPUアクセラレーションによるANNS:速度向上のための量子化,変化への対応 [cs.DB, cs.AI]目的:近似最近傍探索の高速化と更新可能性の向上
- 機械学習や情報検索において,大規模データセットからの高速な類似検索は不可欠である。
- 既存のGPUベースANNSは,データの更新やメモリ帯域幅の制約,計算とメモリの非効率な連携が課題である。
- 高速なデータ更新,効率的な量子化,そして計算とメモリの最適化により,これらの課題を解決することを目指す。
- Jasperは,既存のCAGRAと比較して最大1.84倍のクエリ処理能力を実現した。
- メモリ使用量を最大8倍削減するRaBitQ量子化をGPU向けに効率的に実装し,ランダムアクセスによるペナルティを回避した。
- インデックス構築速度はCAGRAの平均7倍であり,更新可能性も提供することで,実用性を高めた。
GeoRA:強化学習による検証可能な報酬のための幾何学的知識に基づいた低ランク適応 [cs.LG, cs.AI]目的:強化学習による検証可能な報酬(RLVR)における大規模推論モデルの改善
- 大規模言語モデルの性能向上には,強化学習による検証可能な報酬が不可欠である。
- 既存のパラメータ効率の良い手法は,RLVR特有の最適化ダイナミクスに対応できていない。
- RLVRの最適化と幾何学的構造を考慮した効率的な適応手法を開発する。
- GeoRAは,RLVRにおける既存の低ランクベースラインよりも一貫して高い性能を示す。
- 数学,医学,コーディングなどのタスクにおいて,汎化性能と忘却の軽減に優れている。
- 事前学習された構造を保持し,効率的な密な計算を可能にする。
理論的基盤を持つ低コストなハードラベル敵対的攻撃 [cs.LG, cs.CR]目的:ハードラベル敵対的攻撃の効率性と成功率向上
- 機械学習モデルの堅牢性は重要であり,攻撃に対する脆弱性を評価する必要がある。
- 既存のハードラベル攻撃は,初期化や理論的保証が不十分であり,実用性に課題がある。
- 初期化戦略と最適化アルゴリズムを改善し,理論的保証に基づいた攻撃手法を確立する。
- 本研究では,既存の攻撃手法を真の勾配符号の近似として捉える理論的枠組みを構築した。
- ゼロクエリ初期化戦略とパターン駆動型最適化(PDO)アルゴリズムを提案し,高いコサイン類似度と低いクエリ複雑性を実現した。
- CIFAR-10,ImageNet等の実験で,既存手法を凌駕する成功率と効率性,そして防御機構Blacklightの回避を実証した。
知識復元駆動型プロンプト最適化:オープン領域関係性三つ組抽出におけるLLMの潜在能力の解放 [cs.CL, cs.AI]目的:オープン領域関係性三つ組抽出のためのLLMプロンプト最適化手法
- 知識グラフ構築において,事前定義されたスキーマに依存しない知識抽出が重要である。
- LLMによるプロンプト駆動型抽出では,入力の文脈とプロンプトの乖離が課題となる。
- 正解アノテーションなしで,入力文脈に適応したプロンプトを自動的に最適化することを目指す。
- 提案手法KRPOは,抽出された三つ組をテキストに戻し,入力との意味的一貫性を評価することで,アノテーション不要なフィードバックを得る。
- このフィードバックを自然言語による最適化ガイダンスに変換し,プロンプトのバッチ最適化と適応を行う。
- さらに,動的に更新されるスキーマメモリを用いて関係性を標準化するモジュールを導入し,知識グラフの一貫性を向上させる。
反復型RAGが理想的な証拠を上回る時:科学的多段質問応答における診断的研究 [cs.CL, cs.AI, cs.IR]目的:科学的多段質問応答における反復型検索と推論の有効性
- 大規模言語モデルの知識拡張にはRAGが有効だが,その限界と最適な活用法は未解明である。
- 科学分野では,多段推論と疎な異質な証拠の組み合わせが課題となる。
- 反復型RAGが,理想的な証拠を用いたRAGを超える可能性を検証する。
- 反復型RAGは,理想的な証拠(Gold Context)を用いたRAGを安定的に上回り,特に微調整済みのモデルで最大25.6%の改善が見られた。
- 段階的な検索により,終盤の失敗が減少し,コンテキストの過負荷が軽減され,初期仮説のずれが動的に修正される。
- 不完全なホップカバレッジや誤った軌跡,早期停止の誤校正,高い合成失敗率など,残存する課題も明らかになった。
FineInstructions:事前学習規模への合成命令の拡張 [cs.CL, cs.LG]目的:インターネット規模の事前学習文書の知識を,命令と回答のペアの大量の合成データに変換する手順
- 大規模言語モデルの性能向上には,大量のデータが不可欠である。しかし,高品質な教師データは限られている。
- 教師データの不足が,大規模言語モデルの有用性を制限している。命令チューニングのデータが少ないことが課題。
- 合成データを用いて,事前学習段階から命令チューニングを行うことで,この課題を克服することを目指す。
- FineInstructionsを用いて事前学習を行うと,従来の事前学習や他の合成事前学習手法よりも,自由形式の応答品質に関する標準的なベンチマークで優位性を示す。
- 約1800万の命令テンプレートを,インターネット上の大規模なテキストデータと組み合わせることで,大量の合成データを生成する。
- 大規模言語モデルを,ユーザからのプロンプトへの応答という実際の使用状況に近い,命令チューニングのみで事前学習できる。
効率的な短文生成のためのLLMのホログラフィック特性について [cs.CL, cs.AI]目的:LLMの生成特性の解明
- 大規模言語モデル(LLM)の応用が拡大する中,その能力の理解が重要である。
- LLMの強力な生成能力の具体的な特性に関する研究が不足している。
- LLMのホログラフィック特性を利用し,推論効率の改善を目指す。
- LLMは生成初期にターゲット側のキーワードを捉える傾向があることが示された。
- 提案手法HOLOは,この特性を利用してキーワードを抽出し,効率的な生成を実現する。
- HOLOは,様々なLLMにおいて,自動評価・人間評価ともに良好な性能を達成した。
Matterhorn: 無音状態の再割り当てによる最初のスパイクまでの時間符号化 - スパースかつエネルギー効率の高いスパイク変換器 [cs.LG]目的:スパースかつエネルギー効率の良いスパイク変換器の実現
- 大規模言語モデルの推論におけるエネルギー効率改善の重要性が増している。
- 従来のスパイクニューラルネットワークは,データ転送コストを考慮していない。
- スパイクのデータ分布に合致した符号化によるエネルギー効率向上を目指す。
- マスクされた最初のスパイクまでの時間符号化(M-TTFS)を導入し,無音状態を最も一般的な活性値に再割り当てした。
- M-TTFSを用いたスパイク変換器Matterhornは,GLUEベンチマークで平均スコア84.64を達成し,既存のスパイク変換器を1.42%上回った。
- Matterhornは,67%少ないエネルギー消費で,7Bから70BパラメータまでのスパイクLLaMAモデルで一貫した改善を見せた。
分散型拡散モデルにおける生成品質は専門家とデータの整合性によって制御される [cs.LG]目的:分散型拡散モデルにおける生成品質の支配要因
- 拡散モデルは画像生成において高い性能を示すが,大規模モデルの学習・推論コストが課題となる。
- 分散型拡散モデルでは専門家間の予測不一致が顕著であり,生成品質の低下を招く可能性がある。
- 本研究は,生成品質を向上させるための専門家選択の指針を確立することを目的とする。
- 生成品質は,サンプリングの安定性よりも,入力データと専門家の学習データの整合性に依存することが示された。
- スパースTop-2ルーティングは,アンサンブルルーティングよりも安定性が低いものの,より高い生成品質(FIDスコアが低い)を示す。
- データクラスタ間の距離分析,専門家ごとの分析,専門家間の不一致分析により,専門家とデータの整合性の重要性が検証された。
RAPiD:報酬誘導による拡散プランナーの一貫性蒸留によるリアルタイム自動運転 [cs.AI, cs.LG, cs.RO]目的:拡散プランナーを高速化するための報酬誘導型一貫性蒸留フレームワーク
- 自動運転における経路計画は,安全性と効率性を両立させる上で不可欠な技術である。
- 拡散モデルに基づく経路計画は計算コストが高く,リアルタイムでの利用が課題となっていた。
- 拡散プランナーの高速化と,安全性維持を両立する経路計画手法を開発すること。
- RAPiDは,拡散プランナーの推論時間を大幅に短縮し,5.5倍の高速化を実現した。
- nuPlanデータセットにおいて,拡散プランナーと同等の性能を維持しつつ,反応性の高い状況下でも高い競争力を示した。
- interPlanデータセットでは,学習ベースの手法の中で最高のスコアを達成し,汎化性能の高さを示した。
GEMSS:分類および回帰問題における複数のスパース解を発見するための変分法 [cs.LG, stat.ML]目的:分類および回帰問題における複数のスパース解の探索
- 高次元データや共線性により,解が複数存在しうる状況において,専門家への説明可能性が重要である。
- 単一の解を提供するだけでは,モデルの解釈性に乏しく,多様な解の提示が求められる。
- 複数の統計的に妥当な解を同時に生成し,専門家が最適な解を選択できるようにすること。
- GEMSSは,変分混合モデルを用いて多峰性事後分布を近似し,解の多様性を実現する。
- 合成データセットにおいて,既存の複数解探索手法やアンサンブル学習よりも優れた性能を示した。
- 実データセットにおいても,予測性能の高い複数の解を生成し,実用的な有用性を実証した。
AIvilization v0:統一されたエージェントアーキテクチャと適応型エージェントプロファイルによる大規模人工社会シミュレーションへ [cs.MA, cs.AI]目的:大規模人工社会シミュレーションの実現
- 社会現象の理解深化に不可欠であり,現実世界の複雑さを再現する試み。
- 長期的な自律性と変化への対応の両立が課題。
- 目標の安定性と状況への適応性を両立させる。
- 大規模な公開実験で,現実経済の様式化された事実を再現した安定した市場が確認された。
- 教育やアクセス制限が富の階層化を促進していることが示された。
- エージェントの個性は一貫して進化し,人間の介入は短期的なプロファイル更新に影響を与えた。
曲率重み付き容量配分:層適応型大規模言語モデル最適化のための最小記述長フレームワーク [cs.RO, cs.SY, eess.SY, cs.HC, cs.CY, cs.IT, cs.AI, cs.LG, math.IT]目的:大規模言語モデルの層ごとの最適化における容量配分
- 大規模言語モデルの性能向上には,計算資源の効率的な利用が不可欠である。
- 層ごとの重要度が異なるにも関わらず,既存手法では最適な容量配分が困難である。
- 層の曲率を考慮したフレームワークにより,計算資源の制約下での最適な容量配分を目指す。
- 提案手法では,層ごとの損失削減への貢献度と局所的な曲率を考慮した指標を用いる。
- この指標に基づき,凸最適化問題を解くことで,予算制約下での最適な容量配分を効率的に行う。
- Mistral-7BとGemma-7Bを用いた実験で,容量配分において性能向上が確認された。
大規模言語モデルは新たな知識を獲得できるか:生物学的知識発見のための動的ベンチマーク [cs.CE, cs.CL, cs.AI]目的:生物学的知識発見能力の評価
- AIによる知識発見は,科学研究の加速に不可欠であり,新たな発見を促進する可能性を秘めている。
- 既存のベンチマークは静的データに依存しており,モデルが学習データに含まれる情報を利用するデータ汚染の問題がある。
- 本研究は,動的かつ自動化されたベンチマークを構築し,AIの真に新しい知識発見能力を評価することを目指す。
- DBench-Bioは,最新の論文アブストラクトを用いて,科学的仮説と発見の答えを自動的に生成する。
- 評価の結果,現在の最先端モデルには,新しい知識を発見する能力に限界があることが示された。
- 本研究は,AIシステムの知識発見能力を評価するための,継続的に進化するフレームワークを提供する。
スパースアテンションにおける因果情報フローの再考 [cs.LG, cs.AI]目的:大規模言語モデルにおける長文脈処理の効率化
- LLMの性能向上には,計算資源の制約克服が不可欠である。特に長文脈処理のボトルネック解消が重要。
- 既存のスパースアテンションは,トークン位置間の依存関係を考慮せず,一律的な処理を行っている点が課題。
- 初期トークンの重要性を考慮し,情報フローに沿ったスパースモジュールを開発することで,効率的な処理を目指す。
- 提案手法Stemは,トークン位置に応じたtop-k選択により,初期トークンの情報を適切に保持する。
- 出力の大きさを指標としたOutput-Aware Metricにより,重要なトークンを優先的に選択する。
- 実験結果から,Stemは計算量とpre-fillingの遅延を削減しつつ,高い精度を達成することが示された。
ステップレベルの視覚的根拠の忠実度が,長期的視覚言語モデルの分布外汎化性能を予測する [cs.CV, cs.AI]目的:長期的視覚言語モデルにおける,ステップレベルの視覚的根拠の忠実度と分布外汎化性能の関係性
- 視覚と言語を組み合わせたモデルは,現実世界でのタスクにおいて重要であり,その性能向上は不可欠である。
- 既存の評価指標は最終的な正答率に偏っており,モデルの中間的な推論過程の視覚情報との整合性を評価できない。
- モデルの推論過程における視覚的根拠の忠実度を定量的に評価し,汎化性能との関連性を明らかにすること。
- ステップレベルの視覚的根拠の忠実度(SGR)と分布外汎化性能の間には,強い正の相関関係が認められた (r = 0.83)。
- SGRは,モデルの規模や,学習時の分布内精度とは独立に,汎化性能を予測する重要な指標となることが示された。
- パラメータ数が同じモデル間でも,SGRに最大10.8ポイントの差が見られ,視覚的根拠の忠実度がモデルの能力を特徴づける独立した軸であることが明らかになった。
誤ったコード,正しい構造:不完全なLLM生成RTLからのネットリスト表現学習 [cs.LG, cs.AI, cs.AR]目的:ネットリスト表現の学習
- 回路設計における知的財産保護のため,ラベル付きデータの入手が困難である。
- 既存研究は小規模回路に限定され,現実的な規模の設計への適用が難しい。
- LLM生成RTLの構造的パターンを活用し,データ不足を解消すること。
- LLM生成RTLの機能的誤りがあっても,合成されたネットリストは構造パターンを保持している。
- 提案手法は,不完全なLLM生成RTLを学習データとして活用するデータ拡張フレームワークである。
- 実回路ネットリストに対する汎化性能が高く,高品質データのみで学習した手法と同等またはそれ以上の性能を示す。
