arXiv雑要約
AI - 2026/03/10 公開
歯付きフライス切削工具の状態監視のためのホワイトボックスSVMフレームワークと群知能による最適化 [cs.LG, cs.NE]目的:歯付きフライス切削工具の状態監視
- 工具の摩耗や損傷は,加工品質低下や設備故障につながるため,早期発見が重要である。
- 従来の工具状態監視では,特徴量の選択やモデルの最適化が課題となっていた。
- 振動データを用いたホワイトボックスSVMモデルの最適化により,高精度な状態監視を実現する。
- 本研究では,リアルタイムの主軸振動特性に基づいて,工具の異常を検出するホワイトボックスSVMフレームワークを提案した。
- 再帰的特徴量削除法とクロスバリデーションを用いて特徴量を厳選し,群知能アルゴリズムを用いてSVMの性能を最適化した。
- 5つの群知能アルゴリズムの比較分析により,工具の状態監視における機械学習モデルの性能に関する洞察を得た。
自動強化学習:概要 [cs.LG, cs.AI]目的:自動強化学習の動向
- 強化学習は,複雑な意思決定問題を解決する強力な手法であり,様々な分野での応用が期待されている。
- 強化学習のモデル構築やアルゴリズム選択には専門知識が必要であり,非専門家が利用するには障壁となっている。
- 強化学習の各要素を自動化することで,より幅広い分野での利用を促進し,開発効率を向上させることを目指す。
- 本稿では,強化学習の自動化(AutoRL)に関する既存研究を概観し,最近のLLMベースの手法についても議論する。
- AutoRLに直接向けられていないものの,将来的に統合が期待される技術についても検討を加える。
- AutoRLにおける課題,未解決問題,および今後の研究方向性についても議論する。
天文学的不確実な時系列データの解釈可能な分類 [cs.LG, astro-ph.GA, cs.AI]目的:天文学的不確実な時系列データの解釈可能な分類手法
- 宇宙の膨張史解明は,宇宙の進化段階理解や将来予測に不可欠である。
- 既存の解釈可能な時系列解析法は,この種データに対し十分な性能を示せていない。
- データ不確実性を考慮した,解釈可能な分類モデルの構築を試みる。
- 提案手法は,最先端の手法と同等の分類性能を達成した。
- 本手法は,データ不確実性を入力として活用し,予測の解釈性を重視した設計となっている。
- 得られた重要なサブシーケンスは,理論天文学モデルの発展に貢献する可能性を秘めている。
コスト駆動型表現学習による線形二次ガウス制御:第I部 [cs.LG, cs.SY, eess.SY, math.OC, stat.ML]目的:部分観測システム制御のための状態表現学習
- ロボット制御等において,高次元な観測データから効率的な状態表現を学習することは重要である。
- 従来の表現学習手法では,最適な制御性能を保証する理論的な根拠が不足している場合がある。
- コスト(費用)を予測することで状態表現を学習し,最適な制御を実現することを目指す。
- 有限ホライズン時変LQG制御問題において,最適に近い状態表現関数と制御器を学習できることを保証した。
- 費用を多段階予測することが重要であり,経験的な知見とも合致する。
- 本研究は,コスト駆動型アプローチに対する理論的な保証を与える初の成果である。
矛盾許容型推論のための埋め込みに基づくアプローチ:矛盾するオントロジーとの連携 [cs.AI]目的:矛盾するオントロジーにおける推論手法
- 知識管理において,オントロジーの矛盾は頻繁に発生し,その適切な処理が重要である。
- 既存手法は,オントロジーの論理的な整合性を重視するあまり,必ずしも合理的な推論に繋がらない場合がある。
- オントロジーの公理の意味的関係を考慮し,より合理的な矛盾許容型推論を実現すること。
- 本研究では,公理を分散型意味ベクトルに変換し,公理間の意味的な繋がりを定量化する手法を提案した。
- この埋め込みを利用して最大整合部分集合を選択し,矛盾に強い推論関係を定義することで,合理的な推論を可能とした。
- 実験の結果,提案手法は既存の最大整合部分集合に基づく手法と比較して,優れた推論能力を示すことが確認された。
ロボティクスの応用における効用理論に基づく認知モデル:サーベイ [cs.RO, cs.AI, cs.MA, cs.NE, cs.SY, eess.SY]目的:ロボティクスにおける効用理論に基づいた認知モデルの現状と課題
- ロボティクスは,人間の活動を代替・拡張し,社会の発展に貢献する重要な技術分野である。
- ロボットの自律的な行動を可能にするためには,人間のような認知能力が必要であり,そのモデル化が課題となっている。
- 効用理論に基づく認知モデルは,ロボットの合理的な戦略選択と学習を支援し,より高度な協調行動を可能にする。
- 本調査では,ロボティクスにおける認知モデルの進化を,行動に基づくロボティクスから認知アーキテクチャ,そして人工的な価値システムへと追跡した。
- 既存の価値システムがロボティクスの応用をどの程度サポートしているかを,単一エージェントシステム,マルチエージェントシステム,そして人間とロボットの相互作用の観点から評価した。
- 関連分野における現在の価値システムに関する文献を調査し,さらなる研究の方向性と未解決の問題点を提示した。
ループベースグラフにおけるピッキング・デリバリーシステム向けAGVのオンライン派遣・経路計画 [cs.NI, cs.SY, eess.SY, cs.CE, cs.AI]目的:AGVのオンライン,競合回避型派遣・経路計画
- 製造業をはじめ様々な産業でAGVの利用が拡大しており,効率的な運用が不可欠である。
- AGVの経路が衝突しないように計画することは困難であり,特にリアルタイム性が求められる。
- ループベースグラフにおけるAGVの効率的なオンライン計画手法を確立すること。
- 提案手法は,理論的および現実的なインスタンスにおいて,既存手法と同等以上の性能をより短時間で達成する。
- 提案アルゴリズムは,正確解法,貪欲法,メタヒューリスティクスと比較して,優れた性能を示すか,同等の解をより迅速に得られる。
- 実際の製造プラントをモデル化したインスタンスを用いて,提案手法の有効性が確認された。
訓練データからの個別サンプル影響抑制によるデータフリーな機械アンラーニング [cs.LG]目的:機械学習モデルからの特定訓練サンプルの影響除去
- プライバシー保護の重要性から,データ削除要求への対応が求められている。
- サンプル貢献度を定量化・分離するのが難しく,既存手法は妥協を強いられる。
- 事前学習済みモデルのみでサンプル貢献度を近似し,ユーティリティ低下を防ぐ。
- 提案手法MU-Misは,入力に対する感度を最小化することで,サンプル影響を直接抑制する。
- MU-Misは,残りのデータへのアクセスなしで,高性能な残データ依存型手法と同等の性能を達成した。
- 本研究は,実用的な機械アンラーニングに向けた,効率的かつユーティリティ維持なアプローチを提供する。
コンピュータ適応型検査の概観:機械学習の視点 [cs.LG, cs.AI, cs.CY, cs.IR]目的:コンピュータ適応型検査に関する機械学習の応用
- 教育,医療など広範な分野で,効率的かつ精密な能力評価のニーズが高まっている。
- 従来の検査法では,受験者一人ひとりに最適化された効率的な評価が困難であった。
- 機械学習を活用し,コンピュータ適応型検査の各要素を最適化することで,より公平で効率的なシステム構築を目指す。
- 本調査では,測定モデル,問題選択アルゴリズム,問題バンク構築,テスト制御といったコンピュータ適応型検査の構成要素を,機械学習の視点から分析した。
- 既存手法の強みと限界,そして課題を明らかにし,より堅牢で公平,かつ効率的なシステムの開発に向けた議論を展開した。
- 心理測定学と機械学習の融合を促し,適応型検査研究の学際的な発展に貢献することを提唱している。
LoRA-アンサンブル:自己注意ネットワークにおける効率的な不確実性モデリング [cs.LG]目的:自己注意ネットワークに対する,効率的な不確実性モデリング手法
- 機械学習は現実世界の意思決定に不可欠であり,信頼性の高い不確実性推定が重要である。
- 既存手法は過信した,不正確な予測を生成することが多いという課題がある。
- 大規模モデルでも計算コストを抑えつつ,不確実性を正確に評価することを目指す。
- LoRA-Ensembleは,既存の暗黙的アンサンブル手法を上回り,明示的アンサンブルと同等またはそれ以上の精度を達成する。
- 本手法は,事前学習済みの自己注意ネットワークを共有し,個別の低ランク行列を用いることで,効率的なアンサンブルを実現する。
- LoRA-Ensembleは,より優れたキャリブレーション性能を示す。
ポリシー勾配による説明器最適化による迅速な説明 [cs.LG, cs.AI]目的:モデルの説明の効率化
- モデルの説明は,AIの信頼性と透明性を高める上で不可欠である。
- 既存手法は計算コストが高く,実用的な応用が難しい場合がある。
- 効率性と適用範囲を両立した,大規模モデルの説明手法の確立。
- 提案手法FEXは,アトリビューションに基づく説明を確率分布で表現し,ポリシー勾配法で最適化する。
- 画像とテキストの分類タスクにおいて,従来のモデル非依存手法と比較して,推論時間を97%以上,メモリ使用量を70%削減した。
- 高品質な説明を維持しつつ,幅広い適用性を持つリアルタイムな大規模モデルの説明を実現した。
拡散モデルの少数ショットファインチューニングにおける破損段階の探求とベイズニューラルネットワークによる軽減 [cs.CV, cs.AI, cs.LG]目的:拡散モデルの少数ショットファインチューニングにおける破損段階の解明と,ベイズニューラルネットワークを用いた軽減策の提案
- 拡散モデルは,高品質な画像生成を可能にし,AI応用の幅を広げる重要な技術である。
- 少数ショットファインチューニングは効率的だが,生成画像の品質が一時的に悪化する現象が課題であった。
- 学習分布の狭窄が破損段階の原因であると考え,それをベイズニューラルネットワークで緩和する。
- 本研究では,拡散モデルのファインチューニング中に発生する画像品質の一時的な劣化現象(破損段階)を理論的にモデル化し,その原因を特定した。
- ベイズニューラルネットワークを適用することで,学習分布を広げ,破損段階を効果的に軽減できることを示した。
- 提案手法は,オブジェクト駆動型およびサブジェクト駆動型の生成タスクにおいて,生成画像の品質,多様性を向上させる。
OTAD:敵対的攻撃に対する最適輸送誘導型ロバストモデル [cs.LG, cs.AI, math.OC, stat.ML]目的:敵対的攻撃に対するロバスト性向上
- 深層学習の信頼性と安全性を確保するため,敵対的攻撃への対策が重要である。
- 既存の防御手法は特定の攻撃に弱く,汎用的なロバスト性を実現できていない。
- 最適輸送の正則性を利用し,汎用的なロバスト性と表現力を両立するモデルを開発する。
- 提案手法OTADは,最適輸送理論に基づく正則化項を用いてDNNを訓練することで,データと特徴量の間の離散最適輸送マップを学習する。
- このマップの正則性を利用し,凸積分問題を解くことで局所的なLipschitz連続性を保証する。
- 実験結果から,OTADは様々なデータセットにおいて,他のロバストモデルよりも優れた性能を示すことが確認された。
確率過程潜在変数モデルの変分学習:確率的勾配焼きなまし重要度サンプリングによる手法 [cs.LG, cs.AI, stat.ML]目的:確率過程潜在変数モデルの変分学習
- 非線形なデータ構造を扱う柔軟性から,次元削減や欠損データ回復など,様々な非教師あり学習に利用されている。
- 高次元空間や複雑なデータセットにおいて,有効な提案分布の生成が困難であり,適用が制限されてきた。
- 焼きなまし重要度サンプリングにより,より広範囲な事後分布を探索し,収束性を高めることを目指す。
- 提案手法は,既存手法と比較して,よりタイトな変分下界,より高い対数尤度,およびよりロバストな収束性を示すことが,玩具データセットと画像データセットの実験によって確認された。
- 焼きなまし重要度サンプリングと変分推論の利点を組み合わせることで,複雑なデータに対する適応性を向上させている。
- エビデンス下界(ELBO)内のすべての変数を再パラメータ化することで,効率的なアルゴリズムを実現している。
28nm CMOSにおける1.6fJ/スパイクのサブスレッショルドアナログスパイクニューロン [cs.NE, eess.SP]目的:低消費電力ニューロモーフィックシステムオンチップの実現可能性を示すリーキー積分発火ニューロンの設計
- 深層学習の複雑化により,ハードウェアへの負荷が増大しており,低消費電力な処理プラットフォームが不可欠である。
- 既存のハードウェアは,速度とメモリの課題を抱えており,特に携帯機器では消費電力の制約が厳しい。
- 本研究は,低消費電力で高性能なニューロモーフィックチップを実現するための基盤技術を確立することを目指す。
- 提案されたニューロンは,28nm CMOSプロセスで実現され,1.61fJ/スパイクという低消費電力を達成した。
- 占有面積は34μm²であり,最大スパイク発火周波数は300kHzである。
- MNISTデータセットを用いた実験では,4ビット量子化によるバックプロパゲーションで82.5%の認識精度が得られた。
モデルの説明からデータの誤解釈へ:ビジネス研究における事後解釈モデルの注意喚起分析 [cs.CY, cs.HC, cs.LG]目的:事後解釈モデルの利用状況とその妥当性に関する分析
- ビジネス研究において,複雑な機械学習モデルの解釈は,意思決定の根拠や洞察を得る上で重要である。
- 事後解釈モデルの説明が,データ間の関係性を裏付ける証拠として扱われるケースが増加している。
- 事後解釈モデルの信頼性を評価し,その適切な利用方法を提示すること。
- 事後解釈モデルの説明は,平均的には妥当に見えるものの,その整合性には大きなばらつきが見られた。
- 予測性能が高い場合でも,説明の方向性や特徴量の重要度の正確性を保証することはできない。
- 特徴量間の相関やラショモン効果が,説明のずれの主要な要因であることが示された。複数のモデルの説明の一致は,信頼性の診断に役立つ。
声帯麻痺の診断支援のための多角的な喉頭鏡ビデオ解析 [cs.SD, cs.AI, eess.AS]目的:声帯麻痺の診断支援システム開発
- 喉頭鏡検査は,声帯機能評価の重要な手段であり,早期発見・治療に不可欠である。
- 検査者の熟練度によって診断のばらつきが生じ,客観的な評価が課題となっている。
- 音声と映像を統合し,客観的かつ効率的な診断支援を実現することを目的とする。
- 本研究で開発したMLVASは,音声と映像の両方から有効な特徴量を抽出し,声帯麻痺の検出能を高める。
- 拡散モデルを用いたセグメンテーションモジュールは,誤検出を低減し,より正確な声帯マスクを生成する。
- 臨床データを用いた実験では,MLVASが信頼性の高い客観指標および可視化を提供し,診断支援に貢献できることが示された。
ソフトウェアテストの未来:AIを活用したテストケース生成と検証 [cs.SE, cs.AI]目的:AIを活用したテストケース生成と検証の可能性
- ソフトウェアの品質確保は重要であり,開発において不可欠な工程である。
- 従来のテストケース作成は時間とコストがかかり,ヒューマンエラーのリスクもある。
- AI導入により,テストの効率化,精度向上,カバレッジ拡大を目指す。
- AIによるテストケース生成は,テスト時間の短縮と手動介入の削減に貢献する。
- 機械学習を活用することで,リスクの高い箇所を特定し,より効果的なテストが可能となる。
- 継続的テストと自己修復テストケースにより,ソフトウェアの信頼性を高めることができる。
スパイクニューラルネットワークのエネルギー効率の再検討 [cs.NE, cs.AI, cs.LG]目的:スパイクニューラルネットワークと量子化されたニューラルネットワークのエネルギー効率の比較
- ニューラルネットワークは,画像認識や自然言語処理など,様々な分野で利用されており,その効率化が重要である。
- 既存の研究では,スパイクニューラルネットワークのエネルギー効率評価が簡略化されており,データ転送やメモリアクセスなどのオーバーヘッドが考慮されていない。
- 本研究では,より厳密なエネルギーモデルを用いて,スパイクニューラルネットワークと量子化されたニューラルネットワークのエネルギー効率を公平に比較し,その優位性を明確にすることを目指す。
- 提案手法により,スパイクニューラルネットワークが量子化されたニューラルネットワークよりもエネルギー効率に優れる条件を特定した。
- 特に,適度な時間窓($T \in [5,10]$)と低いスパイクレート($\SR < 6.4\%$)の下では,スパイクニューラルネットワークが優れた性能を示すことが明らかになった。
- スマートウォッチのバッテリー寿命の分析から,最適化されたスパイクニューラルネットワークがバッテリー寿命をほぼ2倍にできることが示された。
潜在空間における閉形式モデルベース制御のための入力-状態安定結合振動子ネットワーク [cs.RO, cs.AI, cs.LG, cs.SY, eess.SY]目的:潜在空間における物理システムの効率的かつ効果的な制御
- 近年,機械学習と制御理論の融合が注目され,複雑なシステムの制御への応用が期待されている。
- 既存の潜在空間モデルは,物理システムの数学的構造や安定性を欠いている場合が多く,実用上の課題となっていた。
- 本研究では,物理システムの構造と安定性を備えた新たな潜在空間モデルを開発し,効率的な制御を実現することを目指す。
- 提案する結合振動子ネットワーク(CON)は,ラグランジュ系であり,明確なポテンシャルエネルギーと運動エネルギー項を持つことが示された。
- CONは入力-状態安定性を持つことが証明され,複雑な機械システムの非線形ダイナミクスを画像から直接学習する際に,最先端の性能を達成した。
- 入力-潜在空間間のマッピングを近似するデコーダを用いることで,効率的な学習と制御が可能となり,ソフトロボットの制御において高性能を実現した。
xTED:拡散モデルに基づく軌道編集によるクロスドメイン適応 [cs.RO, cs.LG]目的:クロスドメイン適応のための軌道編集フレームワーク
- データ不足なタスクにおいて,既存データの有効活用が重要である。異なるドメインのデータを活用することで,効率的な学習が可能となる。
- 既存手法はドメイン間の対応付けや修正に焦点を当てており,複雑なモデル構造やドメイン固有の設計が必要となる場合がある。
- データレベルでのドメインギャップを埋め,柔軟なクロスドメイン学習を可能にすることを目指す。
- 提案手法xTEDは,拡散モデルを用いてソースドメインの軌道をターゲットドメインに合わせて編集する。
- xTEDは,状態,行動,報酬間の複雑な依存関係とダイナミクスパターンを効果的に捉える。
- シミュレーションおよび実機実験において,xTEDは既存手法よりも優れた性能を示す。
BNEM:ブートストラップノイズエネルギーマッチングに基づくボルツマンサンプラー [cs.LG, cs.AI, stat.CO, stat.ML]目的:ボルツマン分布からの独立かつ同一に分布するサンプル生成
- 科学研究,特に分子動力学において,効率的なサンプラーは不可欠である。
- 既存手法では,分散が高く,複雑さに限界がある場合がある。
- ノイズ付きデータのエネルギー学習により,分散と複雑さのバランスを取る。
- 提案手法BNEMは,2次元40ガウス混合モデルと4粒子二重井戸ポテンシャルで最先端の性能を示す。
- BNEMは,既存手法と比較して,より低い分散と高い複雑性を理論的に有する。
- ブートストラップ技術の適用により,バイアスと分散のバランスが改善され,頑健性が向上する。
視覚的プロンプティングによる視覚オブジェクト追跡の改善 [cs.CV, cs.AI, cs.MM, eess.IV]目的:汎用オブジェクト追跡における視覚的プロンプティングの有効性
- 画像認識技術は,自動運転やロボット工学など,様々な分野で不可欠である。
- 追跡対象と背景の識別が困難であり,特に類似オブジェクトが多い場合に課題となる。
- 事前学習済みモデルを活用し,動的にプロンプトを生成・更新することで追跡精度を向上させる。
- PiVOTは,CLIPのような事前学習済みモデルを用いて視覚プロンプトを自動生成・洗練させる。
- これにより,追跡対象と背景の区別が明確になり,不要な情報を抑制することが可能となる。
- 複数のベンチマークテストの結果,PiVOTは追跡性能を大幅に向上させることが示された。
ニューラル遅延微分方程式:部分的に既知の動的システムに対する非マルコフ閉包の学習 [cs.NI, cs.LG, cs.AI, physics.comp-ph]目的:部分観測動的システムの非マルコフ力学の学習
- 動的システムの学習は近年進展しており,現実世界の複雑な現象の理解に不可欠である。
- 既存手法は完全な状態へのアクセスを仮定しており,センサー数に限りがある現実のシステムには適用が困難である。
- 隠れた変数と記憶項の関係に着目し,部分観測下での非マルコフ力学のモデリングを可能とする。
- 提案手法であるニューラル遅延微分方程式(NDDEs)は,既存のLSTMやANODEsと比較して,部分観測システムにおいて同等以上の性能を示す。
- NDDEsは,有限の遅延時間を用いて記憶効果を捉え,データ効率の良い連続時間アプローチを実現する。
- 合成データ,カオス的ダイナミクス,実験測定など,様々なデータセットでの検証により,NDDEsの有効性が確認された。
長期的な空想によるオープンワールド強化学習 [cs.LG]目的:高次元オープンワールドにおける視覚的強化学習エージェントの訓練
- 複雑な環境下でのロボットの自律的な行動学習には,効率的な探索が不可欠である。
- 既存のモデルベース手法は短視眼的であり,長期的報酬を考慮した探索が困難である。
- 長期的視点を取り入れた効率的な探索を可能にし,複雑なタスクの達成を目指す。
- 提案手法LS-Imagineは,限られたステップ数で空想の地平線を拡張し,長期的な報酬につながる行動を探索する。
- ゴール条件付きのジャンプ遷移をシミュレーションし,アフォーダンスマップを構築することで,長期的な価値を行動学習に統合する。
- MineDojoにおける実験により,最先端の手法と比較して大幅な性能向上を実証した。
SNNオンライン学習と展開の再考:ハイブリッド駆動LIFモデルによる勾配一貫学習 [cs.NE, cs.AI]目的:効率的なオンライン学習のためのハイブリッド駆動リーキー積分発火(HD-LIF)モデルファミリー
- SNNは,脳に触発された省エネルギー特性により,AIの将来開発において大きな可能性を秘めている。
- 既存のオンライン学習フレームワークは,順伝播と逆伝播の間の勾配の不一致に対処できず,推論段階での性能向上が見られない。
- 本研究は,勾配の不一致問題を解決し,学習精度,メモリ複雑性,電力消費の最適化を目指す。
- 提案手法は,複数の評価指標において最先端の性能を達成し,SNNのオンライン学習と展開の従来のパラダイムを打破する。
- 理論的には,本学習フレームワークが時間勾配を分離し,サロゲート勾配のずれを解消できることを示す。
- HD-LIFモデルは,発火閾値の上部領域と下部領域で異なるスパイク計算メカニズムを採用する。
学習ダイナミクスは敵対的ロバスト性汎化をどのように駆動するか? [cs.LG]目的:敵対的ロバスト性汎化のメカニズム解明
- 機械学習モデルの信頼性確保は重要であり,特に敵対的攻撃に対するロバスト性が不可欠である。
- 敵対的学習は過学習を起こしやすく,そのメカニズムが十分に解明されていない。
- 敵対的学習における学習ダイナミクスを分析し,ロバスト性汎化の限界を理論的に明らかにする。
- 敵対的学習を離散時間動的システムとして捉え,PAC-Bayesianフレームワークを導入することで,時間分解能のあるロバスト汎化境界を導出した。
- 学習率,損失関数の幾何学的形状,ミニバッチの確率的勾配と,事後平均および共分散の進化との関連性を明らかにした。
- 実験的近似により,ロバスト過学習のメカニズムを統一的に説明し,敵対的重み摂動が損失曲率を抑制することで汎化ギャップを縮小することを示した。
Transformerにおける暗黙的な状態推定:動的システムにおける文脈内学習 [cs.LG, cs.SY, eess.SY]目的:動的システムの出力予測
- 工学や科学における古典的な課題であり,物理現象の理解や制御に不可欠である。
- 非線形システムにおける最適な状態推定は困難であり,近似的な手法に頼らざるを得ない。
- Transformerを用いた文脈内学習により,モデルを用いずに状態推定と出力予測を可能にすること。
- Transformerは,文脈内学習によって,動的システムの隠れた状態を暗黙的に推測し,出力を予測できる。
- 線形ガウスシステムにおいては,カルマンフィルタの予測とほぼ同等の性能を示す。
- 非線形システムにおいては,拡張カルマンフィルタや粒子フィルタに匹敵する性能を示す。
医学画像におけるモデリングと分類のための構造的表現の自己結合学習 [cs.CV, cs.LG]目的:医学画像における構造的表現の学習と分類
- 医療現場での画像診断の精度向上は,患者の早期発見と適切な治療に不可欠である。
- 深層学習は強力だが,特徴表現が滑らかで,人間の認識に近い明確な構造を捉えにくい。
- 視覚素因子の再構成を通して構造的説明を学習し,診断精度と透明性を高める。
- 提案手法は,組織学的画像における異常診断において,従来の深層学習モデルを上回る分類精度を示した。
- 本手法は,画像を高レベルの構造的説明として捉えることで,より透明性の高い診断を実現する。
Puppet-CNN:入力適応畳み込みネットワークのための連続パラメータダイナミクス [cs.LG, cs.AI]目的:入力に応じて変化する畳み込みネットワークのパラメータ生成機構
- 深層学習モデルの性能向上には,モデルの構造やパラメータの効率的な学習が不可欠である。
- 従来のCNNは固定長の層構造を持つため,入力の複雑さに応じた柔軟な計算が困難である。
- 入力の複雑さに応じて層数を変化させ,計算効率と性能を両立させることを目指す。
- Puppet-CNNは,畳み込み層のパラメータをニューラル常微分方程式によって記述される連続的なパラメータフローとして表現する。
- この手法により,パラメータは連続的に進化し,生成される層の数は入力の複雑さに応じて変化する。
- 画像分類ベンチマークにおいて,従来のモデルと同等の性能を,より少ない学習パラメータで達成できることを示した。
拡散モデルにおける入力適応型生成ダイナミクス [cs.CV, cs.AI, cs.LG]目的:拡散モデルの入力適応型生成ダイナミクスの検討
- 画像生成AIの性能向上は,多様な応用を可能にし,社会に大きな影響を与える。
- 従来の拡散モデルは固定されたノイズ除去経路を用いるため,入力の違いに対応できない。
- 入力に応じて生成過程を変化させ,効率的な画像生成を目指す。
- 提案手法では,拡散モデルの生成過程を様々な水平線とノイズスケジュール下で学習させる。
- これにより,入力に応じて生成ダイナミクスを調整し,高品質な画像を生成可能となった。
- 条件付き画像生成実験の結果,サンプリングステップ数を削減できることが示された。
視覚言語モデルによる多様式・多課題・多基準自動評価 [cs.CL, q-bio.NC, cs.CL, cs.CL, cs.AI, cs.CV]目的:視覚言語モデルが生成するテキストの品質評価手法
- 視覚言語モデルの性能向上に伴い,その評価基準の重要性が増している。
- 既存の評価指標は単一課題に特化し,多課題に対応した柔軟性に欠ける。
- 多基準に基づいた包括的な評価指標を開発し,多課題への適応を目指す。
- 提案手法HarmonicEvalは,従来の指標よりも人間の評価との相関性が高いことが示された。
- HarmonicEvalは,各評価基準に対する数値スコアを提供し,詳細な分析を可能にする。
- 多課題・多基準の人間評価ベンチマークMMHEを構築し,自動評価指標の汎化性能を検証した。
有限サンプルにおける非パラメトリック回帰:最適なサンプル効率と空間複雑性 [cs.LG]目的:非パラメトリック回帰における学習率および空間複雑性の最適化
- 機械学習や強化学習など,関数とその導関数を効率的に学習する重要性が高まっている。
- 従来のカーネル法は計算コストやメモリ消費が大きく,リアルタイム処理に課題がある。
- 有限次元表現に基づくパラメトリックアプローチにより,メモリ効率の良い軽量な推論を実現する。
- 提案手法は,Supremumノルム下でミニマックス最適の収束レートを達成する。
- サブガウスノイズ下での鋭い有限サンプル限界と,ベルンシュタイン型の第二階保証を導出した。
- 推定誤差とメモリ効率の両面で,提案手法の最適性が下限によって確認された。
プロンプトチューニングにおける埋め込み事前分布の探索:解釈性と制御性の向上 [cs.CL, cs.LG]目的:プロンプトチューニングにおける埋め込み事前分布と事後分布の関係性
- 大規模言語モデルの活用が広がる中で,効率的なタスク適応手法の重要性が増している。
- プロンプトチューニングでは埋め込み崩壊が頻発し,性能に悪影響を及ぼす可能性がある。
- 埋め込み事前分布を制御することで,プロンプトチューニングの性能と汎化能力を向上させる。
- 埋め込み事前分布はチューニング後の埋め込みの位置に強い影響を与えることが示された。
- モデルは活性化空間の様々な領域の埋め込みで効果的に機能し,新しい領域も活用できる。
- プロンプトチューニングの結果として得られる事後分布は,思考連鎖蒸留などのタスクの初期値として有用である可能性がある。
ピクセルから述語へ:事前学習済み視覚言語モデルによる記号的ワールドモデルの学習 [cs.RO, cs.AI, cs.CV, cs.LG]目的:複雑なロボティクス環境における長期的意思決定問題解決
- ロボティクス分野では,複雑な環境での自律的な意思決定が不可欠である。
- 従来のモデルは,未知の状況への汎化性能が低いという課題がある。
- 事前学習済みモデルを活用し,汎化性能の高い記号的ワールドモデルを構築する。
- 事前学習済み視覚言語モデルを用いて,多数の視覚的述語候補を提案し,カメラ画像から評価した。
- 最適化ベースのモデル学習アルゴリズムにより,コンパクトな述語集合で記号的ワールドモデルを獲得した。
- シミュレーションと実環境の両方で,多様な状況や新規目標に対する高い汎化性能を実証した。
潜在クラスタリングに基づくデータ削減による効率的な半教師あり敵対的学習 [cs.LG, cs.AI, cs.CR, cs.CV]目的:半教師あり敵対的学習の効率改善
- 敵対的環境下でのロバストなモデル学習は,大量の学習データが必要不可欠である。
- 半教師あり敵対的学習は高性能だが,高いロバスト性を得るには大量の追加データを要し,計算コストが増大する。
- 追加データの量を最適化し,効率的に半教師あり敵対的学習を行うことを目指す。
- 潜在クラスタリングを用いたデータ削減により,半教師あり敵対的学習に必要なデータ量を大幅に削減できる。
- 特に,k-meansクラスタリングに基づいた潜在空間選択とLCG-KMを用いたガイデッド拡散アプローチが最も効果的である。
- これらの手法により,学習時間を約3~4倍短縮し,メモリ使用量も削減できる。
ノイズラベル下における分類の誤差境界の探求 [cs.LG, stat.ML]目的:ノイズラベル下での分類問題における過剰リスクの誤差境界
- 機械学習において,ラベルノイズは汎化性能を低下させる重要な課題である。
- 深層学習モデルは,ノイズラベルに対して脆弱であり,精度低下が懸念される。
- 深層学習フレームワークにおけるノイズラベル下の誤差を理論的に評価し,改善を目指す。
- 過剰リスクを統計誤差と近似誤差に分解し,それぞれの誤差境界を導出した。
- 依存関係を持つデータに対処するため,独立ブロック構成を利用して誤差を抑制した。
- 低次元多様体仮説のもと,近似誤差をさらに洗練し,高次元入力空間の影響を軽減した。
予測的ワールドモデリングによる生成ロボットポリシーの強化 [cs.RO, cs.CV, cs.LG]目的:生成予測制御フレームワーク
- ロボットの自律的な行動計画において,環境の予測は重要な役割を果たす。
- 従来の行動模倣学習では,未知の状態への汎化が課題となる。
- 専門家のデモンストレーションと探索から学習し,将来予測に基づく行動計画を行う。
- 生成予測制御は,シミュレーションと実環境の両方において,行動模倣学習よりも高い性能を示す。
- 拡散モデルに基づくポリシーのクローンと,行動条件付きのワールドモデルの学習を組み合わせる。
- ワールドモデルを用いて未来を予測し,行動提案をランク付け・最適化することで,ロバストな制御を実現する。
確率的ストラグラー環境における汎用符号化計算 [cs.DC, cs.LG]目的:確率的ストラグラー環境下における汎用符号化計算スキームの近似誤差
- 分散コンピューティングにおいて,計算処理の遅延を引き起こすストラグラー問題の解決が重要である。
- 既存の符号化計算スキームは厳密計算を前提としており,汎用関数への適用が難しいという課題がある。
- 確率的ストラグラー環境下で,汎用符号化計算における近似誤差の収束性を理論的に示す。
- BACCスキームの平均近似誤差は,少なくとも$\mathcal{O}(\log^3_{\frac{1}{p}}(N)\cdot{N^{-3}})$の速度でゼロに収束する。
- LeTCCスキームの平均近似誤差は,$\mathcal{O}(\log^4_{\frac{1}{p}}(N)\cdot{N^{-2}})$の速度でゼロに収束する。
- サーバーの独立性により,ストラグラー数が増加しても近似誤差がゼロに収束することが実験的に確認された。
ピボット翻訳を用いたニューラル機械翻訳のための単一モデルアンサンブルフレームワーク [cs.CL, cs.AI]目的:低リソース言語ペアに対するニューラル機械翻訳の品質向上
- ニューラル機械翻訳は目覚ましい進歩を遂げているが,低リソース言語ペアでは品質が十分ではない。
- 複数のモデルを訓練するアンサンブル法は計算コストが高く,モデル内部の確率平均化は困難である。
- ピボット翻訳を活用し,単一モデルで多様かつ精度の高い候補を生成,集約することで品質を向上させる。
- 提案手法は,ピボット言語を介した候補生成と,その後の集約という二段階構成である。
- ピボット翻訳による候補生成は,高リソース言語からの知識転移を促進し,より正確な候補をもたらす。
- 実験結果から,本手法はピボット翻訳による候補を活用し,ソース文の微妙なニュアンスを捉えた高品質な翻訳を生成することが示された。
勾配:ニューラルネットワークにおける特徴学習―バイアスを通して [cs.LG, cs.AI, cs.CL]目的:社会的なバイアス情報の符号化
- AIシステムの公平性は重要であり,偏りは深刻な問題を引き起こす。
- AIシステムは社会的な偏りを学習し,増幅する可能性がある。
- モデルのバイアスを特定し,能力を維持しつつ修正すること。
- モデルの勾配を利用し,バイアス情報を学習する符号化器・復号器アプローチを提案。
- 特徴を修正するためにモデルのどの重みを変更する必要があるかを特定可能。
- モデルを書き換え,バイアスを軽減しつつ他の機能を維持できることを実証。
LLM生成コードの安全性と品質:多言語・多モデル分析 [cs.CR, cs.LG, cs.SE]目的:LLM生成コードの安全性と品質の評価
- ソフトウェア開発におけるAI活用が拡大する中で,生成されるコードの安全性確保は重要課題である。
- LLM生成コードの安全性は十分には検証されておらず,脆弱性や欠陥が存在する可能性が指摘されている。
- LLM生成コードにおける言語ごとの安全性および品質のばらつきを明らかにし,改善策を提示すること。
- LLMはコード生成を自動化できる一方で,その安全性は言語によって大きく異なることが示された。
- 多くのモデルは,Java 17などの最新のセキュリティ機能を活用できていない実態が明らかになった。
- C++においては,時代遅れの記述方法が依然として多く使用されており,セキュリティリスクを高めている。
符号付きネットワークにおける偏極コミュニティ発見のための効率的な局所探索アプローチ [cs.LG, cs.AI, cs.SI]目的:符号付きネットワークにおける偏極コミュニティの検出
- 社会システムにおける分極,信頼,対立分析において,正負のラベルを持つネットワークが自然な枠組みを提供する。
- 既存手法は,コミュニティサイズの不均衡が生じやすいという課題があった。
- コミュニティサイズの不均衡を回避し,大規模ネットワークで有効に機能する局所探索アルゴリズムを開発する。
- 提案手法は,既存の最先端手法と比較して,コミュニティ構造の検出精度において一貫して良好な結果を示した。
- この手法は,ブロック座標Frank-Wolfe最適化との関係性により,線形収束率を数学的に保証している。
- 大規模ネットワークに対しても計算効率が維持されており,実世界のデータセットや合成データセットでの実験によってその有効性が確認された。
生物学的・臨床的軌跡に対する制御可能な系列編集 [cs.LG, q-bio.GN, q-bio.PE]目的:縦断的な系列に対する条件付き生成モデルにおける,条件の発動タイミングと影響範囲の制御
- 医療や科学研究において,経時的な変化を分析・予測することは重要である。
- 既存モデルは,介入のタイミングや対象変数を限定的に制御できない場合が多い。
- 特定の時点から特定の変数のみに影響を与える介入を正確にモデル化する。
- CLEFは,介入が将来の系列進化にどのように影響するかを符号化する時間的概念を学習する。
- これにより,CLEFは影響を受ける時点と変数に限定した編集を行い,系列の残りを維持する。
- 8つのデータセットでの評価により,CLEFは既存モデルと比較して,系列編集の精度を大幅に向上させた。
LLMの連合学習におけるLoRAを用いた意図しない記憶の軽減 [cs.LG, cs.AI, cs.CL]目的:連合学習における大規模言語モデルの意図しない記憶の軽減
- データプライバシー保護は,AI技術の社会実装において不可欠な要素である。
- 連合学習でも,モデルが学習データの一部を記憶するリスクが残存する。
- LoRAを活用し,プライバシー侵害のリスクを低減する。
- LoRAを用いることで,連合学習における記憶量が最大で10分の1に削減された。
- 医療,法律,金融などの高リスク分野においても,その効果が確認された。
- LoRAは,中央集権型学習においても記憶量を削減し,他のプライバシー保護技術との組み合わせも有効である。
潜在拡散を用いた構造表現プロンプト学習による単一画像ノイズ除去 [cs.CV, cs.AI]目的:単一画像ノイズ除去のための構造表現プロンプト学習手法
- 画像ノイズ除去は,画像処理において基本的な課題であり,様々な応用分野で重要である。
- ペアデータセットの作成コストが高いこと,既存の自己教師あり/教師なし学習では構造情報の損失が課題である。
- 潜在拡散モデルと構造注意モジュールにより,構造情報の保持と効率的なノイズ除去を実現する。
- 本研究では,潜在拡散に基づいた構造表現生成モデルと構造注意モジュールを組み込んだPrompt-SIDを提案した。
- ダウンサンプリングされた画像ペアを用いた自己教師あり学習により,高解像度画像の情報も活用できる。
- 合成画像,実画像,蛍光画像データセットを用いた実験で,Prompt-SIDの有効性が確認された。
オフラインデータを用いた能動的利点整合オンライン強化学習 [cs.LG, stat.ML]目的:オンライン強化学習とオフライン強化学習の統合による,効率的な方策学習
- 強化学習は自律的な意思決定に不可欠だが,サンプル効率が課題となる。
- オフラインRLはデータ不足や分布シフトにより,性能が劣ることがある。
- オンラインとオフラインRLの弱点を克服し,データ利用効率を向上させる。
- 提案手法A3RLは,方策の進化に合わせてオンライン・オフラインデータを選択的に利用する。
- A3RLは,データ品質へのロバスト性と,カタストロフィック・フォゲッティングを抑制する。
- 実験結果から,A3RLは既存手法と比較して,より高い性能を示すことが確認された。
時間の流れの中の言語:時間系列ペアテキストを統合した統一的な時間的物語 [cs.LG, cs.AI]目的:時間系列データとペアになったテキストの統合
- 多変量時系列分析は,現実世界の複雑な現象を理解する上で不可欠である。
- テキスト情報を含む多変量時系列分析は,数値データのみの場合に比べて未発達である。
- 時間系列ペアテキストの周期性を活用し,予測性能の向上を目指す。
- 提案手法TaTSは,既存の数値時系列モデルに容易に組み込むことができる。
- TaTSは,モデル構造を変更することなく,多変量予測性能を向上させることが示された。
- 時間系列ペアテキストを時系列データの補助変数として扱うことで,予測精度が向上する。
LLMのダウンストリーム性能のスケーリング:クラスタリングに基づく考察 [cs.CL, cs.AI, cs.LG]目的:LLMのダウンストリームタスク性能のスケーリング特性の予測
- LLMの規模拡大とコスト増大に伴い,スケーリング特性の理解が重要となっている。
- 予測不能な能力の出現やタスク難易度のばらつきが,性能予測の精度を阻害している。
- 難易度に基づくタスクのクラスタリングにより,予測の安定性と信頼性を向上させる。
- 提案手法CODは,タスクを難易度スケーリング特徴でクラスタリングすることで,予測可能なタスクサブセットを構築する。
- 構築されたサブセットの性能を予測し,その結果を全体の評価セットの性能に外挿する。
- 70BパラメータのLLMへの適用により,8つの主要ベンチマークで平均1.55%の予測誤差を達成した。
手段を超える:サンプルごとの勾配直交化によるアンラーニング [cs.LG]目的:問題のある訓練データのモデルへの影響除去
- 機械学習モデルのプライバシー保護や,誤ったデータの修正が重要視されている。
- 訓練データ全体へのアクセスが困難な状況で,効果的なアンラーニングが難しい。
- 小規模な保持データセットとの干渉を軽減し,効果的なアンラーニングを実現する。
- 提案手法OrthoGradは,アンラーニングデータセットの勾配を保持バッチの勾配が作る部分空間に直交投影することで,干渉を回避する。
- OrthoGradは,自動音声認識を含む複数のアンラーニングベンチマークで,既存手法を上回る性能を示す。
- 小規模な保持データセットでも,モデル全体の性能を損なわずにデータの影響除去が可能である。
