arXiv雑要約
AI - 2026/06/15 公開
ハイブリッドCNN-Transformerニューラルネットワークによる連星ブラックホールパラメータ推定 [gr-qc, astro-ph.IM, cs.LG]目的:連星ブラックホールシステムの内部・外部パラメータ推定
- 重力波検出は宇宙の根源的な側面を探求する手段として重要である。
- 従来のテンプレートマッチングは計算コストが高く,複雑な信号に対応が難しい。
- 機械学習を活用し,効率的かつ高精度なパラメータ推定を実現する。
- 提案手法は,シミュレーションデータと実際の重力波イベントの両方で高い予測性能を示した。
- TransformerエンコーダーとCNNアーキテクチャの組み合わせにより,ロバストな推定が可能となった。
- 特に主要な天体物理学的パラメータに関して,優れた結果が得られた。
PCA圧縮フラックスと逆分散度特徴量を用いた天文スペクトルの分類 [astro-ph.IM, cs.LG]目的:天文スペクトルの分類
- 天体観測データの解析は,宇宙の構造と進化の理解に不可欠である。
- スペクトル分類は手作業に頼る部分が多く,大規模データへの適用が課題である。
- 機械学習を用いた自動化により,効率的なスペクトル分類を目指す。
- SDSS DR17のスペクトルを,星,銀河,クエーサーに分類するパイプラインを評価した。
- フラックスと逆分散度情報をPCA圧縮し,LightGBM分類器で高い精度(94.6%)を達成した。
- バランスの取れた精度も92.1%を示し,有効性が確認された。
長文推論のための適応的核Truncation [stat.ML, cs.LG]目的:長文推論におけるサンプリング手法の改善
- 大規模言語モデルの推論能力向上は,様々な応用において不可欠である。
- 固定閾値に基づく既存のTruncation手法は,推論の状況に適応できない。
- 推論過程の安定化とスケーリングを目的とした,適応的なサンプリング手法の開発。
- 提案手法ANTSは,生成トークン数の増加に伴い,ベンチマークテストで平均性能を1.9〜5.2ポイント向上させた。
- 特に,指示応答と数学的推論において顕著な改善が見られ,IFBenchで10ポイント以上,AIME 2025で7ポイントのスコア向上を示した。
- コード生成においては,生成トークン数に応じて性能が変化し,長い生成長においてベースラインを上回るELOスコアを獲得した。
ブレグマンダイバージェンスによる決定木の汎用的なフレームワーク [stat.ML, cs.LG, stat.ME]目的:決定木に関する理論的性質の解明
- 決定木は解釈性,柔軟性,非線形構造への適応性から,統計的学習の基礎的なツールである。
- 従来の決定木アルゴリズムは,特定のモデルごとに不純度指標が個別に追加される傾向がある。
- ブレグマンダイバージェンスに基づき,多様な統計モデルと幾何学に対応できる決定木の体系を構築する。
- ブレグマンダイバージェンスを用いることで,様々な不純度基準を統一的な視点から導き出し,解釈可能にする。
- 生成する凸関数の特性(強凸性や滑らかさ)が,親ノードと子ノード間の不純度ゲインに影響を与えることが示された。
- 推定量の安定性と一貫性に関する理論的性質についても考察した。
拡散モデルを用いた粉末X線回折データからの結晶構造予測:XRDiff [cond-mat.mtrl-sci, cs.LG, physics.comp-ph]目的:粉末X線回折データからの結晶構造の予測
- 材料科学において,物質の結晶構造を決定することは不可欠である。
- 粉末X線回折データからは位相情報が失われるため,構造決定は困難を伴う。
- 本研究は,粉末X線回折データから結晶構造を予測する手法を確立する。
- XRDiffは,組成または元素構成と単位格子の原子総数から結晶構造を復元する拡散モデルである。
- シミュレーションデータを用いた評価では,XRDiffは高い構造復元率を示し,多形間の識別能力が確認された。
- ピーク記述子に基づくエンコーディングは,実験データへの一般化性能が向上し,実験ノイズに適応したモデルをも上回った。
R^2における線形回帰のための最適輸送による幾何的ドメイン適応 [stat.ML, cs.LG, stat.ME]目的:R^2空間における線形回帰問題における幾何的ドメイン適応手法
- 機械学習において,異なるデータ分布への汎化能力向上が重要課題である。
- ドメイン間の分布のずれが大きくなると,学習モデルの性能が著しく低下する。
- 分布のずれを幾何学的な変換として捉え,最適輸送を用いて対処する。
- 本研究では,最適輸送が,p-ノルムコスト(p≥2)において基礎となる変換を復元することを証明した。
- K-meansと最適輸送を組み合わせることで,少ないターゲットデータでも線形回帰モデルの適応が可能となった。
- シミュレーションの結果,提案手法は既存手法よりも優れた性能を示した。
ラベルシフト補正の妥当性確認 [stat.ML, cs.LG]目的:ラベルシフト補正の妥当性
- 科学的利用において,ラベル付きデータは限られがちである。
- ラベルシフトの推定は,データ不足により信頼性が低い場合がある。
- 事前知識に基づく補正が妥当かどうかを検証する手法が求められる。
- 観測毎の尤度比をe値とすることで,任意の時点での妥当性確認が可能となる。
- 尤度比の累積積は非負マルチンゲールであり,Villeの不等式を用いることで,有効な確認ルールが導かれる。
- この方法は,モデル監視を形式的な逐次検定に変換し,事前分布の優位性を示唆する。
HSICに基づくハイブリッド不確実性感度分析:高次元応答と確率論的・認識論的分離 [math.OC, cs.SY, econ.GN, eess.SY, q-fin.EC, q-fin.PM, q-fin.RM, stat.ML, cs.LG]目的:高次元システム応答に対するハイブリッド確率論的・認識論的不確実性の影響量の評価
- システム応答の信頼性向上には,不確実性の定量化が不可欠であり,感度分析はそのための重要な手法である。
- 従来のHSICに基づく手法は,単一出力に限定され,異種不確実性の分解が困難であった。
- 本研究は,高次元応答における確率論的・認識論的不確実性の影響を分離・評価する新たな枠組みを提案する。
- 提案手法は,潜在空間と多次元出力空間双方に対して因子化カーネルを構成し,ダブルメビウス変換により不確実性を直交的に分解する。
- 得られた次元ごとの感度指標は,全出力次元にわたって不確実性の帰属構造を維持する。
- 数値実験により,提案手法の精度,スケーラビリティ,実用性が確認された。
大規模言語モデルにおける連想的干渉を評価するための二段階統計的フレームワーク [stat.ME, cs.AI]目的:大規模言語モデルにおける連想的干渉の評価
- 言語モデルの公平性評価は重要であり,人間の心理実験パラダイムが応用されている。
- タスク遂行能力と拒否行動の混同が,明確な解釈を妨げる方法論的限界が存在する。
- 応答の遵守とタスクの一貫性を分離し,連想的干渉を正確に評価することを目指す。
- 大規模言語モデル間やドメイン間で,連想的干渉の効果に顕著な差が見られた。
- Claude Sonnet-4 は Gender--Career ドメインで強い干渉を示し,Gemini 2.5 Pro は低い干渉を示した。
- GPT-5 はドメイン全体でほとんどまたは全く検出可能な干渉を示さず,モデル特性の重要性が示された。
周波数認識型畳み込みTransformerによる聴覚的注意デコーディング [eess.SP, cs.AI, cs.LG, cs.SD, eess.AS]目的:多話者環境における神経応答から注意を払っている話者を推論すること
- 聴覚系の神経メカニズム解明は,脳神経インタフェースや補聴器等の開発に不可欠である。
- 既存の聴覚的注意デコーディングモデルは,周波数領域の脳波情報を十分に活用できていない。
- 周波数帯域特有の情報と,帯域間の相互作用を効果的にモデル化することで,デコーディング精度向上を目指す。
- 提案手法FAConformerは,既存の12個の基盤モデルを凌駕し,最先端モデルより4.9%高い性能を示した。
- 周波数帯域ごとの重要度分析により,提案手法が周波数情報を有効活用していることが確認された。
- 帯域ごとの補助的学習により,各ブランチの最適化を促進し,モデルの頑健性を向上させた。
極値に対する勾配ブースティング:サンプリング理論と保険への応用 [stat.ML, cs.LG]目的:極値分布推定における勾配ブースティング法の統計的学習理論
- 保険リスク評価において,極端な事象の正確なモデリングは不可欠である。
- 従来の極値モデルでは,推定精度に限界があり,特に高次元データへの適用が困難である。
- 勾配ブースティング法を用いて,極値分布の推定精度向上と安定化を目指す。
- 勾配ブースティング法における再パラメータ化が,勾配相関を低減し,収束性を改善する。
- テキサス州の医療賠償責任保険データへの適用により,保険金支払額分布のテール部分への良好な適合が確認された。
- 保険金支払額のテールヘビーネスの主要な予測因子は,解決までの日数であることが示された。
集団ベース最適化のための演算子解析:平均場収束理論 [math.OC, cs.LG, cs.NA, cs.NE, math.NA, stat.ML]目的:集団ベース最適化手法の収束性解析
- 非凸問題やブラックボックス問題に対し,多様な最適化手法が用いられる分野。
- アルゴリズム固有の手法に依存し,統一的な収束性解析が困難であった。
- 演算子解析に基づき,幅広い手法の収束性を証明する理論的枠組みを構築する。
- 変異,選択,組換えという3つの基本演算子の組み合わせで最適化手法を記述する演算子解析を導入。
- 連続時間極限は,輸送反応ジャンプ(TRJ)偏微分方程式で表現され,演算子の分割構造を維持する。
- 状態空間におけるリャプノフ関数と探索空間の指標を制御することで,指数的な収束が証明された。
連続的な時空間ダイナミクスの非局所ベイズモデリング [stat.ML, cs.LG]目的:連続的な時空間ダイナミクスの非局所ベイズモデル
- 現実世界の時空間予測は,不確実性の定量化と並んで,不規則な時間と空間的な疎な観測を扱う必要がある
- 長距離空間結合を含む非局所的相互作用のモデリングは困難であり,従来のベイズ推論を困難にする
- 連続空間・連続時間における非局所的ダイナミクスを捉え,現実的な予測を可能とするモデルを提案する
- 提案手法NLBSTは,空間基底関数展開とニューラルODEを用いて,非局所的結合を学習し,現実的な計算を可能にする
- 欠損値や不規則な観測に対応したカルマンフィルタのような逐次更新が可能であり,学習済みのパラメータは空間的に一般化する
- 実験結果から,NLBSTは,特に非局所的で観測が不完全な状況において,既存手法を大きく上回る予測性能と不確実性の定量化を示す
隠れた重み付き疎グラフの回復閾値 [math.ST, cs.IT, cs.LG, math.IT, stat.TH]目的:高次元データからの構造情報の回復
- 統計的推論において,ノイズを含む高次元データから構造を復元することは基本的な課題である。
- グラフ構造の回復閾値に関する明確な理解が不足しており,効率的な回復アルゴリズムの開発が困難である。
- 重み付き完全グラフに隠されたグラフを回復するための情報理論的な限界を特定し,ほぼ正確な回復を可能とする。
- 分布 $P_n$ と $Q_n$ の間のレーニィーダイバージェンスの局所的なリプシッツ連続性に基づいて,回復閾値の統一的な特徴付けを提供した。
- この特徴付けは,$P_n$ と $Q_n$ の間のKLダイバージェンスを,Erdős-Rényiランダムグラフモデル $G(n,p)$ における $H$ の最初のモーメント閾値の対数と関連付ける。
- ベルヌーイ,指数,ガウス分布において,指数規模でのオールオアナッシング現象が示された。
機械学習による粒子フロー:衝突実験物理学の基礎モデル [physics.soc-ph, cond-mat.stat-mech, cs.CL, hep-ex, cs.LG, hep-ph, physics.data-an, physics.ins-det]目的:衝突実験における物理解析のための基礎モデルの確立
- 高エネルギー物理学は,宇宙の根源的な謎を解き明かす上で不可欠な分野である。
- 従来の解析手法は,各段階が独立しており,効率性と精度に限界がある。
- 本研究は,機械学習を用いてデータ処理を統合し,解析の効率と精度向上を目指す。
- 機械学習モデル(MLPF)を再利用することで,ジェットフレーバー識別,エネルギー回帰,およびミッシングモーメンタム回帰といった様々な解析タスクにおいて性能が向上した。
- MLPFで学習された潜在表現を入力特徴量として追加することで,従来の運動学的特徴量のみを用いたベースラインを大幅に上回った。
- 潜在表現のみを用いた単層線形モデルは,最先端のベースラインと同等の性能を示し,特にミッシングモーメンタム回帰においては,パラメータ数を大幅に削減しながらも上回る結果が得られた。
サイズおよび機能転移可能なハミルトニアン予測のための固定点ニューラル演算子 [math.GT, cs.CG, math.CO, cs.DM, q-bio.PE, physics.chem-ph, cs.AI]目的:サイズおよび機能転移可能なハミルトニアン予測手法
- 分子の電子状態を正確に計算することは,材料科学や創薬において重要な課題である。
- 従来の密度汎関数理論計算は計算コストが高く,大規模分子系への適用が困難である。
- 機械学習を用いてハミルトニアンを予測することで,計算コストを削減し,大規模分子系への適用を可能にすることを目指す。
- HamEvoは,自己無撞着場反復の1ステップ更新を学習し,その固定点を収束ハミルトニアンとして返すニューラル演算子である。
- ベンチマークテストの結果,HamEvoは既存の手法と比較してハミルトニアン誤差を35-49%低減し,QMugsのHOMOおよびLUMOエネルギーを高い精度で予測した。
- 少量データでのファインチューニングにより,最大122原子の分子にも適用可能であり,従来のDFT計算よりも最大242倍高速である。
訓練分布を超えて:分布シフトと選択バイアス下での予測評価 [stat.ML, cs.LG, stat.ME]目的:分布シフトと選択バイアス下の予測モデルのターゲットリスク推定
- アルゴリズムが意思決定に影響を与える場合,展開前にモデルの性能を理解することは,損害を防ぐ上で不可欠である。
- 共変量シフトや選択的ラベルなどにより,モデルの性能が低下する可能性がある。
- 共変量シフトと選択的ラベルが同時に存在する状況下での,より正確なターゲットリスク推定手法を開発する。
- 提案手法は,標準的な仮定の下でターゲットリスクを識別可能であり,バイアス補正された推定量を導出できる。
- eICUデータベースを用いた実験により,提案手法は,共変量シフトまたは選択的ラベルのいずれか一方のみに対処する方法よりも,ターゲットリスクをより正確に追跡することが示された。
- 既存の標準的なプラグインアプローチを組み合わせたベースライン手法と比較しても,優れた性能を示した。
ミューオンに対する自由な重い裾のランチ:経験的成功の理論的根拠 [math.OC, cs.LG, stat.ML]目的:重い裾を持つ非凸領域における,非ユークリッド最適化手法のサンプル複雑度の解析
- Transformerモデルの学習において,最適化手法の性能向上は重要であり,計算効率が課題となっている。
- 非ユークリッド手法の理論的な利点が十分に解明されておらず,ユークリッド手法との比較が困難である。
- 重い裾を持つ確率分布における,非ユークリッド手法のサンプル複雑度最適性を証明し,その理論的優位性を示す。
- 重い裾を持つ確率分布下において,ミューオンなどの非ユークリッド手法は,ユークリッド手法よりも優れたサンプル複雑度を示すことが示された。
- ミューオンは,次元数に依存しない形でノイズを吸収し,$\varepsilon$-stationary pointを効率的に見つけることができる。
- 提示されたサンプル複雑度は,核ノルムの静止性条件下での全一次最適化手法に対する最適解であることが証明された。
拡散アプローチによる地域気候モデルの模倣:生成機械学習の付加価値とは何か [physics.ao-ph, cs.AI, cs.LG]目的:地域気候モデルの機能的模倣
- 地球温暖化の影響評価において,地域規模での詳細な気候変動予測が不可欠である。
- 地域気候モデルの計算コストが高く,効率的な代替手法が求められている。
- 拡散モデルを用いた地域気候モデルの模倣による,不確実性の定量化を目指す。
- 拡散に基づくアプローチは,降水分布の統計的特徴を高精度に再現することが示された。
- 特に,分布の裾野や空間的に複合的な極端現象の再現性が確認された。
- しかし,最も極端な地域気候モデルのシミュレーション結果を,不確実性範囲内で捉えるには,さらなる進歩が必要である。
クラスタLOCO:クラスタ解釈のための特徴量の重要度 [stat.ML, cs.LG, stat.AP, stat.ME]目的:クラスタリングにおける特徴量の重要度の評価
- データ分析や科学的発見においてクラスタリングは不可欠だが,大規模データでは解釈が困難である。
- クラスタリング結果の解釈,検証,再現性は課題であり,特徴量レベルの説明は少ない。
- アルゴリズムやデータに依存しない,クラスタリングの特徴量重要度評価手法を開発する。
- 提案手法Cluster LOCOは,特徴量の遮蔽とクラスタリングの一般化可能性に基づき重要度を評価する。
- データ分割に基づくCluster LOCO-Splitと,大規模データ向けのCluster LOCO-MPの二種類を提案した。
- シミュレーションと単細胞トランスクリプトーム解析で,既存手法より信頼性の高い結果が得られた。
図書館における人工知能と機械学習の応用:系統的レビュー [cs.DL, cs.AI, cs.LG]目的:図書館における人工知能と機械学習の応用の実証研究の統合
- 情報技術の進展は,図書館運営の効率化や新たなサービス提供に不可欠である。
- 人工知能と機械学習の図書館への応用は始まったばかりであり,体系的な研究が不足している。
- 図書館における人工知能と機械学習の応用状況を明確にし,今後の発展を促進すること。
- 現在の研究は理論的な考察が中心であり,実装事例やケーススタディは限定的である。
- 本研究は,研究者,実務家,教育者に対して,図書館における人工知能と機械学習の全体像を提供する。
- 技術志向のアプローチを推進し,将来の革新的な経路を予測するための基礎となる。
クラス・ポーズ分解による等変表現学習 [cs.LG, math.GR]目的:データ対称性に対する等変性を有する表現の学習
- データ解析において,対称性を考慮した表現は,汎化性能向上に不可欠である。
- 既存手法では,対称性を十分に捉えきれず,表現の解釈性や分離性が課題となっていた。
- 本研究は,データの本質的なクラスとポーズを分離し,等変性を保証する表現学習を目指す。
- 潜在空間を不変因子と対称性群に分解することで,データクラスとポーズを意味的に分離することに成功した。
- 相対的な対称性情報を損失関数に取り込むことで,理論的に保証された等変性を持つ表現を学習できることを示した。
- 多様な対称性を持つデータセットでの実験により,提案手法が既存手法よりもデータの幾何学構造をより良く捉え,優れた性能を発揮することが確認された。
イベントログを用いた強化学習による最適方策の学習:深層学習とMDPベースアプローチの比較 [cs.AI]目的:イベントログから最適方策を学習すること
- 業務プロセスの最適化は,企業活動の効率化や生産性向上に不可欠である。
- 既存手法は,事前に定義された介入策に限定され,柔軟性に欠ける場合がある。
- データから直接最適な行動系列を学習し,KPIを最大化することを目指す。
- 提案手法は,強化学習を用いてイベントログから最適方策を学習し,KPIの改善に貢献する。
- MDPベースのアプローチと深層強化学習は,KPI改善効果に大きな差は見られなかった。
- MDPベースのアプローチは,深層強化学習よりも計算効率に優れていることが示された。
MirrorCheck:ビジョン言語モデルに対する効率的な敵対的防御 [cs.RO, cs.CV, cs.AI, cs.LG]目的:ビジョン言語モデルの敵対的攻撃に対する堅牢な検出
- ビジョン言語モデルは急速に進化しており,様々な応用分野で利用が拡大している。
- 既存の防御策を回避する高度な敵対的攻撃に対して脆弱であるという課題がある。
- 適応的な攻撃に対する堅牢性を高める防御フレームワークを開発すること。
- MirrorCheckは,テキストから画像生成モデルを利用し,画像とキャプションの意味的一貫性を評価する。
- 複数の画像生成モデルやエンコーダーをランダムに選択することで,適応攻撃への耐性を向上させている。
- One-Time-Use摂動をエンコーダー埋め込みに適用し,攻撃の効果を抑制する。
多項式畳み込みネットワークの幾何学と最適化 [cs.LG, math.AG]目的:多項式畳み込みネットワークの幾何学的性質と最適化
- 深層学習モデルの表現能力を理解する上で,その幾何学的構造の解析は不可欠である。
- 既存のニューラルネットワークのパラメータ空間の複雑さが,最適化のボトルネックとなっている。
- ニューラルネットワークの最適化における臨界点の数を定量的に評価する。
- 単項式活性化関数を持つ畳み込みニューラルネットワークのパラメータ化マップが正則であり,ほぼ至るところで同型である。
- ニューロマニフォールドの次元と次数を計算し,モデルの表現力を評価した。
- 一般的な大規模データセットにおいて,回帰損失の最適化における臨界点の数を明示的に定量化する公式を導出した。
病院退院記録からの診断の自動同定:弱学習を用いた自然言語処理 [cs.CL, cs.LG]目的:病院退院記録からの患者診断の同定
- 大規模コホート研究や疫学研究において,患者診断の抽出は不可欠である。
- 従来の教師あり学習は,大規模テキストデータに対する手動アノテーションが困難である。
- 弱学習により,手動アノテーションの負担を軽減しつつ診断を同定すること。
- イタリア語の退院記録に対し,文書レベルの手動アノテーションなしに診断を分類するパイプラインを開発した。
- 気管支炎の症例研究では,AUROCが77.68%,AUPRCが73.13%,F1スコアが78.14%を達成した。
- 弱学習モデルは,教師あり学習モデルに匹敵し,手動アノテーション時間を1500時間以上削減した。
アフリカのデータセンターにおける水効率データセット [cs.LG, cs.CY]目的:アフリカ41か国におけるデータセンターの水使用効率推定
- AI計算とデータセンターは大量の水を消費し,持続可能性への関心が高まっている。
- 先進国中心の研究が多く,アフリカのような発展途上国における水使用状況は不明であった。
- アフリカの気候特性を考慮したデータセンターの水使用効率を評価し,実態を把握すること。
- 本研究で構築したデータセットを用いて,アフリカ11か国におけるLLM推論時の水消費量を推定した。
- Llama-3-70Bによる10ページレポート作成では0.66リットル,GPT-4では59リットルの水消費量が見積もられた。
- 同じAIモデルを用いた場合,アフリカの多くの国で,世界平均よりも低い水消費量であった。
ANSR-DT:適応的かつ説明可能なデジタルツインのための神経記号フレームワーク [cs.AI, cs.HC, cs.LG, cs.SC]目的:適応的かつ説明可能なデジタルツインのための神経記号フレームワーク
- 産業システムの監視・最適化にデジタルツインの利用が増加しており,その重要性は高まっている。
- 既存のフレームワークは解釈が難しく,適応性が低く,専門知識の組み込みに限界があるという課題があった。
- 解釈可能性と適応性を両立した,信頼性の高い産業用デジタルツインの基盤を提供することを目的とする。
- ANSR-DTは,時間的異常検知,記号推論,強化学習ベースの意思決定支援を統合したフレームワークである。
- CNN-LSTMモデルとPrologベースの推論を組み合わせることで,透明性の高い診断と追跡可能な意思決定経路を実現した。
- 8つのベースラインと比較して,予測性能,ルール抽出の安定性,スケーラブルな記号推論,実行可能な説明において競争力のある結果を示した。
ランダム特徴量を用いたノイズ除去スコアマッチング:拡散モデルに関する精密な学習曲線からの洞察 [cs.LG, stat.ML]目的:拡散モデルにおける汎化と記憶の現象の解明
- 拡散モデルは,画像生成等の分野で注目されており,その理論的理解が重要である。
- モデルの複雑さやデータセットの規模が,汎化性能や記憶に影響を与えることが示唆されている。
- ノイズサンプル数$m$が性能に与える影響を理論的に解明し,汎化と記憶のメカニズムを明らかにする。
- 拡散モデルの学習におけるテスト誤差と訓練誤差を,ランダム特徴量ニューラルネットワークを用いて解析した。
- データ数$n$,次元数$d$,特徴量数$p$が無限大に近づく条件下で,汎化と記憶の領域を特定した。
- 理論的結果は,実験結果と整合性があり,拡散モデルの理解に貢献する。
消失する奥行き:正弦波状奥行き前処理を用いた汎化奥行きアダプターの学習 [cs.CV, cs.AI]目的:汎化された奥行き理解の実現
- 精密な視覚誘導ロボット工学には不可欠であり,現実世界への応用が期待される。
- 既存の視覚エンコーダーは,正確な奥行き情報をサポートしていないという課題がある。
- 事前学習済みRGBエンコーダーに奥行き情報を統合し,汎化性能を高めることを目指す。
- 提案手法は,セグメンテーション,姿勢推定,奥行き補完といったRGBDタスクにおいて,既存手法を上回る性能を示す。
- SUN-RGBDセグメンテーションにおいて56.05 mIoUを達成し,最先端の奥行き認識型エンコーダーを凌駕する。
- 奥行き情報がない場合でも,空のマップや単一ピクセルの奥行き情報で奥行き対応特徴抽出が可能となる。
エッジ推論システムにおけるアウトエージの再検討 [cs.NI, cs.AI, cs.LG]目的:エッジ推論システムにおける推論アウトエージ確率の理論的フレームワーク
- 次世代モバイルネットワーク(6G)では,多様なIoTアプリケーションを支えるエッジ推論が重要となる。
- 既存研究は通信信頼性に焦点を当てており,推論精度や遅延といったエンドツーエンド性能の保証が不十分である。
- エンドツーエンドの推論精度低下の確率(推論アウトエージ確率)を定量化し,通信オーバーヘッドとのトレードオフを明らかにする。
- 提案フレームワークは,推論アウトエージ確率を数学的に特徴付け,通信オーバーヘッドと推論信頼性の間の基本的なトレードオフを確立した。
- ガウス近似を用いることで,推論アウトエージ確率の正確な代替関数を導出し,トレードオフの最適化を可能にした。
- 実験結果は,提案設計が従来の通信中心アプローチと比較して,エンドツーエンドの推論信頼性の点で優れていることを示している。
宇宙応用におけるFPGAベースのニューラルネットワークアクセラレータ:サーベイ [cs.AR, cs.AI]目的:宇宙応用におけるFPGAベースのニューラルネットワークアクセラレータの現状と将来展望
- 宇宙ミッションは高度化しており,高性能なオンボードコンピューティングシステムが不可欠である。
- 既存の宇宙用コンピューティングシステムは,性能,コスト,耐放射線性において課題がある。
- FPGAベースのニューラルネットワークアクセラレータによるオンボードコンピューティングシステムの性能向上を目指す。
- 本サーベイは,宇宙応用におけるFPGAベースのニューラルネットワークアクセラレータに関する既存研究を分析した。
- その結果,FPGAの柔軟性,コスト効率,耐放射線性といった特性が宇宙ミッションに適合することが示唆された。
- 今後の研究方向性として,更なる高性能化と省電力化が重要であることが明らかになった。
多様なモダリティと粒度における検索拡張生成 [eess.SY, cs.SY, cs.CL, cs.AI, cs.CV, cs.IR, cs.LG]目的:異種データからの知識検索と統合
- 質問応答の精度向上が求められる中で,外部知識を活用するRAGが注目されている。
- 既存のRAGはテキストデータに限定され,マルチモーダルへの拡張も単一モダリティに留まっている。
- 多様なモダリティと粒度に対応し,より適切な知識検索を実現すること。
- UniversalRAGは,モダリティ間のギャップを軽減するモダリティ認識ルーティングを提案する。
- 異なるモダリティと粒度を考慮することで,クエリに適した知識ソースから効率的に情報を取得する。
- 10種類のマルチモーダルベンチマークで,既存手法よりも優れた性能を示すことが確認された。
MOSIC:多制約を用いたモデル非依存型最適サブグループ識別による信頼性向上 [cs.LG]目的:信頼性向上のための最適サブグループの識別
- 個別化医療の実現には,患者を適切なサブグループに分類し,最適な治療法を提供する重要がある。
- 既存手法では,サブグループサイズや傾向スコアの重複といった臨床的制約が考慮されておらず,実用性に課題がある。
- 臨床的制約を直接最適化に組み込むことで,実用的なサブグループ識別を可能にすることを目指す。
- 本研究では,制約付き最適化問題を直接解く統一的なフレームワークを提案し,勾配降下法と勾配上昇法を用いて解く。
- 理論的に,提案手法が実行可能かつ局所最適解に収束することが示された。
- シミュレーションと実データを用いた実験により,高い効果と制約充足性が確認された。
Reward-SQL:段階的実行認識推論とプロセス監視報酬によるテキストSQLの性能向上 [cs.CL, cs.LG]目的:テキストSQLの性能向上
- データベース操作は情報取得の基盤であり,その自動化は効率化に不可欠である。
- 複雑なクエリに対し,従来の強化学習ベースのアプローチでは性能が十分ではない。
- データベースからのフィードバックに基づいた段階的推論と報酬設計により,複雑なクエリへの対応を目指す。
- 本研究では,CoCTEと呼ばれる分割統治と実行認識推論のフレームワークを提案し,中間ビューの検証と構造化されたCTEを用いてSQLクエリを段階的に構築する。
- Reward-SQLは,3段階の統一的なアプローチであり,モデルの初期化,プロセス報酬の設計,およびプロセス監視付き強化学習と推論を含む。
- 実験の結果,Reward-SQLは同程度のモデルサイズを持つベースラインを大きく上回り,高いドメイン汎化性能を示すことが示された。
説明責任のパラドックス:プラットフォームAPI制限がAI透明性義務に及ぼす影響 [cs.CY, cs.AI]目的:プラットフォームAPI制限によるAI透明性義務への抵触の実態
- AIの社会実装が進む中,その透明性と説明責任の確保が不可欠である。
- プラットフォームのデータアクセス制限が,アルゴリズムの透明性確保を阻害している。
- 透明性確保と独立した検証能力の維持の矛盾を解決し,政策提言を行う。
- 主要ソーシャルメディアプラットフォームのAPI制限が,EUデジタルサービス法の遵守を困難にしていることが判明した。
- X/Twitter,Reddit,TikTok,Metaの比較分析から,独立検証が困難な「監査の死角地帯」が特定された。
- AI利用の増加に伴い,独立した監視能力が制限されるという「説明責任のパラドックス」が明らかになった。
断片化された思考連鎖推論 [cs.LG, cs.AI, cs.CL, stat.ML]目的:大規模言語モデルにおける推論能力の効率化
- 大規模言語モデルの推論能力向上は,様々なタスクの自動化に不可欠である。
- 思考連鎖(CoT)は精度向上に寄与するが,計算コストと遅延が課題となる。
- CoTの断片化による効率化と,計算資源の最適配分を目指す。
- 提案手法であるFractured Samplingは,CoTと直接的な解答生成の中間を調整し,精度とコストのバランスを最適化する。
- 多様なベンチマークにおいて,Fractured Samplingは既存手法を上回り,トークン数に対する正解率を大幅に向上させる。
- 計算資源の配分方法に関する分析により,効率的かつスケーラブルなLLM推論の実現に貢献する。
スパースオートエンコーダのアンサンブル [cs.LG]目的:スパースオートエンコーダのアンサンブルによる表現学習の改善
- ニューラルネットワークの解釈可能性向上は,AIの信頼性と安全性確保に不可欠である。
- 単一のスパースオートエンコーダは,活性化空間の限られた特徴しか捉えられないという課題がある。
- 複数のスパースオートエンコーダを組み合わせることで,より豊かな特徴表現を獲得し,性能を向上させる。
- スパースオートエンコーダのアンサンブルは,単一のより大きなオートエンコーダと比較して,活性化の再構成性能と安定性を向上させる。
- バギングとブースティングというアンサンブル手法は,再構成誤差の低減という理論的根拠を持つ。
- 概念検出や虚偽相関の除去といった下流タスクにおいて,スパースオートエンコーダのアンサンブルはより優れた性能を示す。
LLMを活用したAIエージェントシステムとその産業応用 [cs.AI]目的:LLMを活用したAIエージェントシステムに関する研究
- AIエージェントは,自動化や効率化に不可欠であり,産業界での応用が期待されている。
- 従来のシステムは柔軟性や汎用性に欠け,複雑なタスクへの対応が困難であった。
- LLMの活用により,より高度で適応性のあるエージェントシステムの実現を目指す。
- LLMの登場により,AIエージェントシステムは柔軟性,推論能力,自然言語処理能力において大幅な進化を遂げた。
- 顧客サービス,ソフトウェア開発,製造自動化,教育,金融取引,医療など,幅広い分野での応用事例が確認されている。
- 推論の遅延,出力の不確実性,評価指標の不足,セキュリティ脆弱性といった課題が存在する。
FreshRetailNet-LT:生鮮小売における潜在需要の回復と予測のための在庫切れ注釈付き検閲需要データセット [cs.LG]目的:生鮮小売における検閲された需要データからの潜在需要の回復と予測
- 小売業において正確な需要予測は,在庫および価格設定方針を決定する上で不可欠である。
- 在庫切れ時の販売データ検閲により需要が観察されず,政策に系統的な偏りが生じるという課題がある。
- 在庫切れ時の正確な需要を推定し,より堅牢な需要予測モデルを開発することを目的とする。
- 本研究では,898店舗,863 SKUの時系列データを含む大規模なデータセットFreshRetailNet-50Kを公開した。
- 提案手法は,2段階の需要モデリングにより,在庫切れ時の潜在需要を再構築し,予測精度を2.73%向上させた。
- また,需要予測における系統的な過小評価を7.37%からほぼゼロに削減することに成功した。
LLMベース多エージェントシステムの統一的かつ包括的なコードベース:MASLab [cs.CL, cs.AI, cs.MA]目的:LLMベース多エージェントシステムに関する既存手法の統合と研究の促進
- 複雑なタスク解決において,LLMの単独利用の限界を克服し,より高度な応用を可能にする分野である。
- 既存手法の再実装の冗長性,公平な比較の困難さ,研究参入障壁の高さが課題となっている。
- 既存手法の統合と標準化された評価環境を提供し,研究の効率化と発展を目指す。
- MASLabは,20以上の既存手法を統合し,公式実装との厳密な比較検証を行った。
- 統一された環境とベンチマークを提供することで,手法間の公平な比較を可能にした。
- 共通の構造で実装することで,理解と拡張の障壁を低減し,研究の促進に貢献する。
センチネル:注意機構プローブによるコンテキスト利用の解読を通じた効率的なLLMコンテキスト圧縮 [cs.CL, cs.AI]目的:効率的なLLMコンテキスト圧縮のためのコンテキスト利用の解読
- 大規模言語モデル(LLM)の性能は,利用するコンテキストの質に大きく左右される。
- 検索拡張生成(RAG)では,長くてノイズの多いコンテキストがボトルネックとなる。
- LLMの推論時のコンテキスト利用挙動に基づいた圧縮手法を開発し,その効率化を図る。
- センチネルは,凍結されたLLMの注意機構パターンから推論時のコンテキスト利用挙動を解読する軽量なフレームワークである。
- 0.5Bのプロキシモデルを用いて,最大5倍の圧縮を実現しつつ,7Bスケールのモデルに匹敵する質問応答性能を達成した。
- 英語のQAデータで学習されたセンチネルは,中国語や異なるドメインへの汎化性能も高い。
EqCollide:等変かつ衝突を考慮した変形物体のニューラルシミュレーター [cs.LG, cs.CE, cs.RO]目的:変形物体の衝突シミュレーション手法
- 現実世界のシミュレーションは,ロボティクスやコンピュータグラフィックス等で不可欠である。
- 既存手法は,物理的対称性への対応,衝突処理,スケーラビリティに課題がある。
- 物理的対称性を考慮した,高精度でスケーラブルな衝突シミュレーションを実現する。
- 提案手法EqCollideは,変形物体の形状と速度を潜在的な制御点に変換する等変エンコーダーを用いる。
- 制御点間の相互作用を,衝突を考慮したメッセージパッシングにより,等変グラフニューラルネットワークでモデル化する。
- 実験結果から,EqCollideは多様な物体配置において,高精度,安定性,スケーラビリティを実現することが示された。
拡散ブロック:拡散解釈によるブロック単位のニューラルネットワーク訓練 [cs.LG, cs.AI, stat.ML]目的:ブロック単位のニューラルネットワーク訓練の実現
- モデルの規模拡大が課題であり,メモリ消費量の削減が重要である。
- 従来のブロック単位訓練は,限定的なタスクにしか適用されていなかった。
- 拡散解釈を用いることで,大規模モデルのブロック単位訓練を可能とする。
- 拡散ブロック訓練は,従来のend-to-end訓練と同等の性能を達成した。
- メモリ要件をブロック数に比例して削減し,スケーラブルな訓練を実現した。
- 様々なトランスフォーマーアーキテクチャにおいて,拡散ブロックの有効性が確認された。
UltraSketchLLM:スケッチとハードウェアフレンドリーな演算による1ビット未満のLLM圧縮 [cs.LG, cs.AI]目的:大規模言語モデルの極限圧縮
- LLMの性能向上に伴い,必要なGPUメモリ容量が増大しており,効率的な圧縮技術が不可欠である。
- 既存の圧縮手法は理論的な限界があるか,性能劣化や非効率性が課題となっている。
- リソース制約のある環境下でのLLM展開を可能にする,高性能な圧縮手法の開発。
- UltraSketchLLMはデータスケッチを用いてLLMを圧縮し,GPUメモリ使用量を大幅に削減した。
- 圧縮率は1ウェイトあたり0.5ビットまで低下し,性能劣化を抑制しつつ低遅延を実現した。
- ハードウェアフレンドリーな実装により,naiveなスケッチ解法と比較して14.9倍の高速化を達成した。
小規模から大規模へ:アソートメント最適化問題を解くためのグラフ畳み込みネットワークアプローチ [cs.DM, cs.LG]目的:アソートメント最適化問題に対する効率的な解法
- アソートメント最適化は,収益最大化に不可欠であり,特にeコマース等の分野で重要な課題である。
- 組み合わせ最適化問題であり,問題規模が大きくなるにつれて計算コストが増大する。
- グラフ畳み込みネットワークを用いて,問題規模によらず高精度かつ高速な解法を確立する。
- 提案手法では,20製品で学習したGCNが,2,000製品の問題に対して最適な収益の85%以上を数秒で達成した。
- 既存のヒューリスティクスと比較して,精度と効率の両方で優れた性能を示した。
- 未知の選択モデルに対しても,取引データを用いて同様の性能とスケーラビリティを実証した。
ソートアルゴリズムからスケーラブルなカーネルへ:高次元順列空間におけるベイズ最適化 [cs.LG, cs.AI]目的:高次元順列空間におけるベイズ最適化のための効率的な順列表現の生成
- ベイズ最適化はブラックボックス最適化に有効だが,高次元順列空間への適用は表現のスケーラビリティが課題となる。
- 既存手法は全てのペアワイズ比較が必要で,大規模順列には不向きな高密度な表現となる。
- ソートアルゴリズムから導出されるカーネル関数を用いて,スケーラブルな順列表現を可能にし,最適化性能を向上させる。
- 本研究で提案するマージカーネルは,低次元設定ではマローズカーネルと競合する性能を示す。
- 次元数が増加するにつれて,マージカーネルは最適化性能と計算効率においてマローズカーネルを大きく上回る。
- 実験結果から,マージカーネルが高次元順列空間におけるベイズ最適化のスケーラブルかつ効果的な解決策であることが示された。
PERRY:補助データを用いた信頼区間付きの政策評価 [cs.LG, stat.ML]目的:オフポリシー評価における政策価値の信頼区間構築
- 強化学習の政策展開前に価値を評価することは,安全かつ効率的な導入に不可欠である。
- 補助データは評価精度を向上させる可能性があるが,偏りを含み,不確実性の定量化が課題である。
- データ拡張を用いたオフポリシー評価において,妥当な信頼区間を構築し,安全な政策展開を支援すること。
- 提案手法は,状態空間が連続的なマルコフ決定過程に適した新しい適合予測法を導入することで,状態sにおける政策価値の信頼区間を構築する。
- 平均政策性能の推定においては,二重ロバスト推定と予測推論のアイデアを活用した手法を開発した。
- シミュレーションと実際の医療データセットにおいて,提案手法は補助データを効果的に活用し,真の政策価値をカバーする信頼区間を生成できることが示された。
スマートシティにおける高度なマッピングのためのVision Transformerによる遍在するRFデータと空間画像の融合 [cs.CV, cs.AI]目的:スマートシティにおけるマッピング精度の向上
- 都市のスマート化において,高精度な地図作成は不可欠であり,様々なサービス基盤となる。
- 既存の地図データには誤りが含まれる場合があり,RFデータのみでは精度に限界がある。
- RFデータと空間画像を効果的に融合することで,地図作成の精度向上を目指す。
- 提案手法は,既存の地図データとRFデータをVision Transformerで統合し,空間依存性を捉える。
- 合成データセットでの評価において,Jaccard indexは65.3%を達成し,既存手法を大きく上回った。
- オスロ地域の現実データでも64.9%のJaccard indexを達成し,実用性も確認された。
PCR-CA: コントラスト対比による複数カテゴリアプリ推薦のための並列コードブック表現 [cs.IR, cs.LG]目的:複数カテゴリアプリの推薦性能向上
- アプリストアの推薦システムは重要であり,パーソナライズされた体験を提供することでユーザーエンゲージメントを高める。
- 従来の分類法では,アプリの持つ多岐にわたる意味を捉えきれず,推薦精度が低下する問題がある。
- 複数カテゴリに属するアプリの意味的曖昧さを解消し,より適切な推薦を実現することを目指す。
- 提案手法PCR-CAは,既存のベースラインモデルと比較してAUCを0.76%向上させた。
- 特に,ニッチなアプリに対するAUCは2.15%改善され,効果が実証された。
- オンラインA/Bテストでは,CTRが10.52%上昇,CVRが16.30%改善し,実用性も確認された。
