arXiv雑要約
AI - 2026/03/18 公開
条件付き分布治療効果:二重ロバスト推定と検定 [math.OC, cs.SY, eess.SY, stat.ML, cs.LG, math.ST, stat.ME, stat.TH]目的:条件付き分布治療効果の推定と検定
- 治療効果の評価において,平均効果だけでなく分布全体への影響を把握することは重要である。
- 従来の治療効果の評価法では,分布の分散や裾リスクの変化といった影響を捉えきれない場合がある。
- 共変量に依存した分布全体への治療効果を捉え,その均質性を検定することを目的とする。
- 提案手法は,局所漸近的意味でミニマックス最適となる二重ロバスト推定器を提供する。
- 最大平均不一致(MMD)を超える差異に対応し,型Iエラーが保証され,固定された代替仮説に対して一貫性のある検定を開発した。
- MMDを含む二つの自然な不一致の正確な閉形式表現を導出し,計算効率の高い順列不要アルゴリズムを提供する。
半教師ありノード分類における幾何学的不均衡 [math.CO, cs.DM, math.OC, cs.SY, eess.SY, cs.LG]目的:グラフデータにおけるノード分類の課題解決
- グラフ構造データは,ソーシャルネットワーク等に応用され,その重要性が増している。
- クラス不均衡はノード分類の性能を著しく低下させる要因となっている。
- 幾何学的不均衡に着目し,ロバストなノード分類手法を開発する。
- 幾何学的不均衡の概念を導入し,その理論的分析を行った。
- 擬似ラベル調整,ノード並べ替え,曖昧性フィルタリングを含むフレームワークを提案した。
- 様々なベンチマークで既存手法を上回り,特にクラス不均衡下で顕著な性能向上を示した。
不完全な情報源を活用したブラックボックス監査におけるフェアウォッシングの検出 [cs.MA, cs.LG, cs.CY, cs.SE]目的:フェアウォッシング検出のための二重情報源監査モデル
- AI規制の強化に伴い,アルゴリズム監査の重要性が高まっている。
- 監査APIはプラットフォーム側に制御されており,欺瞞的な操作が可能である。
- 複数の情報源を用いることで,プラットフォーム側の操作を検出しようとする。
- 提案手法である二重情報源監査モデル(2SAM)は,監査APIと信頼できる独立したデータストリームを比較する。
- シミュレーションにより,単一情報源の監査では操作を見抜けない割合が明らかになった。
- UCI Adultデータセットを用いた実験で,70%の検出率を127回の検証クエリで達成した。
変形不変ニューラルネットワークとその歪み画像復元および解析への応用 [cs.CV, cs.AI, eess.IV]目的:幾何学的歪み画像に対する画像処理タスクの性能向上
- 画像認識等の分野において,幾何学的歪みは重要な課題である。歪みに対するロバスト性が求められる。
- 従来の深層学習モデルは,幾何学的歪み画像に対して十分な性能を発揮できないという問題点がある。
- 幾何学的歪み画像に対しても一貫した潜在特徴を出力し,より高精度な画像処理を実現することを目標とする。
- 提案手法であるDINNは,既存の深層学習ネットワークに軽量な準等角変換ネットワークを組み込むことで,歪みに強い特徴抽出を可能にする。
- DINNは,大気乱れや水面乱れによる歪み画像に対して,GANベースの復元手法よりも優れた性能を示すことが確認された。
- また,大気乱れ下における顔画像認証においても良好な結果が得られ,提案手法の有効性が示された。
LMCマルチタスクガウス過程モデルの正確かつ一般的な分離解法 [cs.LG, stat.ML]目的:LMCマルチタスクガウス過程モデルの効率的な計算手法
- 複数タスクの同時学習は,データ効率や汎化性能の向上に繋がり,様々な分野で重要性が増している。
- LMCモデルは表現力がある一方,計算量がデータ数とタスク数の3乗に比例するため,大規模データには適用が困難であった。
- 本研究では,LMCモデルの効率的な計算を可能にする分離解法を,より一般的な仮定の下で提示し,実用性を高める。
- 提案手法「Projected LMC」は,既存のマルチタスクガウス過程モデルと比較して,計算効率と解釈性に優れている。
- 特に,学習データの更新や交差検証といった計算を容易にし,低次元量の情報を明示的に取得できる点が特徴である。
- この特性により,マルチタスクベイズ最適化などの幅広い手法の産業応用を促進することが期待される。
精神病理学における潜在的要因を特定するための臨床質問紙の解釈可能な因子分解 [cs.LG, cs.NA, math.NA, stat.AP]目的:精神病理学の潜在的要因の特定
- 精神疾患の研究において,質問紙データから行動における精神病理の現れ方を理解することは重要である。
- 従来の因子分析では,得られる要因の解釈が困難であったり,交絡変数の影響を受けやすいという問題がある。
- 質問紙データの特性に合わせた正則化を用いて,要因の解釈可能性と安定性を向上させることを目指す。
- 提案手法ICQFは,従来の因子分析と比較して,特にデータセットサイズが小さい場合に,解釈可能性を向上させつつ,診断情報を維持することが示された。
- ICQFは,精神疾患の範囲にわたって良好な診断情報を維持し,専門家による解釈可能性の評価において優れていることが確認された。
- 本研究では,理論的な収束性保証を持つ最適化手順と,潜在次元を正確に検出するための自動化された手順を提示した。
drGT:薬剤応答予測のためのアテンション誘導遺伝子評価 - 薬剤・細胞・遺伝子異種ネットワークの活用 [cs.LG, q-bio.MN, q-bio.QM]目的:薬剤応答予測の精度向上と,予測根拠となる生物学的妥当性の両立
- 薬剤開発において,個々の患者に対する最適な薬剤選択は重要な課題である。
- 既存手法では,予測精度と解釈可能性を両立することが困難であった。
- 異種ネットワークを用いて,予測精度と生物学的根拠を兼ね備えた薬剤応答予測モデルを構築する。
- drGTは,GDSC,NCI60,CTRPデータセットにおいて,回帰予測性能で高い成績を収めた。
- 未知の薬剤や細胞株に対する予測においても,drGTは他のモデルを上回る$R^2$値を達成した。
- アテンション係数から得られた薬剤-遺伝子間の関連性は,既知の生物学的知見や文献情報と整合性を示した。
自動音声認識エラー訂正における特殊モデルの再検討 [cs.LG, cs.CL, cs.SD, eess.AS]目的:自動音声認識エラーの訂正
- 音声認識の精度向上は,人間と機械の自然な対話を可能にする上で不可欠である。
- 既存の手法では,音声認識特有のエラーパターンを考慮していない場合が多い。
- 低遅延かつ幻覚の少ない,より効果的なエラー訂正手法を開発すること。
- コンパクトなseq2seqモデルを用い,実データと合成データのエラーを用いて学習することで,LLMを凌駕する性能を達成した。
- 提案手法は,CTC,Seq2seq,Transducerなど,様々な音声認識アーキテクチャやドメインに一般化可能である。
- 特に,エラーの少ない環境において,LLMが苦手とする箇所で正確な訂正を実現する。
LLAMAFUZZ:大規模言語モデルによるグレイボックスファジングの強化 [cs.CR, cs.AI, cs.SE]目的:構造化データに対するグレイボックスファジングの性能向上
- ソフトウェアの脆弱性発見において,ファジングは重要な役割を担う。
- 構造化データに対するランダム変異戦略は効果が限定的である。
- 大規模言語モデルを活用し,構造化データの有効な入力を生成する。
- LLAMAFUZZは,既存のファザーと比較して平均で41個多くのバグを発見した。
- 47個のユニークなバグが,全テストにおいて特定された。
- AFL++と比較して,実世界のプログラムセットにおいて平均で27.19%多くのブランチをカバーした。
SG-DeepONet:ソース汎化深層演算子学習による全波形反転 [cs.LG]目的:全波形反転のためのソース汎化深層演算子学習モデル
- 地震探査において,地下構造を正確に把握することは資源探査や地盤評価等に不可欠である。
- 従来の深層学習を用いた全波形反転は,学習データのソース条件に依存し,現実的な地震シナリオへの対応が課題であった。
- 多様なソース条件に対する汎化性能を持つ全波形反転モデルを開発し,精度の高い地下構造復元を実現することを目指す。
- 本研究で開発したSG-DeepONetは,既存の深層学習モデルと比較して,変化するソース条件に対する反転精度とロバスト性を向上させる。
- SVFWIデータセットを構築し,周波数と水平位置を系統的に変化させることで,データ駆動型全波形反転のベンチマークを提供した。
- SG-DeepONetは,時間周波数特徴抽出,ソース物理パラメータ埋め込み,非線形融合による高精度な速度構造復元を可能にする。
幾何学的模倣から包括的生成へ:都市形態合成のための文脈情報を活用したマルチモーダル拡散モデル [cs.CL, cs.CV, cs.AI]目的:都市形態の包括的生成
- 都市の機能や活力を決定する都市形態の研究は不可欠である。都市計画やデザインの基礎となる。
- 既存のシミュレーション手法は,都市の意味や地理的文脈を融合させず,幾何学的な問題として単純化されがちである。
- 都市の意味,地理的文脈,空間的制約を融合させ,より忠実で多様な都市形態生成を目指す。
- 提案手法ControlCityは,画像,テキスト,メタデータといったマルチモーダル情報を活用することで,都市形態の生成において顕著な改善を実現した。
- FIDスコアは71.01%減少し50.94となり,MIoUスコアは38.46%向上し0.36となった。これにより,生成された都市形態の忠実性と空間的整合性が向上した。
- 異なる都市間でのスタイル転送や未知の都市におけるゼロショット生成が可能であり,モデルの汎化性能と制御可能性が確認された。
ドメイン指向時系列推論エージェント:推論と自動分析 [cs.LG, cs.AI]目的:時系列データの推論と自動分析
- 現実世界の様々な応用において,時系列分析は不可欠な役割を担っている。
- 従来の時系列分析手法は個別のタスクに限定されており,高度な推論は進んでいない。
- 複雑な時系列データの多段階推論を可能にし,実世界の問題解決に貢献すること。
- 本研究では,ドメイン特化型エージェントTS-Reasonerを開発し,LLMの推論能力と数値計算ツールを統合した。
- TS-Reasonerは,基礎的な時系列理解テストと複雑な多段階推論テストの両方で,汎用LLMを上回る性能を示した。
- これにより,実世界における時系列分析の自動化に向けたドメイン特化型エージェントの可能性が示唆された。
ハイパーグラフ畳み込みTransformerネットワークを用いた異常に強い時間的QoS予測 [cs.LG]目的:時間的QoS予測の精度向上
- サービス提供において,QoS予測は適切なサービス推奨に不可欠であり,その重要性は高い。
- 既存手法は,データスパース性やコールドスタートの問題を抱え,多様なユーザー嗜好の把握が困難である。
- 異常値や悪意のあるユーザー・サービスの影響を受けやすい現状を改善し,より高精度な予測を実現する。
- 提案手法HCTNは,ハイパーグラフ構造とグラフ畳み込みを組み合わせることで,高次相関を捉え,スパース性の問題を効果的に解決する。
- Transformerネットワークは,マルチヘッドアテンションと1次元畳み込み層を活用し,詳細かつ粗い時間的パターンを捉える。
- 異常検知機能も組み込まれており,WSDREAM-2データセットにおいて最先端の性能を示すことが確認された。
FreeGaussian:フロー微分を用いた3Dガウススプラットによる関節オブジェクトの注釈不要制御 [cs.RO, cs.HC, cs.CV, cs.LG]目的:関節オブジェクトの制御可能なガウススプラットの再構成
- 現実世界の応用において,関節オブジェクトの3D再構成は重要である。
- 既存手法は密なマスクや手動制御信号に依存し,汎用性に課題がある。
- 注釈なしで,カメラの動きと関節の動きを数学的に分離し,制御を可能にする。
- 提案手法FreeGaussianは,フロー微分を通じてカメラの動きと関節の動きを分離する。
- 2Dフローと3Dガウス動的フローの関係を確立し,フロー事前知識から動的ガウスモーションを最適化する。
- 3D球状ベクトル制御スキームを導入し,複雑な1D制御信号計算を不要とする。
データストリームにおける真値なしの頻度推定のための学習ベースのスケッチ [cs.LG, cs.DB]目的:データストリームにおけるキーごとの頻度推定
- データベースやネットワーク計測など,多くの分野で高速かつ大量のデータストリームにおける頻度推定が重要である。
- 従来のスケッチはメモリ制約が厳しく,粗い推定しかできないという課題があった。
- 真値やラベルが不要なオンライン学習とスケーラブルなアーキテクチャにより,高精度かつ高速な頻度推定を実現する。
- 提案手法UCL-sketchは,圧縮センシングを利用し,既存手法よりも低い誤差範囲で推定値を収束させる。
- 実データおよび合成データを用いた実験により,キーごとの精度と分布において既存手法を上回ることが示された。
- 特に厳しいメモリ制約下では,理論上の理想的なオラクルに近い品質を達成し,デコード速度は既存手法の約500倍に達した。
シーングラフ駆動データ合成による視覚生成トレーニング:任意のシーン生成 [cs.CV, cs.AI, cs.LG]目的:視覚生成モデルのトレーニングのためのデータ合成手法
- テキストから画像生成技術は進歩しているが,複雑なシーンの理解や意味的な整合性に課題がある。
- 既存のデータセットはノイズが多く,構成要素間の関係性が弱いため,複雑なシーンの学習が困難である。
- シーングラフを活用し,高品質な合成データを生成することで,生成モデルの性能向上を目指す。
- 本研究で開発した「Generate Any Scene」を用いることで,自己改善フレームワークにおいてStable Diffusion v1.5の性能が平均4%向上した。
- 少ない数の合成キャプション(800未満)でStable Diffusion v1.5をファインチューニングした結果,構成要素の組み合わせや難しい概念の生成においてTIFAスコアが10%向上した。
- GRPOアルゴリズムを用いてSimpleAR-0.5B-SFTをファインチューニングし,DPG-BenchにおいてCLIPベースの手法を5%上回る結果を得た。
脆弱性から対策へ:コードセキュリティにおけるLLMに関する系統的文献レビュー [cs.CR, cs.AI, cs.CL]目的:コードセキュリティ分野におけるLLMの利点と欠点の分析
- ソフトウェア開発において,セキュリティは不可欠であり,自動化ツールへの期待が高まっている。
- LLMはコード生成時に新たな脆弱性を導入する可能性があり,既存の脆弱性の検出も困難である。
- LLMが生成・検出・修正するコードのセキュリティに関する脆弱性の特定と対策を探求する。
- LLMはコード生成時に多様な脆弱性を導入することが示唆された。
- プロンプト戦略は,LLMの脆弱性検出および修正能力に大きな影響を与えることが確認された。
- データポイズニング攻撃は,LLMのパフォーマンスを著しく低下させる可能性があることが明らかになった。
機械学習がパーソナライズされるとき:予測と説明の評価 [cs.CL, cs.SI, cs.CY, cs.HC, cs.LG]目的:予測と説明に対するパーソナライズの影響の定量化
- 医療など,重要な分野では,個人情報の共有がより正確な予測や説明につながると期待される。
- パーソナライズが予測と説明に与える影響が十分に検証されていない。
- パーソナライズが予測と説明に与える影響の乖離を明らかにし,評価のための指針を示す。
- 予測精度が変化しなくても,モデルの解釈可能性が向上,または低下する可能性があることが示された。
- 集団サイズ,個人属性の数,パーソナライズによる期待される効果に基づいて,仮説検定の誤り確率の下限を導出した。
- データセットの特性によっては,効果を検証することが根本的に不可能になる場合があることが実データを用いて示された。
不完全情報ゲームに対する方策勾配法の再評価 [cs.LG]目的:不完全情報ゲームにおける深層強化学習アルゴリズムの性能比較
- 近年,不完全情報ゲームへの関心が高まっており,戦略的思考のモデル化が重要視されている。
- 既存の深層強化学習アルゴリズムは計算コストが高く,性能が必ずしも最適とは限らない。
- 汎用的な方策勾配法が,既存の手法と同等またはそれ以上の性能を発揮するか検証する。
- 大規模な実験の結果,フィクティシャス・プレイ,ダブル・オラクル,カウンターファクチュアル・リグレット最小化に基づく手法は,汎用的な方策勾配法に劣ることが示された。
- 今回の研究では,5つの大規模ゲームに対する正確なエクスプロイタビリティ計算を初めて公開し,深層強化学習アルゴリズムの比較を大規模に行った。
- 提示されたベンチマークは,不完全情報ゲームにおける強化学習の研究を促進すると期待される。
生成AIの学習と著作権法 [cs.CY, cs.AI, cs.LG]目的:生成AIの学習における著作権侵害の可能性
- AI技術の発展は社会に大きな変革をもたらす一方,著作権との関係が重要課題となっている。
- 生成AIの学習データには著作権保護されたものが多く含まれ,違法利用のリスクが存在する。
- 生成AI学習とTDM(テキスト・データマイニング)の法的差異を明確にし,適切な利用方法を模索する。
- 生成AIの学習は,TDMとは根本的に異なり,著作権侵害に該当する可能性が高いことが示された。
- 学習データの暗記現象は,著作権侵害の問題を独立して引き起こす可能性があることが指摘された。
- ISMIR(国際音楽情報検索会議)が,生成AIの公正な利用に関する議論に貢献することが期待される。
ガウススプラッティングのためのラプラス・ベルトラミ演算子 [cs.GR, cs.AI, cs.CV]目的:ガウススプラッティングにおけるラプラス・ベルトラミ演算子の計算
- 3Dガウススプラッティングはレンダリングから3D再構成まで応用が拡大しており,幾何学処理の需要が高まっている。
- 既存のアルゴリズムを適用するには,情報損失や計算コストの問題がある。ガウススプラッティングには外れ値が多く,幾何学処理に影響を与える。
- ガウススプラッティング上で直接ラプラス・ベルトラミ演算子を計算し,幾何学処理の精度向上を目指す。
- 本研究では,マハラノビス距離を用いてガウススプラッティング上でラプラス・ベルトラミ演算子を計算する手法を提案した。
- 提案手法は,ガウススプラッティングの中心点のポイントクラウドに対する精度が,従来のポイントクラウドラプラシアンよりも優れていることを実験で示した。
- また,提案した演算子は,最適化中の出力品質を評価するためにも利用できることがわかった。
スコアベース生成モデルにおける最適ノイズ除去:データ規則性の役割 [cs.LG, stat.ML]目的:スコアベース生成モデルにおけるノイズ除去手法の最適性
- 生成モデルは多様なデータ生成を可能にし,画像生成やデータ拡張など幅広い応用が期待される分野である。
- 既存手法では,データの規則性によって最適なノイズ除去方法が異なり,性能向上の課題があった。
- データ分布の規則性に着目し,最適なノイズ除去手法を理論的に解明し,次元の呪いを軽減することを目指す。
- データの規則性に応じて,full-denoisingとhalf-denoisingの性能が異なることが示された。
- データが十分規則的な場合,half-denoisingがfull-denoisingよりも優れていることが証明された。
- 特異な密度を持つデータ(混合ディラック測度など)において,full-denoisingが次元の呪いを緩和する可能性が示された。
LogicXGNN:グラフニューラルネットワークの説明のための根拠のある論理ルール [cs.LG]目的:グラフニューラルネットワークの説明における論理ルールの構築
- グラフニューラルネットワークは様々なタスクで高い性能を示すが,その判断根拠の説明が課題となっている。
- 既存の説明手法は,解釈可能な中間概念空間で忠実性を評価し,最終的なサブグラフ説明の根拠が不明確になりやすい。
- 本研究は,GNNのメッセージパッシング構造を捉えた信頼性の高い述語に基づく論理ルールを構築し,説明の根拠を明確にすることを目指す。
- LogicXGNNは,最先端手法と比較して,データに根差した忠実度(FidD)を平均で20%以上向上させる。
- LogicXGNNは,10〜100倍高速に動作し,高いスケーラビリティと有用性を示す。
- LogicXGNNによって生成される説明は,モデルの論理に忠実であり,観察可能なデータに確実に根ざしている。
MASS:適応的部分空間選択による融合 [cs.LG, cs.AI, cs.CV]目的:複数タスクのファインチューニング済みモデルの統合
- モデルの再利用性が高く,限られた計算資源での性能向上が期待される分野である。
- 既存のモデル融合手法では,個別にファインチューニングしたモデルの性能に及ばない場合がある。
- 適応的部分空間選択により,融合モデルの性能を向上させ,アンサンブルの代替とする。
- MASSは,タスク固有の更新を低ランク分解し,重要な特異成分のみを保存することで,複数のファインチューニング済みモデルを統合する。
- 推論時には,データ不要のルーターが入力の中間特徴を最も良く説明する部分空間を特定し,対応するタスク固有のブロックを活性化する。
- CLIPベースの画像分類において,最先端の性能を達成し,個別にファインチューニングしたモデルの平均精度を約98%まで回復する。
連続論理と有限領域を持つ連続構造における収束法則 [cs.LO, cs.AI, math.LO]目的:連続論理と有限領域を持つ連続構造における収束法則の証明
- 現代論理学は,従来の二値論理を超え,より柔軟な多値論理を必要としている。
- 多値論理における複雑な集約関数の取り扱いは,解析的な理解を困難にしている。
- 集約関数を持たない公式への漸近的等価性を示すことで,多値論理の解析を簡略化する。
- CLAにおける全ての公式は,漸近的に集約関数を持たない公式と同等であることが証明された。
- 変数のないCLAの公式について,確率が特定の区間に収束する値αが存在することが示された。
- この収束法則は,多値論理の確率的振る舞いを理解するための基礎となる。
LLM推論の最前線:推論のスケーリング,推論学習,そしてエージェントシステム [cs.AI, cs.CL]目的:LLMにおける推論能力の現状と動向の整理
- AIの高度化において,論理的推論,問題解決,意思決定といった推論能力は不可欠である。
- 既存の研究は,推論の段階や構成要素の観点から体系的に整理されていなかった。
- LLMの推論能力向上に向けた既存手法の分類と,今後の発展方向の明確化を目指す。
- 本調査では,推論の達成段階とアーキテクチャという二つの軸で既存手法を分類した。
- 推論のスケーリングから推論学習への移行,そしてエージェントワークフローへの変化といったトレンドが示された。
- 教師ありファインチューニングから強化学習まで,幅広い学習アルゴリズムと,エージェントワークフローのデザインが分析された。
CHARM:チャットボットアリーナのスコアを用いた報酬モデルの較正 [eess.SY, cs.SY, cs.AI, cs.LG]目的:報酬モデルの較正
- 大規模言語モデルの性能向上には,人間のフィードバックが不可欠であり,報酬モデルはその重要な役割を担う。
- 報酬モデルには様々なバイアスが存在し,誤った報酬ハッキングを引き起こす可能性がある。
- 特定のモデルに偏った報酬スコアを修正し,より公平で信頼性の高い報酬モデルを構築すること。
- CHARMは,チャットボットアリーナのEloスコアを利用して,バイアスの少ないデータセットを構築し,報酬モデルのスコアリングを調整する。
- 実験の結果,較正された報酬モデルは,RM-BenchやRewardBenchのChat-Hardドメインにおいて評価精度が向上した。
- また,Eloランキングとの相関性が高く,人間の選好との整合性も向上し,追加学習後の性能も改善された。
多様なAIペルソナが人間とAIの共同アイデア創出における均質化効果を軽減できる [cs.HC, cs.AI]目的:人間とAIの共同アイデア創出における均質化効果の軽減
- AI技術は創造性を拡張するが,集団の多様性を損なう可能性がある
- AIの活用により,アイデアが収束し,多様性が失われるという問題がある
- AIペルソナの多様性を導入することで,多様性を維持・向上させる
- 多様なAIペルソナから生成されたプロットは,テキスト埋め込み分析により多様性が確認された
- AIプロットを利用することで,人間のアイデアの多様性を維持し,場合によっては向上させた
- 均質化はAIの限界ではなく,均一な運用方法に起因する可能性が示唆された
NeuroSim V1.5:デバイス・回路レベルの非理想性を備えたCompute-in-Memoryアクセラレータのベンチマークのための改善されたソフトウェア基盤 [cs.AR, cs.AI, cs.LG]目的:Compute-in-Memoryアクセラレータのベンチマークのためのソフトウェア基盤の改良
- AI応用の急速な発展に伴い,データ転送によるエネルギー消費と遅延が課題となっている。
- 従来のノイマン型アーキテクチャのボトルネックを解消するため,メモリ内計算が注目されている。
- デバイス・回路レベルの非理想性を正確にモデル化し,効率的なアクセラレータ設計を可能にする。
- NeuroSim V1.5は,TensorRTとの連携により,より多くのニューラルネットワークをサポートする。
- 柔軟なノイズ注入手法により,SPICEシミュレーションや実測データを取り込みやすくなった。
- NeuroSim V1.4と比較して,最大6.5倍の高速化を実現し,効率的なシミュレーションが可能となった。
最小歪みによる非バイアス低ランク近似について [cs.RO, cs.DS, cs.IT, cs.LG, math.IT, math.PR, math.ST, stat.TH]目的:固定されたターゲット行列Pの最適な低ランク近似
- 行列計算はデータ解析や機械学習の基盤であり,効率的な近似手法が不可欠である。
- 既存の低ランク近似はバイアスを持つ場合が多く,精度低下や歪みの問題がある。
- 非バイアスかつ最小歪みを持つ低ランク近似アルゴリズムを開発し,精度向上を目指す。
- 提案手法はターゲット行列Pの特異成分に対して適用することで,期待されるフロベニウスノルム誤差を最小化する。
- このアルゴリズムは,ベクトルに対する効率的な非バイアス疎化問題の解決策を拡張したものである。
- 最適性も証明されており,既存の下限との誤差が一致することを示している。
テキストからグラフ検索の性能向上:合成された意味的洞察を用いた学習 [cs.IR, cs.AI]目的:自然言語によるクエリから関連グラフを検索する手法の性能向上
- ビジネスインテリジェンスにおいて,データに基づいた迅速な意思決定が重要であり,そのためにグラフ検索は不可欠である。
- 既存の評価基準では,現実的なユーザーのクエリやグラフの深い意味理解をテストすることが困難である。
- 現実的なビジネスシーンを想定した評価基準と,グラフの意味理解を深めるための学習データを提供すること。
- CRBenchという,21,862のグラフと326のクエリを含む現実的なBI由来のベンチマークを新たに構築した。
- 既存の手法は視覚的な特徴に依存しており,グラフの分析的な意味を捉えることができていないことが判明した。
- 多層的な意味的監督を用いたChartFinderモデルを開発し,CRBenchにおいて最先端手法を大きく上回る性能を達成した。
FALCON:視覚と言語の整合における対照的負例の偽陰性認識学習 [cs.CV, cs.AI]目的:視覚言語整合のための対照的負例学習における偽陰性への対応
- 大規模データセットにおける画像とテキストの多対多の関係から,偽陰性は視覚言語事前学習の重要な課題である。
- 従来の学習法では,偽陰性による矛盾した教師信号が埋め込み空間を劣化させ,ハードネガティブサンプリングの効果を損なう。
- FALCONは,各アンカーインスタンスに対して適切な難易度の負例を動的に選択し,偽陰性の影響を軽減する。
- FALCONは,ALBEF,BLIP-2,SigLIP-2を含む3つの視覚言語学習フレームワークにおいて性能を大幅に向上させた。
- 様々なダウンストリームタスクと評価設定において,FALCONの有効性と堅牢性が確認された。
- FALCONは,ハードネガティブと偽陰性のトレードオフを動的に調整し,クロスモーダル整合性を向上させる。
説明ユーザーインターフェース:体系的文献レビュー [cs.HC, cs.AI]目的:説明ユーザーインターフェースに関する解決策と設計指針の理解
- AI技術の進展は多岐にわたる分野で利用価値が高い。
- AIの意思決定過程が不透明なため,説明可能性が課題となっている。
- ユーザーにとって有用なAIシステムの設計を支援することを目的とする。
- 本研究は,説明ユーザーインターフェースに関する学術文献の体系的レビューを実施した。
- 効果的な説明表示のための解決策と設計指針について深く理解を深めた。
- 人間中心の開発を支援するプラットフォームHERMESを提示した。
強化学習による数ステップテキストから多視点拡散の改良 [cs.LG, cs.CV]目的:数ステップテキストから多視点拡散モデルの品質向上
- テキストからの画像生成技術は,多様な視点からの画像生成を可能にし,3Dコンテンツ作成などに貢献する。
- 数ステップモデルは高速だが,生成される各視点の品質や視点間の整合性に課題が残る。
- 本研究は,強化学習を用いて,数ステップテキストから多視点拡散モデルの品質と一貫性を向上させる。
- 提案手法MVC-ZigALは,生成された全ての視点を同時に評価する新しいマルコフ決定過程(MDP)を導入した。
- 自己改善サンプリングスキームを活用した新しい利点学習戦略により,強化学習の学習信号を強化した。
- ラグランジュ双対法を用いた統一的な強化学習フレームワークにより,単一視点と全体的な品質のバランスを取ることに成功した。
BiomedSQL:生物医学知識ベースにおける科学的推論のためのテキストからSQLへの変換 [cs.CL, cs.AI, cs.LG]目的:生物医学知識ベースに対するテキストからSQLへの変換における科学的推論の評価
- 生物医学研究では,大規模な構造化データベースが複雑な分析に不可欠である。
- 既存のテキストからSQLへの変換システムは,特に暗黙的なドメイン知識を必要とする場合に課題がある。
- 生物医学分野における科学的推論能力を向上させたテキストからSQLへの変換システムの開発。
- BiomedSQLは,生物医学知識ベースにおける科学的推論を評価するための新たなベンチマークである。
- Gemini-3-Proは実行精度58.1%を達成し,BMSQLは62.6%に達したが,専門家の基準である90.0%には及ばなかった。
- このデータセットは,構造化された生物医学知識ベースを介した科学的発見を支援するテキストからSQLへの変換システムの進歩に貢献する。
記憶から汎化へ:結合的記憶からの拡散モデルの創現 [cs.RO, cs.NI, cs.LG, cond-mat.dis-nn, cs.CV, q-bio.NC, stat.ML]目的:拡散モデルの創現過程における記憶と汎化の移行
- 生成モデルの性能向上には,データ記憶と新しいデータ生成能力のバランスが不可欠である。
- 結合的記憶では,記憶容量を超えると望ましくない偽の状態が現れ,記憶想起を妨げる。
- 拡散モデルにおける偽の状態が,生成能力の兆候であることを明らかにする。
- 拡散モデルは,学習データが少ない場合,各サンプルに対応する明確な引力点(アトラクタ)を作成する。
- 学習データ量が増加すると,拡散モデルは記憶から汎化へと移行し,その過程で結合的記憶の理論で予測される偽の状態が現れる。
- これらの偽の状態は,生成モデリングにおいて否定的なアーティファクトではなく,生成能力の最初の兆候として機能する。
VERINA:検証可能なコード生成のベンチマーク [cs.LG, cs.AI, cs.LO, cs.PL, cs.SE]目的:検証可能なコード生成に関する包括的な評価
- LLMがソフトウェア開発に不可欠となる中,生成コードの正確性確保が重要課題となっている。
- 既存のベンチマークは個別の要素に焦点を当てており,全体的な評価フレームワークが不足している。
- コード,仕様,証明の生成およびそれらの組み合わせを総合的に評価できるベンチマークの提供。
- VERINAは,Lean言語で記述された189のコーディングタスクを含む高品質なベンチマークである。
- 最新のLLMの評価により,検証可能なコード生成,特に証明生成における課題が明らかになった。
- OpenAI o3は,コード正答率72.6%,仕様の健全性・完全性52.3%であったが,証明の成功率はわずか4.9%であった。
ビザンチン攻撃下における分散学習のための符号化ロバスト集約 [cs.LG, cs.AI, cs.CR]目的:ビザンチン攻撃下における分散学習におけるロバスト性向上
- 近年,機械学習の分散学習が普及しているが,悪意のあるノードによる攻撃に脆弱である。
- 既存手法では,ノード間の勾配のばらつきが大きい場合,攻撃の影響を受けやすい。
- 符号化を利用し,勾配間の距離を縮小することで,攻撃に対するロバスト性を高める。
- 提案手法CRA-DLは,訓練データを冗長的に分散することで,勾配の類似性を向上させている。
- その結果,既存手法と比較して,ビザンチン攻撃下での学習性能が大幅に向上することが示された。
- 理論的な収束性解析と数値実験により,提案手法の有効性が確認された。
分布外グラフモデルの統合 [cs.LG]目的:分布外グラフモデル統合の解決策
- グラフニューラルネットワークは多様なタスクで高性能を示すが,ドメイン依存性が課題。
- 異なるドメインで学習したモデルを統合する際,分布のずれが性能低下の原因となる。
- ドメイン不変な知識を学習し,異種GNNの専門知識を統合することで汎化性能を向上させる。
- 提案手法は,複数のドメインの混合分布を生成するグラフ生成戦略を用いる。
- MoEモジュールとマスキング機構により,事前学習済みグラフモデルを統合・微調整する。
- 理論的分析と実験結果により,提案手法の汎化性能における有効性が示された。
RETRO SYNFLOW:正確かつ多様な単段階逆合成のための離散フローマッチング [cs.LG]目的:単段階逆合成予測の精度と多様性の向上
- 有機化学において,目的分子の合成経路特定は重要である。効率的な合成戦略の確立に不可欠であるため。
- 化学反応空間の組み合わせ的膨大さにより,既存の手法では,正確かつ多様な反応予測が困難である。
- 本研究では,離散フローマッチングを用いて,単段階逆合成における反応予測の精度と多様性を高めることを目指す。
- 提案手法RETRO SYNFLOWは,既存最先端手法よりも20%高いtop-1精度を達成した。
- 推論時のFeynman-Kac steeringにより,top-5 round-trip精度が19%向上し,多様性と実現可能性を高めた。
- 反応中心識別により,synthonsをより情報豊かな分布として活用し,生成されたサンプルの質を向上させた。
プライバシー保護型大規模言語モデルによる放射線レポート分類 [cs.CR, cs.AI, cs.CL, cs.LG]目的:放射線レポートの多異常分類のための差分プライバシー(DP)を活用した大規模言語モデルのファインチューニング手法
- 医療分野におけるAI活用は,診断支援や効率化に不可欠であり,その重要性は増している。
- 医療データのプライバシー保護とAIモデルの高性能化は相反する課題であり,解決が求められている。
- 差分プライバシーとLoRAを活用し,プライバシーを保護しながら高性能な異常分類モデルを開発すること。
- 提案手法は,MIMIC-CXRデータセットにおいて,適度なプライバシー予算下で最大0.89の重み付きF1スコアを達成した。
- この結果は,非プライバシーLoRA(0.90)や完全ファインチューニング(0.96)と比較して,わずかな性能低下で高いプライバシー保護が可能であることを示唆する。
- より大きなLLMで生成したラベルを用いてモデルを学習することで,効率的な推論と強力なプライバシー保証を実現した。
LLMは良いテキスト点字化ツールか? アラビア語とヨルバ語の事例研究 [cs.CL, cs.AI]目的:テキスト点字化の有効性
- 言語処理において,点字化はテキストの正確な解釈に不可欠であり,その自動化は重要である。
- 既存の点字化モデルは,言語やドメインに特化しており,汎用性に欠ける場合がある。
- 大規模言語モデルの点字化能力を評価し,その潜在的な問題を解決すること。
- 多くの既存LLMが,専門的な点字化モデルを凌駕する性能を示した。
- 小規模モデルでは幻覚が発生しやすいが,ヨルバ語データでのファインチューニングで改善が見られた。
- 小規模データセットでのファインチューニングは,点字化性能向上と幻覚の抑制に寄与する。
構造化された指示によるチャートからコード生成のための改良反復洗練法 [cs.CV, cs.AI]目的:チャートからコード生成における性能向上
- 視覚的理解能力を持つマルチモーダル大規模言語モデルは,様々な画像処理タスクで注目されている。
- チャートからコード生成は複雑であり,既存モデルの性能は十分とは言えない。
- 構造化された指示と反復洗練により,コード生成の精度を向上させる。
- 本研究では,視覚的理解とコード変換を分離し,記述と差分の構造化された指示を導入した。
- チャート生成パイプラインを初期コード生成と反復洗練の2段階に分解することで,段階的な改善を可能にした。
- Qwen2-VLおよびGPT-4oにおいて,提案手法が既存手法を上回る性能を達成した。
大規模知識グラフを用いた,下流機械学習のためのスケーラブルな特徴学習 [cs.LG]目的:大規模知識グラフからの特徴抽出
- 機械学習の性能向上に外部知識が不可欠であり,知識グラフはその有力な源泉である。
- 既存手法はリンク予測に偏っており,大規模グラフへの適用に計算資源が課題となる。
- 大規模知識グラフにおいても効率的に高品質な埋め込み表現を得ることを目指す。
- 提案手法SEPALは,エンティティのコア部分のみを最適化し,メッセージパッシングでグラフ全体に伝播させる。
- 7つの大規模知識グラフと46の下流機械学習タスクで評価した結果,既存手法を大幅に上回る性能を示した。
- SEPALはベースモデルのスケーラビリティを高め,汎用的なハードウェア上での大規模グラフの学習を可能にする。
IMAIA:旅行計画と地理空間インテリジェンスのためのインタラクティブ地図AIアシスタント [cs.AI, cs.CV]目的:旅行計画と地理空間情報の理解を支援するインタラクティブな地図AIアシスタント
- 地図は現代社会において不可欠であり,様々な分野で活用されている。
- 従来の地図アプリは操作性が限られ,自然な質問や視覚情報との連携が困難である。
- 言語と地図,地理空間情報を統合し,より自然で実用的な地図利用を実現する。
- IMAIAは,ベクトル地図と衛星画像を自然言語で操作可能にする。
- カメラからの入力と地理空間情報を融合し,周囲の状況を理解する。
- 既存のシステムと比較して,精度と応答速度が向上し,実用的な展開が可能である。
VideoITG:指示による時間的グラウンディングを用いたマルチモーダル動画理解 [cs.CV, cs.AI]目的:動画から情報豊かなフレームを効率的に選択するための手法
- 動画理解は,視覚情報と言語情報を統合し高度な推論を可能にする重要な研究分野である。
- 複雑な指示への対応や精密な時間的モデリングが難しく,性能向上の課題となっている。
- ユーザーの指示に基づいてフレームサンプリング戦略を適応的にカスタマイズすることを目指す。
- VideoITGは,ユーザーの指示に基づいてフレームを選択するVidThinkerパイプラインを導入した。
- VidThinkerを用いて,4万本の動画と50万の時系列グラウンディングアノテーションを含むVideoITG-40Kデータセットを構築した。
- VideoITGは,複数のマルチモーダル動画理解ベンチマークで性能を向上させ,有効性を示した。
無線通信のための大規模言語モデル:適応から自律性へ [cs.MA, eess.SY, cs.SY, cs.AI, cs.IT, math.IT]目的:無線システムにおける大規模言語モデルの役割
- 無線通信は社会基盤であり,高度化・複雑化が進んでいる。
- 従来の無線システムは変化への対応が遅く,最適化が困難である。
- 大規模言語モデルを活用し,無線システムの知能化・自律性を実現する。
- 大規模言語モデルは,無線通信における推論,汎化,ゼロショット学習能力を飛躍的に向上させる可能性を示す。
- 事前学習済みモデルの適応,無線特化型基盤モデルの開発,自律的な推論・協調機能を備えたエージェント型モデルが有望である。
- マルチモーダル融合,軽量モデルとの連携,自己改善能力が今後の課題として挙げられている。
LLMは自らの虚偽を検出できるか:不確実性を考慮した言語モデルの信頼性評価 [cs.CL, cs.AI]目的:言語モデルにおける信頼性評価手法
- 大規模言語モデルの利用拡大に伴い,誤った情報を流暢に生成する「ハルシネーション」のリスクが重要となる。
- 言語モデルは,自信を持って誤った回答を生成することがあり,不確実性と正しさの間にずれが生じている。
- 本研究は,トークンレベルの不確実性を活用し,言語モデルの信頼性をより正確に予測することを目指す。
- 文脈情報が正しい場合,回答の正確性とモデルの確信度が高まる一方,誤った文脈情報は誤った回答を自信を持って導くことが示された。
- 提案手法は,言語モデルの挙動の変化を捉え,複数のオープンソースLLMにおいて信頼性の低い出力をより良く検出できる。
- 直接的な不確実性シグナルには限界があり,不確実性を活用したプロービングが信頼性向上の鍵となる可能性が示唆された。
オンポリシー強化学習とオフポリシー専門家:動的重み付けによる教師ありファインチューニングと強化学習の調和 [cs.DL, cs.HC, cs.MA, cs.LG, cs.AI]目的:大規模言語モデルの能力向上と行動の調整
- 大規模言語モデルの性能向上には,継続的な調整が不可欠であり,その方法論が重要となる。
- 教師ありファインチューニングと強化学習の統合は,既存の応答パターンを破壊したり,専門家データへの過学習を引き起こすリスクがある。
- オフポリシーとオンポリシーの視点から両者を調和させ,安定かつ効率的な学習プロセスを実現すること。
- 提案手法CHORDは,オフポリシーの専門家データとオンポリシー探索を効果的に調和させることで,ベースラインと比較して有意な改善を示す。
- CHORDは,教師ありファインチューニングをオンポリシー強化学習プロセスにおける動的に重み付けされた補助目的として再構成する。
- 二重制御メカニズムにより,オフポリシーの模倣からオンポリシー探索への移行を全体的に制御し,粒度レベルでの学習を促進する。
視覚に基づく全方向二足歩行路面制御:困難な地形への対応 [cs.RO, cs.AI]目的:視覚に基づいた全方向二足歩行路面制御のための学習フレームワーク
- ロボット工学において,複雑な環境での自律的な移動能力は不可欠である。
- 全方向的な地形センシングとそれに対応できる制御器の開発が課題となっている。
- 高コストなシミュレーションを回避し,ロバストな全方向歩行を実現すること。
- 本研究では,頑健なブラインドコントローラと教師ポリシーを組み合わせることで,効率的な学習を実現した。
- ノイズを付加した地形データによる学習とデータ拡張技術により,学習時間を最大10倍に短縮した。
- シミュレーションと実機テストを通じて,多様な地形への適応性を示す全方向二足歩行を初めて実証した。
