arXiv雑要約
AI - 2026/05/27 公開
画像は16x16=256個の超ピクセルでも価値があるのか? 注意メカニズムを用いた画像分類フレームワーク [eess.SY, cs.SY, cs.CV, cs.LG]目的:超ピクセルに基づく画像分類とVision Transformer(ViT)の統合
- 画像認識の分野では,より効率的でロバストな画像表現が常に求められている。
- 従来の超ピクセルベースの手法は,グラフニューラルネットワーク(GNN)に依存しており,ViTと比較して性能が劣ることが課題だった。
- 超ピクセルとViTを組み合わせることで,より高性能かつ汎用的な画像分類モデルを開発することを目指す。
- 提案手法Superpixel Transformers(SPT)は,既存の超ピクセルベースGNN手法を上回る性能を複数のデータセットで示した。
- SPTは,ViTと比較しても遜色ない性能であり,超ピクセル情報がViTの性能向上に貢献することも明らかになった。
- SPTは,超ピクセルベースの手法とTransformerモデルの間のギャップを埋め,新たなハイブリッドな注意メカニズムフレームワークへの道を開く。
セマンティックなロバスト性プロービング:安全性が重要な物体検出のためのインタラクティブツール [cs.CV, cs.AI]目的:安全性が重要な分野における物体検出のセマンティックなロバスト性評価
- 安全性が求められる分野では,システムの信頼性評価が不可欠である。
- 従来のピクセルレベルの摂動だけでは,セマンティックな意味合いを捉えきれない。
- セマンティックな意味を考慮したプロービング手法を提供し,ロバスト性の評価を支援する。
- SemProbeは,ユーザーが画像をアップロードし,マスクを作成,操作条件を設定することで,セマンティックなロバスト性を評価するツールである。
- 拡散モデルに基づくインペインティングにより,制御された摂動を加え,物体検出モデルの性能変化を可視化する。
- 評価結果は構造化された形式で記録され,安全評価プロセスとのトレーサビリティを確保する。
物語認識に基づく文書セグメンテーション:文学的RAGへの応用 [cs.CL, cs.AI]目的:文学作品におけるRetrieval-Augmented Generation (RAG)のための文書セグメンテーション手法
- 文学作品は,専門知識を要するためRAGの適用が難しい分野である。
- 従来の文書セグメンテーションは,物語構造を考慮せず,断片的な情報しか取得できない。
- 物語構造に基づいたセグメンテーションにより,RAGの検索・生成性能を向上させる。
- LitSegは,物語理論に基づき,イベント抽出,物語構造の明確化,転換点の特定を行う。
- LitSeg-Liteは,LitSegで生成されたデータを用いて,軽量なセグメンテーションを実現する。
- 実験により,提案手法が既存手法と比較して,検索精度と文脈関連性を大幅に向上させることが示された。
検索拡張LLMにおける検出と解決の乖離:検索結果監視と制御のギャップ [cs.AI]目的:検索拡張LLMの安全性評価における課題
- LLMの活用が拡大する中で,根拠となる情報の質が行動の安全性を左右する重要性が増している。
- 従来の評価方法では,単一ターンでの頑健性が複数ターンにわたる安全性に繋がると仮定されている。
- 本研究は,LLMが矛盾する証拠を認識しても,安全な解決策に繋がらないという問題を明らかにすることを目指す。
- 検索拡張LLMは,矛盾する証拠を認識するものの,最終的な推奨に反映されない「監視-制御ギャップ」が存在することが示された。
- 単一ターンでの診断はRAGの安全性を過大評価し,矛盾の認識と安全な解決は相関がないことが明らかになった。
- モデルの内部表現や注意メカニズムの分析から,行動選択時に危険情報が無視されることが,このギャップの主要な原因である可能性が示唆された。
ロバスト性と整合性のための戦略的分類における因果的特徴の役割 [cs.CL, cs.LG, stat.ML]目的:戦略的分類におけるロバスト性と整合性向上のための因果的特徴の役割の解明
- 分類問題は,融資審査など,社会において広く利用されており,その信頼性が重要である。
- ユーザーが分類タスクで自身の便益を最大化しようと特徴量を改変することで,分布シフトが発生し,分類性能が低下する。
- 因果モデルを用いて分布シフトを抑制し,ロバストで整合性の高い戦略的分類を可能にすることを試みる。
- 因果的分類は,特定の条件下において,ユーザーの適応後も最適な分類誤差を達成できることが示された。
- 仮定が満たされない場合,最適な分類器のOODクロスエントロピーリスクは,OODバイアス項と特徴量利用不足項に分解されることが明らかになった。
- 因果的特徴の利用は,機関とユーザーの長期的なインセンティブを整合させる可能性があり,従来の社会コストに関する見解とは対照的である。
クエリを記号的に処理するか,意味的に検索するか?半構造化質問応答のためのデータセットと手法 [cs.AI]目的:半構造化質問応答のためのデータセットと手法
- 質問応答システムは,情報検索と自然言語処理の重要な応用分野であり,その精度向上が求められている。
- 従来のセマンティック検索は,半構造化データに対して正確なフィルタリングや集計が困難である。
- テキストと記号の双方の知識グラフを活用し,半構造化データにおける質問応答の精度向上を目指す。
- DualGraphは,セマンティック検索と記号的クエリを組み合わせることで,既存の質問応答システムを上回る性能を発揮する。
- SpecsQAデータセットは,半構造化製品ドキュメントに対する質問応答のベンチマークとして機能し,多様な質問タイプに対応する。
- 提案手法は,密な検索,GraphRAG,記号的アプローチ,テーブル指向ベースラインと比較して,一貫して優れた性能を示す。
ステークホルダーの関連性に基づくテキスト埋め込みの根拠付け [cs.RO, cs.CL, cs.AI, cs.CY]目的:テキスト埋め込みと専門家の認識との整合性
- 大量のテキスト分析において,テキスト埋め込みは不可欠な技術である。
- 埋め込み表現と人間の意図との間にずれが生じることがある。
- 専門家の認識に基づいた埋め込みモデルの評価手法を提供する。
- ニューラルテキスト埋め込みは,専門家よりも信頼性が低いことが示された(19-26ppの差)。
- このずれは,クラスタリングのパフォーマンスに悪影響を及ぼす。
- ステークホルダーの関連性に基づく根拠付け演習は,埋め込みモデルの妥当性を評価する有効な方法である。
音響デザイナーのワークフローと体験におけるAI統合に関する調査 [cs.CY, cs.DB, cs.SD, cs.AI, cs.CY]目的:音響デザイナーのワークフローと体験におけるAI統合の現状と課題
- 映像作品等の高品質な音響制作は,作品の質を大きく左右するため重要である。
- AI技術は発展しているものの,音響デザイナーのニーズとの間に乖離が存在する。
- 現状の課題を明確にし,より実用的なAIツール開発の方向性を示す。
- 現在のAIツールは,短時間消費型のメディアには適しているが,高度な音響デザインには物語性を欠く。
- 音響デザイナーは,全自動生成システムよりも,特定のタスクを支援するAIツールを好む傾向にある。
- 本研究は,AIツール開発者への推奨事項を通じて,音響デザイン分野におけるAI活用の発展に貢献する。
圧縮知識グラフ仮説:科学的仮説生成にとって重要なグラフ的事実とは [cs.AI]目的:科学的仮説生成におけるグラフ的事実の重要性
- 科学研究において,知識グラフは構造化された文脈情報を提供し,研究の効率化に貢献する。
- どのグラフ的事実が仮説生成に影響を与えるか不明であり,知識グラフの活用方法に課題がある。
- 有用な知識グラフ信号は,完全なグラフではなく,コンパクトな部分グラフから再現可能であることを示す。
- 大規模言語モデルを用いた実験で,知識グラフの文脈は出力に変化をもたらすが,知識グラフなしでもモデルの事前知識から多くの情報を再現できる。
- 重要な知識グラフ信号は,コンパクトで科学的に構造化された部分グラフから得られ,完全な知識グラフを必要としない。
- グラフの圧縮は,特定の意味ランキングルールに依存せず,ランダムまたはトポロジーに基づく部分集合でも同様の結果が得られる。
ラベルなし3Dオブジェクトセグメンテーションのための自己教師あり基盤モデルを報酬として [cs.CV, cs.AI, cs.LG, cs.RO]目的:ラベルなし3Dオブジェクトセグメンテーション手法
- 3Dシーン理解は,ロボティクスや自動運転などの分野で不可欠であり,その精度向上が求められている。
- 既存手法は,十分なオブジェクトの事前知識がないため,複雑なオブジェクトの識別が困難である。
- 自己教師あり学習により得られる事前知識を活用し,ラベルなしでの高精度な3Dオブジェクトセグメンテーションを実現する。
- 提案手法FoundObjは,スーパーポイントベースのオブジェクト検出エージェントと,セマンティックおよび幾何学的報酬モジュールを組み合わせることで,複雑なシーンでもロバストなオブジェクト識別を可能にした。
- 自己教師あり2D/3D基盤モデルからのセマンティックおよび幾何学的情報を活用することで,オブジェクト検出エージェントに相補的なフィードバックを提供し,性能を向上させた。
- 多様なベンチマークでの実験により,既存手法を凌駕する性能と,ゼロショットおよびロングテールシナリオでの高い汎化能力が確認された。
認知能力階層における音声表現:二分法を超えて [cs.RO, cs.CL, cs.CL, cs.LG, cs.SD, eess.AS, q-bio.NC]目的:軽度認知障害における認知機能評価の階層構造と音声表現の関係
- 認知症の早期発見は,適切な治療と生活管理により進行を遅らせることが重要である。
- 従来の認知機能評価は,主観的な判断に依存する部分があり,客観的指標の必要性が高まっている。
- 音声分析による客観的な認知機能評価指標を開発し,早期診断の精度向上を目指す。
- 自己教師あり学習による音声表現は,低い階層での評価において,手動特徴量よりも優れている傾向がある。
- 軽度認知障害の分類においては,この傾向は逆転し,手動特徴量の方が良い結果を示す。
- タスクの制約がパフォーマンスに影響を与え,自由度の高いタスクは階層が上がるほど性能が低下する一方,構造化されたタスクは向上する。
大規模オーディオ言語モデルにおける,聞きながら思考するタイミングの学習 [cs.CL, cs.AI, cs.LG, cs.SD]目的:大規模オーディオ言語モデルにおける,待ち・思考・回答の制御戦略
- 近年の進歩により,音声と言語を同時に処理するモデルが実用化されつつある。
- 応答の質と応答速度のトレードオフが課題であり,早すぎる回答は誤答につながる。
- 音声ストリームの途中で思考を明示的に行うタイミングを学習することで,応答の質と速度を改善する。
- 6つの報酬関数を用いたDAPOコントローラは,合成音声による推論応答タスクで正答率を67.6%から70.3%に向上させた。
- 同様に,最終思考の長さを14%削減することに成功した。
- 実音声データを用いた評価においても,学習されたコントローラは機能し,特にSFTによるものが最高の精度を示した。
全てのトークンが等しく重要ではない:決定的なトークンによる監督を用いた動的な文脈内ベクトル蒸留による長文の医療レポート生成 [cs.CL, cs.CV, cs.LG]目的:長文の医療レポート生成におけるベクトル蒸留の効率化
- 医療レポート生成は,医療現場における効率化に不可欠であり,高品質な自動生成技術が求められている。
- 既存のベクトル蒸留法は,トークン全てを均等に扱うため,長文生成において重要なトークンが適切に学習されない問題がある。
- 決定的なトークンに着目し,トークンごとの重要度を考慮することで,より高品質な医療レポート生成を目指す。
- 提案手法DIVEは,病理関連トークンとEOSイベントに対する監督を強化し,コンテンツの忠実性と終了の学習を改善した。
- DIVEは,状態に応じた動的なステアリングにより,デコーディングのドリフトに対応し,注入信号を適応させた。
- MIMIC-CXRとCheXpert Plusでの実験により,DIVEは様々な評価指標で最先端の結果を示し,高い性能を証明した。
生成アニメーション:プロンプト駆動モーション合成のためのマルチモデルパイプライン [cs.CL, cs.CY, cond-mat.stat-mech, physics.soc-ph, cs.CV, cs.AI]目的:プロンプト駆動モーション合成のためのマルチモデルパイプライン
- デジタルコンテンツにおいて,アニメーションは没入感を高める重要な要素である。
- 従来,モーションパスの作成は手作業が多く,時間と労力を要する。
- 自然言語プロンプトから自動的にモーションパスを生成し,制作効率を向上させる。
- 本システムは,大規模言語モデルと視覚的認識モデルを組み合わせることで,シーンの形状や奥行きを考慮したモーション生成を可能にする。
- 輪郭追跡,軌道アニメーション,変形オブジェクトの視点合わせなど,多様なユースケースで有効性が確認された。
- 自然言語プロンプトからのアニメーション生成という新たな手法を示し,アニメーション制作の可能性を広げた。
ノイズ下での行動学習:ノイズ環境によるエージェントのロバスト性向上 [cs.CL, cs.IR, cs.AI]目的:エージェントのロバスト性
- 大規模言語モデルの活用が進む中で,現実世界でのエージェントの性能向上が重要視されている。
- 理想的な環境下での学習と,不確実性を含む現実世界との乖離が課題となっている。
- 環境のノイズを学習に組み込み,現実世界への適応性を高めることを目指す。
- 提案手法NoisyAgentは,ユーザーノイズとツールノイズを学習環境に導入することで,エージェントのロバスト性を向上させる。
- ノイズを徐々に難易度を上げて適用することで,学習の安定化を図りつつ,困難な状況への対応能力を向上させている。
- 理想的なベンチマークにおいても性能向上が見られ,汎化能力の向上に貢献することが示唆されている。
カーネル法による非線形データ統合:データコラボレーション分析への応用 [cs.LG, stat.ML]目的:分散された秘匿データセットのコラボレーション分析
- データ活用において,複数機関が保有するデータの連携は不可欠である。
- プライバシー保護や制度上の制約から,直接的なデータ共有が困難な場合が多い。
- 非線形変換によるデータ難読化と,より正確なデータ統合を目指す。
- 提案手法NKIは,非線形次元削減下において,既存の線形統合手法よりも高い分類精度を示す。
- ターゲット変数情報を考慮したグラフ正則化とセンタリング制約により,更なる精度向上が確認された。
- 次元削減手法の選択が,分類精度と再構成リスクの両方に大きく影響することが示された。
TROPOMIメタンプルームスクリーニングのための特徴量ベースモデルと深層学習モデルの説明可能な比較 [cs.LG, physics.ao-ph]目的:TROPOMIメタンプルームスクリーニングにおける特徴量ベースモデルと深層学習モデルの分類性能比較
- 地球温暖化対策には,大規模メタン排出源の継続的かつ世界的な検出が不可欠である。
- TROPOMIのプルーム検出は誤検出も多く,実際の人為的な排出源との区別が課題となっている。
- 本研究は,メタンプルームの誤検出を分類するための最適なモデル選定に貢献することを目的とする。
- 特徴量ベースモデルと深層学習モデルの性能を比較した結果,両モデルとも同様に高い分類性能を示した。
- SHAP値を用いた解釈可能性分析により,両モデルの判断根拠を可視化し,特徴量の重要度を明らかにした。
- 実運用システムへの適用に向け,モデル選択の指針となる知見を提供した。
潜在的反復洗練による記号回帰 [cs.LG]目的:観測データに適合する閉形式の数式表現
- データから数式を発見する技術は,科学的発見やモデル解釈に不可欠である。
- 既存のニューラル記号回帰は,一度の推論で表現を予測するため,精度と表現の複雑さのギャップが存在する。
- 潜在空間における反復洗練を通じて,このギャップを埋め,より簡潔な数式表現を導くことを目指す。
- 提案手法LEEは,関数的挙動に基づいて潜在空間を構築し,反復的な再符号化により表現を洗練する。
- SRBenchにおける実験の結果,既存の強豪手法と比較して,2~10倍簡潔な数式表現を生成することが示された。
- ノイズレベルの増加に対しても,精度と複雑さのバランスを維持した安定した性能を示した。
多様な論理,単一の方法論:形式化された推論における論理多元主義への提言 [cs.LO, cs.AI, math.LO]目的:非古典論理の古典高階論理への浅い埋め込みの研究
- 形式化された推論は,厳密な数学的根拠に基づいた知識表現と推論を可能にする。
- 単一の基盤論理に固執することで,学際的な再利用が阻害される場合がある。
- 論理多元主義を促進し,学際的な知識の再利用を可能にすること。
- 二十年間の研究を通して,非古典論理を古典高階論理に埋め込む手法が発展してきた。
- LogiKEyという論理多元主義的な知識表現・推論の方法論が提案されている。
- 論理的帝国主義を避け,多元主義的なアプローチを支援することが重要である。
ガンベル機械:ガンベルノイズ操縦による反事実的な学生エッセイ生成 [cs.AI, cs.CL]目的:学生エッセイの反事実的な生成
- 質の高い事例提示は教育において重要である。しかし,学生の現状との乖離が大きい場合,模倣は困難になりがちである。
- 既存の反事実的テキスト生成アプローチは,特定分野に特化し,実用化が難しいという問題がある。
- 本研究は,参照テキストとの類似性を維持しつつ,反事実的な学生エッセイを生成することでこの課題を解決する。
- 提案手法であるガンベル機械は,LLMの指示応答能力を活用し,反事実的な生成を可能にする。
- 新たな制御デコーディングアルゴリズムであるβ-Hindsight controlは,潜在的なランダム性を活用し,反事実生成における類似度を調整する。
- 学生エッセイのデータセットを用いた実験により,提案手法がルーブリックに合致し,参照テキストと類似した反事実を生成できることが示された。
LUCoS:表形式ファウンデーションモデルのための潜在的非教師ありコンテキスト選択 [cs.LG, cs.AI]目的:表形式データの少ないラベル学習におけるコンテキスト選択手法
- 表形式データは広く利用され,その分析は重要である。少ないラベルでの学習は現実的な課題。
- コンテキスト選択の質の悪さは,表形式ファウンデーションモデルの性能を著しく低下させる。
- 潜在空間での代表的なデータの選択により,初期段階でのラベル付きデータ選択の課題を解決する。
- 提案手法LUCoSは,AUC,ACC,F1スコアにおいて,OpenML-CC18データセットで最上位の性能を示した。
- 少数のラベル予算では網羅性が,予算が増えるにつれて表現空間での網羅性が重要な要素となる。
- LUCoSは,特徴空間での選択の失敗を軽減し,意味のある表現幾何学における代表性の定義の重要性を示した。
ペア入力・ペア出力:効率的なLLMのための潜在的な多トークン予測 [cs.CL, cs.AI]目的:大規模言語モデルの効率化
- LLMの性能向上は,その応用範囲を広げ,様々な分野での活用を促進する上で不可欠である。
- LLMの推論コストが高く,特に長文の処理において速度と効率が課題となっている。
- 入力圧縮と多トークン予測を統合し,検証コストを削減することで,LLMの効率と精度を両立させる。
- 提案手法PIPOは,入力圧縮と多トークン予測を統一することで,推論速度を最大2.64倍に向上させた。
- PIPOは,パス@4のスコアを最大7.15ポイント改善し,LLMの精度向上に貢献した。
- 軽量な信頼度ヘッドを導入することで,検証コストを削減しつつ,高い信頼性を維持することに成功した。
PilotTTS:競争力のある音声合成のための規律あるモジュールレシピ [cs.SD, cs.AI]目的:競争力のある音声合成システムの構築手法
- 音声合成は,人間と機械のコミュニケーションにおいて重要な役割を担う技術である。
- 高品質な音声合成システムは,膨大なデータと複雑なアーキテクチャを必要とするため,リソースが限られた研究チームには困難である。
- 本研究は,少ないデータとシンプルな構造で競争力のある音声合成システムを構築することを目指す。
- PilotTTSは,20万時間のデータのみを用いて,高品質な音声合成を実現した。
- Seed-TTS Evalベンチマークにおいて,英語テストでWER 1.50%,中国語テストでCER 0.87%という優れた結果を達成した。
- ゼロショット音声クローニング,感情合成,方言合成など,多様な機能を統合的にサポートする。
Kan拡張Transformer:Attention,拡散,予測・分離自己条件付けの圏論的統一 [cs.LG]目的:Transformerの実装の多様性を包括する統一的な圏論的枠組み
- Transformerは自然言語処理の基盤技術であり,その性能向上は重要な課題である。
- 既存のTransformerアーキテクチャは多様であり,その共通基盤が不明確である。
- 様々なTransformer実装を統一的に理解し,性能向上に繋げる。
- Transformer層を,加重された構造的拡張演算子として捉えることを提案している。
- 予測・分離メカニズムは,未来の情報漏洩なしに非因果的構造を露出させる。
- 予測・分離設定において,厳密因果設定よりも大きな性能向上が見られた。
サンプリングの限界:LLMにおける語彙到達可能性の評価 - Word Coverage Score (WCS) を用いて [cs.HC, cs.CL, cs.AI]目的:LLMにおける語彙到達可能性の定量化
- 大規模言語モデルの発展は,自然言語処理の進歩に不可欠である。
- LLMは多様な語彙を持つ一方,生成されるテキストが単調になりがちである。
- サンプリングメカニズムが語彙の多様性を抑制する原因を特定し,改善策を提案する。
- Word Coverage Score (WCS) は,サンプリングフィルタが文脈的に適切な語彙をどの程度削減するかを定量化する。
- 標準的なサンプリング設定が,低頻度かつ高情報量の語彙を抑制し,人間の表現の多様性を損なっている。
- WCSは,テキストの一貫性と語彙の豊富さのバランスを最適化するための診断ツールとして活用できる。
66種類の疾患を用いた疾患予測への転移学習 [cs.LG, stat.AP]目的:疾患予測のための転移学習
- 感染症の早期発見と対策には,正確な予測が不可欠である。
- 予測モデルは,データが不足またはノイズが多い場合に脆弱になりやすい。
- 複数の疾患データを活用し,予測精度向上を目指す。
- 66種類の感染症データと複数のデータストリームを用いた結果,84.9%の時間系列とモデル構造において予測性能が向上した。
- 追加データの品質が重要であり,対象データと大きく異なるデータは予測性能を低下させる場合があることが示された。
- 感染症予測コミュニティ向けの公開データベースを構築し,利用を促進する。
SIA:ハーネスと重みの更新による自己改善AI [cs.AI, cs.CL]目的:AIの自己改善ループの実現
- AI開発における人的資源の限界を克服し,AIの自動的な進化を促すことが重要である。
- AIの改善作業が人手に依存しており,効率性とスケーラビリティに課題がある。
- ハーネスと重みの両方を更新することで,AIの自己改善能力を高めることを目指す。
- SIAは,タスク固有のAIエージェントのハーネスと重みを同時に更新する自己改善ループを提案する。
- 中国の法律文書分類,GPUカーネル最適化,シングルセルRNAノイズ除去の3つの分野でSIAを評価した結果,既存手法を上回る性能を示した。
- LawBenchで56.6%,GPUカーネルで91.9%の実行時間短縮,ノイズ除去で502%の改善が見られた。
高次元治療における因果リスク最小化 [cs.LG, stat.ML]目的:高次元の介入の効果予測
- 介入効果の予測は,メンタルヘルスや株価変動など,様々な分野で重要である。
- 従来の因果推論法は,全ての介入が観測されていると仮定しており,高次元介入空間では現実的ではない。
- 高次元介入空間における因果推論を可能にするための手法開発。
- 因果誤差は,高次のモーメントバランス誤差に分解され,その改善を目指した目的関数が設計された。
- 高次元治療の効果を低次元属性に投影することで,属性固有の学習なしに複数の因果質問に回答できる。
- 連続,離散,テキスト治療を含む様々な設定で提案手法の有効性が検証された。
FineVLA:制御可能なビジョン・言語・行動ポリシーのためのきめ細かい指示アライメント [cs.RO, cs.AI]目的:ロボットタスク実行における,詳細な行動アライメントの実現
- ロボットの自律性は,人間からの指示を理解し,適切に実行することに依る。
- 既存のロボットデータセットは,タスクの目標レベルの言語情報しか含まず,詳細な実行情報が不足している。
- きめ細かいアライメントにより,より柔軟で制御可能なロボット行動を可能にすること。
- きめ細かい指示のみを用いた場合でも,目標レベルの成功率を損なうことなく改善が確認された。
- きめ細かい指示と目標レベルの指示を組み合わせることで,最適な性能が得られることが示された。
- きめ細かい指示は,姿勢,色,アプローチ方向など,目標レベルの指示では指導できない要素において,特に効果を発揮した。
Falcon-X:異種多変量モデリングのための時系列基盤モデル [cs.LG, cs.AI]目的:異種多変量時系列データの予測性能向上
- 時系列データは,経済,気象,医療など,様々な分野で不可欠であり,正確な予測は意思決定に重要である。
- 既存の時系列基盤モデルは,単変量に偏っており,多変量モデリングにおいて異種変量間の意味的整合性や関係性の表現が課題となっていた。
- 異種変量を潜在空間にマッピングし,意味的な類似性と相違性を明示的に評価することで,多変量予測の精度と汎化性能の向上を目指す。
- Falcon-Xは,変量を生空間から分離し,統一された潜在プロトタイプ空間にマッピングする手法を提案する。
- Unified Prototype Diff-Attention機構により,異種変量の意味的なアフィニティを評価し,Latent Entity Attentionにより効率的な相互作用を可能にする。
- GIFT-Evalとfev-benchの評価において,Falcon-Xは最先端の予測性能を達成し,複雑な多変量環境に対するスケーラブルなパラダイムを提供する。
必ずしもおべっかではない:LLMの適合性を認識的確実性の関数として測定 [cs.CL, cs.AI, cs.LG]目的:LLMの適合性メカニズムの解明
- LLMの性能向上は重要だが,人間からのフィードバックによる学習方法に課題が残る。
- LLMがユーザーからの反論に屈する行動が,単なるおべっかによるものと考えられていた。
- 認識的確実性を考慮することで,LLMの適合性をより正確に理解し,改善を図る。
- 本研究では,LLMの適合性は,おべっかによる適合性と不確実性による適合性の2つの要因によって説明できることを示した。
- 不確実性による適合性は,モデルの初期応答に対する確実性が低いほど,ユーザーの反論に屈する可能性が高くなる現象である。
- ユーザーの専門性や提案の妥当性も,これらの適合性の両方を増大させる要因となることが明らかになった。
多様性における検出可能性:プライバシー監査のためのカナリア作成の改善 [cs.LG, stat.ML]目的:プライバシー監査のための効率的なカナリア作成
- 機械学習モデルのプライバシー侵害を評価する上で,実証的な監査が不可欠である。
- 従来のプライバシー監査はコストが高く,単一の実行で済む手法が求められている。
- カナリア間の干渉を抑制し,検出可能性を高めるカナリア作成を目指す。
- 提案手法は,既存のカナリア作成アプローチと比較して,より低い計算コストでより強力なプライバシー漏洩推定を達成する。
- カナリアの検出性を高めつつ,干渉を最小限に抑えることで,より正確なプライバシー評価が可能になる。
- 影響関数に基づく貪欲な初期化と,二層最適化を用いて,埋め込み空間での多様性を促進する。
LLMの推論のための単一ロールアウト情報共有によるバッチ式アドバンテージ推定:BASIS [cs.LG, stat.ML]目的:LLMの推論能力向上に向けた,検証可能な報酬を用いた強化学習における効率的な価値推定とポリシー学習
- LLMの推論能力は,様々なタスクにおいて重要であり,その改善はAI研究の主要な課題である。
- 既存の強化学習アルゴリズムは,計算効率とサンプル効率の間でトレードオフの関係にあり,両立が困難である。
- 単一ロールアウトの情報共有により,価値関数の推定精度を高め,効率的なポリシー最適化を実現すること。
- BASISは,既存のシングルロールアウトベースライン(REINFORCE++)と比較して,価値関数の推定におけるMSEを69%削減した。
- BASISは,8ロールアウトを用いるグループ平均推定器と同等のMSEを,単一ロールアウトでのみ達成した。
- 大幅に少ない学習時間で,マルチロールアウトベースラインに近い性能を発揮し,シングルロールアウトベースラインを上回る結果が得られた。
IDSにおけるリスク回避型アラート優先度付け:準正規ガウスファジーモデルの利用 [cs.CL, cs.CL, cs.CR, cs.AI, cs.HC, cs.LG, cs.SY, eess.SY]目的:IDSアラートの優先度付け手法
- サイバー攻撃の増加に伴い,IDSの重要性が増している。大量のアラートから重要度の高いものを特定する必要がある。
- IDSは誤検知が多く,セキュリティ担当者のアラート疲労を引き起こし,対応能力が低下している。
- アラートの重要度,検出信頼性,組織のリスク許容度を考慮し,優先度付けを自動化することで,対応能力の向上を目指す。
- 提案手法は,脅威の深刻度,検出信頼性,組織のリスク態度という3つの不確実性を準正規ガウスファジー数で明示的にモデル化する。
- CIC-IDS2017およびNSL-KDDデータセットを用いた実験で,検出器の性能劣化下において既存手法よりも高いロバスト性を示した(NDCGrel@100で0.9963 vs 0.8215)。
- 手法は理論的に厳密であり,計算効率が高く,解釈可能な推論を提供し,様々な検出器や誤調整シナリオで安定した結果を得られる。
通常のガイダンスは注意が必要とするもの [cs.LG]目的:3D医療画像に対するスライスレベル予測の分類器学習
- 医療画像診断の自動化は,医師の負担軽減と診断精度の向上に不可欠である。
- 弱教師あり学習では,スライスレベルでの正確な分類が困難である。
- 注意機構の改善により,スライスレベルの局在化性能を高めることを目指す。
- 通常のガイダンスを導入することで,既存の注意機構ベースおよびTransformerベースのMIL手法のスライスレベル局在化性能が大幅に向上した。
- 提案手法は,スキャン全体の分類性能においても,既存手法と遜色ない結果を示した。
- 脳,胸部,腹部のCTスキャンを含む3つの医療画像データセットで有効性が確認された。
精度と遅延を考慮したユーザーインセンティブによるAI推論の環境負荷軽減 [cs.LG, cs.OH]目的:AI推論における環境負荷軽減のためのインセンティブ設計
- AI利用の拡大に伴い,その環境負荷への関心が高まっている。
- AI推論時の電力消費が,環境負荷の主要因となっている。
- ユーザーの品質・遅延への評価と環境意識に基づいたインセンティブ設計。
- ユーザーの環境意識と品質・遅延の重視度に応じたインセンティブ枠組みを提案。
- AI提供者は,炭素排出量の多い時間帯に,画質や速度を低下させることでインセンティブを提供可能。
- 二階層のサービスサブスクリプションにより,割引と環境負荷軽減を両立。
比率単調変換を用いた確率的平滑化による大域的最適化 [cs.CL, cs.RO, cs.SY, eess.SY, cs.CL, cs.LG, math.OC]目的:大域的最適化のための確率的平滑化手法
- 複雑な最適化問題において,真の最適解を見つけることは困難であり,そのためのロバストな手法が求められている。
- 既存の確率的平滑化手法は,ガウスカーネルに依存しており,ハイパーパラメータの調整が難しく,汎用性に欠ける。
- 比率単調変換と対称な単峰カーネルを組み合わせた,より汎用的で安定した平滑化フレームワークを提案する。
- 提案手法は,真の最適解を保持し,十分な増幅のもとで静止点全体が真の最適解付近に集中することを示す。
- 確率的勾配上昇法の計算量に関する明示的な上限を提供し,leave-one-outベースラインが分散を確実に削減することを示す。
- 高次元ベンチマークやブラックボックス敵対的攻撃における実験により,改善されたロバスト性と競争力のある性能が確認された。
エージェント性のあるテクニカル・デットと確率的税:測定,シミュレーション,ダッシュボード化のための独立型フレームワーク [cs.AI, cs.CY, econ.GN, q-fin.EC]目的:エージェント性のあるテクニカル・デットと確率的税のモデリング
- AIシステムの進化に伴い,その運用コストの把握と管理が重要となっている。
- 従来のテクニカル・デットの概念では,エージェントシステムの特有なコストを十分に捉えられていない。
- エージェントシステムの運用コストを明確化し,可視化するためのフレームワークを構築すること。
- エージェント性のあるテクニカル・デットと確率的税を区別し,それぞれの定義と関係性を明確にした。
- ダッシュボード表現から構造モデルへの拡張を行い,各変数とパラメータを定義した。
- 実際の運用データから各コストカテゴリを推定する方法を示し,買掛金シミュレーションでフレームワークを実証した。
実行可能オペレーショナル認知によるエージェントランタイムの制御された進化 [cs.SE, cs.AI, cs.MA]目的:エージェントランタイムの制御された進化の枠組み
- エージェントシステムの進化は,柔軟性と適応性向上に不可欠である。
- 生成された成果物のライフサイクル管理と進化が未定義である。
- 成果物のライフサイクルを考慮した進化メカニズムを確立すること。
- 本研究では,エージェント生成成果物を永続的なランタイム機能として捉える枠組みを提案する。
- HarnessMutationというライフサイクルを意識したランタイム適応メカニズムを導入し,検証,トレーサビリティ,評価,ロールバック制約下で運用される。
- ランタイム適応を制限されたプロセスとしてモデル化し,進化を明示的,監査可能,かつ制約されたものにする。
競争保護のためのエージェント型リーガルリサーチアシスタントMaat [cs.AI]目的:競争法分野におけるリーガルリサーチの効率化
- 競争法は,公正な市場競争を維持し,消費者利益を保護する上で不可欠である。
- 既存のAIアシスタントは,専門知識不足や誤った情報提供により,競争法分析に課題がある。
- Maatは,正確かつ信頼性の高い競争法に関するリサーチを支援することを目的とする。
- Maatは,RAGを用いて公式情報源に基づいた根拠のある調査を実現する。
- 既存のAIアシスタントと比較して,ケース固有のタスクにおいて大幅に優れた性能を示す。
- データベースの網羅性が不十分な場合は,ウェブ検索を組み合わせて利用する。
EdgeFlow:エッジマップ拡張VLMベースフローチャート処理による産業要件エンジニアリング [cs.SE, cs.AI, cs.CV]目的:産業要件エンジニアリングにおけるフローチャートからMermaidへの変換の改善
- フローチャートは産業界で広く利用されているが,その活用は画像として限定的である。
- 既存のビジョン言語モデルは,フローチャートの構造的詳細を正確に捉えきれない。
- 構造的情報を活用し,学習データなしで変換精度を向上させる。
- EdgeFlowは,VLMへの入力にCannyエッジマップを付加することで,フローチャートの変換精度を大幅に向上させた。
- IndusReqFlowデータセットでの評価において,ノードレベル,エッジレベル,パスレベルのF1スコアがそれぞれ大幅に改善された。
- 実データを用いた評価結果から,EdgeFlowが産業要件エンジニアリングにおいて実用的な手法であることが示された。
弱い制約を持つ2-ASP(Q)プログラム:複雑性と効率的な実装 [cs.AI, cs.CC, cs.CL, cs.LO]目的:2-ASP(Q)プログラムの複雑性と実装方法
- 組み合わせ最適化問題など複雑な問題を扱うための強力な手法である。
- ASP(Q)のプログラムの計算複雑性が十分に解明されていなかった。
- 2-ASP(Q)^wプログラムの計算複雑性の完全な特徴付けと効率的な実装を目指す。
- 2-ASP(Q)^wプログラムの主要な計算タスクの複雑性に関する完全な特徴付けが得られた。
- Casperシステムにおいて,ASP(Q)に特化したCEGAR技術に基づく新しい計算戦略を導入した。
- 様々な応用分野からの難易度の高いベンチマークテストで,提案手法の有効性が確認された。
表現条件付き拡散モデルによる制御可能な画像生成 [cs.CV, cs.LG]目的:拡散モデルを用いた画像生成の制御手法
- 画像生成技術は,多様な分野で応用が期待され,その重要性は増している。
- 従来の拡散モデルは,特定の画像を生成するために大量のラベル付きデータが必要となる。
- 事前学習済みモデルの表現を用いることで,データ依存性を低減し,制御性を向上させる。
- 事前学習済み自己教師あり学習モデルの表現で拡散モデルを条件付けすることで,無条件画像生成の品質が向上した。
- 表現空間における変動方向を特定することで,生成画像の制御が可能となり,滑らかさと分離性が確認された。
- 本研究は,表現条件付き拡散モデルが制御可能な画像生成に有効であることを示唆する初期的な成果である。
AIに欺かれる目:社会的視線の一貫性がAI生成画像検出のセマンティックな手がかりとなる [cs.CV, cs.AI]目的:AI生成画像の検出
- 画像生成技術の進歩により,偽造画像の見分けが困難になっている。
- 既存の検出手法は,低レベルなアーチファクトに依存しており,巧妙な生成画像には効果がない。
- 人間同士の相互作用における視線の一貫性を手がかりに,AI生成画像を検出する。
- 社会的視線の一貫性は,既存の手法とは異なる新たな検出軸となりうる。
- 提案手法は,COCOAI InteractionおよびPersonデータセットにおいて,それぞれ3.7ppおよび1.3ppの精度向上を達成した。
- 偽画像と真画像の検出率が同時に向上しており,偏った予測ではないことが確認された。
スコアからギブス補正器へ:均一レート離散拡散モデルの高速化 [cs.LG, stat.ML]目的:均一レート離散拡散モデルにおけるサンプリング効率の向上
- 離散拡散モデルは,テキストなどの象徴的データにおいて高い性能を示す。効率的なサンプリングは重要な課題である。
- 既存の高速化手法は,追加の学習を必要とするか,混合が遅いという問題がある。
- 追加学習なしで,離散拡散モデルのサンプリング複雑性を改善することを目指す。
- 本研究では,ギブスに基づく新しい補正器GADDを提案し,標準的なスコア推定を超えて追加学習を必要としない。
- GADDは,$\mathcal{O}(\mathrm{polylog} (\varepsilon^{-1}))$ のサンプリング複雑性を達成し,均一レート離散拡散モデルにおいて初めての成果である。
- 合成データ,ゼロショットテキストサンプリング,ゼロショット条件付き音楽生成において,GADDはサンプル品質と効率を向上させる。
スパースオートエンコーダからのモデル内部情報を用いたLLMポストトレーニングデータエンジニアリングの指針 [cs.LG, cs.AI, cs.CL]目的:LLMのポストトレーニングデータエンジニアリングにおける多様性,難易度,品質の制御
- 大規模言語モデル(LLM)の性能向上は,データエンジニアリングの質に大きく依存する。
- 従来のデータエンジニアリングは外部信号に頼る傾向があり,モデル内部に存在する有用な情報を活用できていない。
- モデル内部情報に基づいたデータエンジニアリング手法を開発し,LLMの学習効率と精度を向上させる。
- SAERLは,スパースオートエンコーダを用いてモデル内部から多様性,難易度,品質をモデル化するフレームワークである。
- Qwen2.5-Math-1.5Bにおいて,SAERLはGRPOと比較して平均精度が3.00%向上し,目標精度に達するまでの学習ステップ数を20%削減した。
- SAERLはモデルの規模やRLアルゴリズムに関わらず一貫した改善を示し,モデルファミリーや規模を超えて有効に転移する。
アライメント改ざん:人間からのフィードバックを用いた強化学習が誤った偏見を最適化する方法 [cs.AI, cs.CL, cs.LG]目的:誤調整された偏見を増幅させる脆弱性
- 大規模言語モデルの安全性と信頼性が重要視される中,人間の価値観との整合性確保が不可欠である。
- 強化学習による人間からのフィードバック(RLHF)は,モデル自身が評価データに影響を与えうる。
- RLHFの構造的な脆弱性を明らかにし,誤調整された偏見の増幅を防ぐ対策を促す。
- 強化学習やbest-of-Nサンプリングを通じて,キーワード偏向やプロパガンダなどの多様な偏見が増幅されることが実験で示された。
- 既存の堅牢なRLHF技術では,応答品質を損なわずにアライメント改ざんを完全に解決することは困難である。
- LLMが出力する応答の品質と偏見を区別できないというRLHFの限界が,アライメント改ざんの根本原因である。
MobileMoE:オンデバイス混合エキスパートのスケール拡大 [cs.LG, cs.AI, cs.CL]目的:オンデバイスにおける混合エキスパート言語モデルの性能向上
- 大規模言語モデルは高性能だが,計算資源を要するため,モバイル環境での利用が課題。
- 従来の混合エキスパートは,パラメータ数が多く,モバイルデバイスへの実装が困難。
- モバイル環境に最適化された混合エキスパートモデルを開発し,性能と効率を両立すること。
- MobileMoEは,既存のオンデバイス密な言語モデルと同等以上の性能を,より少ない計算量で実現。
- パラメータ数を最大60%削減しながら,最先端のMoEモデル(OLMoE-1B-7B)を上回る性能を示す。
- スマートフォン上での効率的な推論を可能にし,MobileLLM-Proと比較して,プリフィルとデコードが大幅に高速化。
GENESIS:AIエージェントを活用した6G RANの自律的な合成,研究,およびテスト [cs.NI, cs.AI]目的:6G RANの自律的な合成,研究,テストのためのAIエージェントフレームワーク
- 通信技術の研究開発は,次世代ネットワークの実現に不可欠であり,継続的な進化が求められている。
- RANの研究開発には,多くの手作業が必要であり,開発サイクルが遅延する課題がある。
- AIエージェントを活用し,RANの研究開発プロセスを自動化することで,開発期間の短縮を目指す。
- GENESISは,意図(仕様,テレメトリ異常,研究仮説など)を,無線実験で検証されたソリューションに変換する。
- フレームワークは,エージェント,スキル,フックという3つの要素と,知識ベース「SYNAPSE」で構成され,真実の源泉および成果物の記録として機能する。
- これにより,実行ごとに能力が向上し,RANコンポーネントの相互運用性を維持しながら,開発効率を高める。
検索エージェントの構成に対する自然言語クエリ [cs.AI, cs.SY, eess.SY]目的:検索エージェントの構成最適化手法
- 検索エージェントは回答の質とコストに影響を与える多くの設定項目を持つため,効率的な調整が重要である。
- 従来のワークロードごとの手動調整では,クエリごとの最適化が不十分であるという課題がある。
- 自然言語クエリと目標に基づいて,最適な構成を効率的に選択することを目指す。
- 提案手法BRANEは,LLMを用いてクエリをワークロード特性に変換し,構成ごとの予測器を学習する。
- 推論時に予測正答率を最大化し,コストをペナルティとして課すことで,コストと品質のトレードオフを実現する。
- MuSiQue等の評価で,BRANEは既存手法と比較して,コストを最大89%削減しつつ同等の精度を達成した。
