arXiv雑要約
AI - 2026/06/05 公開
多段階における人間説得可能性のモデル:確率的信念追跡による研究 [cs.CL, cs.AI, cs.HC]目的:人間とLLMの対話における説得過程の分析
- AI技術の発展に伴い,人間への影響力が大きくなっており,そのメカニズム理解が不可欠である。
- 従来の説得研究は結果のみに着目しており,対話中の信念変化の過程が不明確であった。
- 対話を通じた信念変化の過程を詳細に分析し,より現実的な説得モデルを構築すること。
- PERSUASIONTRACEフレームワークを用いて,人間の信念変化パターンを2つのグループに分類できた。
- 人間の説得に対する感受性は,ロゴス,パトス,エトスの修辞戦略と相関があることが示された。
- 提案するベイジアンネットワークによるシミュレーションターゲットは,人間の信念ダイナミクスを高い精度で再現し,従来のLLMシミュレーションよりも優れていた。
GITCO:TSFMにおけるゲート付き推論時コンテキスト最適化 [cs.AI]目的:TSFMにおけるコンテキスト汚染の軽減と,推論時の予測精度向上
- 時系列データ分析において,基盤モデルを活用した予測の重要性が高まっている。
- TSFMはコンテキスト汚染の影響を受けやすく,異常なパッチが予測精度を低下させる。
- 推論時にコンテキストを最適化することで,モデル更新なしに予測精度改善を目指す。
- GITCOは,入力コンテキストを最適化し,有害なパッチを選択的に抑制する軽量なフレームワークである。
- GIFT-Evalデータセットにおいて,GITCOは平均で1.95% MASEを削減し,予測精度向上上限の89.9%を達成した。
- 時系列のメタ特徴量と予測精度改善の関連性を示すコンテキスト感度プロファイルを新たに提示した。
サーキュラーファクトリにおける不確実性考慮型機能動作予測と材料疲労評価 [cs.AI]目的:サーキュラーファクトリにおける製品の機能動作予測と材料疲労評価に関する研究
- サーキュラーエコノミー実現には,製品の再利用と寿命延長が不可欠である。
- 再利用可能な製品の状態把握が困難であり,今後の機能や信頼性を予測しにくい。
- 製品の利用履歴と状態から,機能と材料疲労の両面を考慮した信頼性評価を行う。
- 提案手法は,過去の負荷履歴から機能変数と材料疲労の両方を予測する。
- 実験結果から,機能変数予測の平均許容誤差が2%であり,高い精度を示した。
- 特に,トルク履歴が駆動モーター電流と負荷速度の予測に重要であることが示された。
大規模線形オートエンコーダにおける学習様態のプリズム階層 [cs.LG, stat.ML]目的:大規模線形オートエンコーダにおける学習の極限状態の体系的理解
- 機械学習の理論的解析において,学習ダイナミクスを扱いやすくするため,極限状態の考察が重要である。
- 特定のモデルにおける,全ての質的に異なる極限学習様態を体系的に把握することは困難である。
- 大規模線形オートエンコーダにおける極限学習様態を,入力次元,潜在次元,初期化,データサイズを考慮して明らかにする。
- モデルの損失関数展開階層において,極限状態が三角柱の面と自然に対応することが示された。
- 大規模データ,小規模データ,平均場,狭い潜在空間,自由の5つの基本的な極限状態が特定された。
- 特定された4つの状態(大規模データ,小規模データ,平均場,狭い潜在空間)において,損失関数の時間発展を導出し,実験結果との整合性が確認された。
モデルコンテキストプロトコルサーバーにおける実行時故障の分類 [cs.CL, cs.SE, cs.AI]目的:モデルコンテキストプロトコルサーバーにおける実行時故障の分類
- 大規模言語モデルのツール利用が普及する中で,信頼性確保が重要課題となっている。
- 設定パラメータの不備や未実装が原因で,意図しない動作や故障が発生しやすい。
- 実行時故障の特性を明らかにすることで,AIソフトウェアの保守・進化を支援する。
- MCPサーバーの実行時故障スレッド837件を分析し,11のカテゴリと27のサブカテゴリからなる分類体系を構築した。
- この分類体系は,プロトコル間相互作用,ツール呼び出し,スキーマ適用など,様々な故障を網羅している。
- 開発者アンケートの結果,27のサブカテゴリのうち平均20件が実際に経験されており,分類体系の妥当性が確認された。
センチネルベンチ:長時間の監視エージェントのベンチマーク [cs.AI]目的:長時間タスクにおける監視エージェントの性能評価
- AIエージェントの応用範囲拡大に伴い,長時間のタスク遂行能力が重要視されている。
- 従来のAIエージェントは継続的な行動を前提としているため,待ち時間の多いタスクには非効率である。
- 環境変化を監視し,必要な時に迅速に対応するエージェントの設計を評価するベンチマークの提供。
- センチネルベンチは,メール,カレンダー,金融など10種類のWeb環境における100のタスクで構成される。
- タスク完了率,反応時間,リソース使用量を測定し,応答性とコストのトレードオフを明らかにした。
- 実験結果から,エージェントの設計選択が主要な指標に大きく影響することが示された。
PJ-RoPE:相対的注意のためのフーリエ・ジェット・アフィン位置空間 [cs.LG]目的:相対位置表現空間の構造化と,タスクによる選択領域の解明
- Transformerモデルにおいて,位置情報の効果的な表現は性能向上に不可欠である。
- 既存の位置埋め込み手法は,長距離依存性の捕捉や安定性の面で課題が残されている。
- フーリエ,ジェット,アフィンという異なる手法を統合し,よりロバストで適応的な位置表現を確立する。
- PJ-RoPEは,RoPE,Jordan-RoPE,ALiBiを統一的に表現する新しい位置空間である。
- LC/rapidity座標を用いることで,高次のジェットの安定性を向上させている。
- 実験により,PJ-RoPEがアフィン/recency境界を示し,音楽トークンにおいて高次の修正が有効であることが確認された。
大規模縦断構造・疼痛関連研究のための解釈可能で信頼性の高いAIフレームワーク [cs.AI]目的:変形性膝関節症イニシアチブ(OAI)データを用いた,構造と疼痛の関係性の大規模な研究
- 変形性膝関節症は高齢化社会において患者数が増加しており,その病態解明と治療法の開発が重要である。
- MRI画像からの客観的な評価と,患者の自覚症状である疼痛との関連性が十分に解明されていない。
- AI技術を用いて画像データと臨床データを統合的に解析し,疼痛リスク因子を特定することを目指す。
- 深層学習と統計モデリングを組み合わせたAIフレームワークを開発し,MRI画像から変形性膝関節症の重症度を予測する精度を向上させた。
- 骨髄浮腫,軟骨欠損,半月板圧出の3つのMRI所見において,MCCがそれぞれ0.69→0.91,0.45→0.80,0.59→0.89と大幅に改善された。
- 疼痛進行の軌跡を「急速進行群」と「安定群」の2つに分類し,骨髄浮腫,軟骨欠損,半月板圧出が急速進行群のリスクを高めることが示された。
需要モデルは競合価格を組み込むべきか:無意識学習とアルゴリズムによる共謀 [cs.AR, cs.GT, cs.LG, econ.TH, math.OC]目的:需要学習における競合価格のモデル化選択
- プラットフォーム市場における価格設定戦略は,競争環境下で利益を最大化する上で重要である。
- 競合価格を無視した場合の需要モデルの誤りや効率性の低下が問題となっている。
- 競合価格の無視が共謀的な結果を招く可能性を検証し,最適な価格設定戦略を提示する。
- 競合他社を無視する販売者は,動的な競合情報喪失を補うために,より積極的な価格探索が必要となる。
- 全ての販売者が競合価格を無視する場合,十分な探索下では競争的な価格に収束するが,探索が減少すると擬似均衡が多数発生する。
- 競合価格を組み込んだ販売者は,競合価格を無視する販売者よりも収益性が高いことが示された。
Mamba を活用した非マルコフ閉包による次元削減モデリング [cs.LG, cs.NA, math.NA, stat.ML]目的:高次元力学系の次元削減モデリングにおける非マルコフ閉包項の精度向上
- 複雑な物理現象のシミュレーションにおいて,計算コスト削減のため次元削減が不可欠である。
- 次元削減モデルの精度は,未解決変数から解決変数への影響を示す非マルコフ閉包項に左右される。
- Mamba を用いた閉包モデルにより,長時間の安定性と予測精度を向上させる。
- 提案手法 Mamba-Assisted Closure (MAC) は,粘性 Burgers 方程式および二重スケール Lorenz '96 系において,既存手法を大幅に上回る予測精度と安定性を示した。
- MAC は,シーケンス to シーケンス形式での効率的な学習と,ステップごとの定数コストでの推論を可能にする。
- Mamba の状態空間モデルの二重表現を活用することで,長軌道の学習と推論の両方を効率的に行う。
不確実性下におけるエビデンスに基づくニューラルアーキテクチャ選択:患者特異的血糖予測への応用 [cs.RO, cs.CG, cs.LG, physics.bio-ph]目的:患者特異的血糖予測のためのニューラルアーキテクチャ選択
- 時系列予測は医療分野で重要であり,特に患者ごとの個別化予測の精度向上は喫緊の課題である。
- 限られた,ノイズの多い,多様なデータ下では,標準的なアーキテクチャ設計・検証手法では信頼性のある予測が困難である。
- 本研究は,不確実性を考慮したエビデンスに基づくアーキテクチャ選択により,信頼性の高いモデル選択を目指す。
- 提案手法EVIDENTは,糖尿病患者の血糖予測において,過剰なパラメータを持つモデルや,表現力の低いモデルを系統的に排除できることが示された。
- EVIDENTは,未知の患者データに対しても一貫した予測性能を示す小型のアーキテクチャを特定することができた。
- 複数の競争力のあるアーキテクチャが存在する場合,EVIDENTは確率加重アンサンブル予測をサポートし,予測性能を向上させる。
OCTアンギオグラフィーにおける三次元網膜微小血管構造の復元 [cs.CV, cs.AI]目的:OCTアンギオグラフィー画像の三次元網膜微小血管構造復元アルゴリズムの開発
- 網膜血管は眼の健康状態を示す重要な指標であり,その正確な評価は様々な眼疾患の診断・治療に不可欠である。
- OCTアンギオグラフィー画像には,撮像アーチファクトなどが含まれ,正確な血流定量や非灌流領域の特定が困難となる場合がある。
- 既存手法では三次元血管構造が考慮されておらず,より高精度な血管構造復元が求められている。
- 提案手法は,従来のOCTアンギオグラフィー画像と比較して,画質評価指標PSNRおよびSSIMを大幅に向上させた。
- 特に,三次元での血管構造の適合性を示すDice係数は,少なくとも3.8%から51.2%改善された。
- 本研究により,OCTアンギオグラフィー画像の微小血管構造の定量的な評価精度向上が期待される。
SHALA-LLM:LLMの調整における曖昧なラベルのスマートな処理 [cs.LG]目的:LLM調整における曖昧なラベルの取り扱いに関する研究
- 自然言語処理の高度化に伴い,人間が持つ判断の多様性を捉える重要性が増している。
- 既存のLLM調整手法は単一の正解ラベルを前提としており,アノテーター間の意見不一致に対応できていない。
- アノテーターの意見分布を直接学習し,曖昧なサンプルを優先的に最適化することで,LLMの性能向上を目指す。
- SHALA-LLMは,アノテーターのラベル分布との一致度を向上させる。ChaosNLIにおけるJensen-Shannon Distanceを最大62.1%削減。
- 曖昧性のモデリングが分類性能の向上にも繋がり,F1スコアを最大16.7%改善した。
- 動的に曖昧性の高いサンプルを優先することで,LLMが人間の判断の多様性をより適切に学習可能になった。
パターン選択性はタスク因果構造ではない:10億規模言語モデルにおける合成タスク回路のクロスアーキテクチャメカニズム研究 [cs.LG, cs.AI]目的:言語モデルにおける合成タスク回路のメカニズム解明
- 言語モデルの内部動作理解は,より高度なAI開発に不可欠である。
- 特定のタスクに特化した回路の特定方法が一貫性を示していない。
- 異なるモデルアーキテクチャ間での回路の共通性と相違性を明らかにすること。
- タスクパターン選択性に基づいた注意ヘッド回路の特定と因果的アブレーションでは,モデル間での一貫したメカニズム的結論は得られなかった。
- 同じタスク能力を持つモデルでも,異なる注意パターンを通じて実装されていることが示された。
- MoEモデルは,前のトークン位置情報基盤上に合成タスク回路を構築する可能性が示唆された。
双方向予測を用いたオンライン最小化学習の拡張 [cs.DS, cs.LG]目的:オンライン最小化問題に対する学習拡張アルゴリズム
- 動的な環境下での迅速な意思決定は,様々な応用において重要である。
- 既存のオンラインアルゴリズムは,最適解への追随が遅れる場合がある。
- 双方向予測を用いて,オンライン最小化問題における性能向上を目指す。
- 双方向線形計画法の最適解予測を学習することで,理論的な性能保証を改善した。
- 双方向解は,インスタンスのわずかな変化に強く,安定した予測が可能である。
- k-server問題と駐車許可問題の実験により,有効性を確認した。
ベイズT1マッピングのための一般化された全変動–$\ell_p$構造化事前分布 [cs.LG]目的:T1マッピングにおける不確実性定量
- 医療画像解析において,正確なT1マッピングは疾患診断や治療効果評価に不可欠である。
- 従来のT1マッピングはノイズの影響を受けやすく,推定値の信頼性が低いという課題がある。
- 空間的な一貫性や滑らかな変化を事前分布に組み込むことで,推定の精度と信頼性を向上させる。
- 提案手法は,全変動関数と$\ell_p$ノルムを組み合わせた構造化事前分布を用いることで,より集中した事後分布を実現した。
- その結果,従来の推定手法と比較して,分散が小さく,負のバイアスも軽減され,信頼性の高い推定値が得られた。
- 本手法は,T1マップの空間的コヒーレンスを向上させ,不確実性定量を高めるための堅牢なアプローチを提供する。
複数テーブルQ&Aのための合成対照推論 [cs.AI]目的:複数テーブル質問応答における推論過程の学習
- データベースの構造化されたデータへのアクセスと分析は,情報検索と意思決定において不可欠である。
- 既存のデータセットは最終的な答えのみを提供し,推論の根拠となる過程の監督が不足している。
- 推論過程を明示的に学習することで,モデルの回答精度と説明可能性の向上を目指す。
- 合成された対照的な推論トレースデータセットを用いたCPOにより,既存のQ&A supervised fine-tuningを大幅に上回る性能改善が確認された。
- Qwen3-14B,Mistral-8B,Llama-3.1-8Bにおいて,平均9.7%-16.3%の絶対的な性能向上が認められ,MMQAでは最大21ポイントの改善が見られた。
- 異質なLLMによる正負のトレース生成器が対照的な信号を強化し,生成されたペアは忠実性,一貫性,および意味的な対照性の点で評価された。
安定性対操作可能性:LLMジャッジにおける事後意思決定インタラクション下での頑健性の評価 [cs.AI, cs.CL]目的:LLMジャッジの頑健性
- LLMの評価は,モデルの性能を測る上で不可欠であり,客観的な比較を可能にする。
- 従来の評価パイプラインは,判断の安定性を前提としているが,インタラクションの影響は考慮されていない。
- 事後意思決定インタラクションがLLMジャッジの判断に与える影響を明らかにすること。
- LLMジャッジは,中立的な再評価では安定しているが,特定の質問による挑戦に対しては判断が覆りやすい。
- 安定した判断も,動機付けられたインタラクションによって覆される可能性があり,人間の選好との一致性が低下する。
- 評価の頑健性スコア(ERS)は,判断の可逆性と方向性効果を組み合わせることで,インタラクションに対する頑健性を定量化する。
科学データの忠実度向上型学習圧縮のための残差モデリング [cs.AI]目的:科学データの高精度学習圧縮のための残差モデリング手法の開発
- 科学シミュレーションは膨大なデータ量を生成するため,効率的なデータ圧縮が不可欠である。
- 従来の損失圧縮は,高い忠実度を維持することが困難であり,計算コストも大きい。
- 学習ベースの圧縮では,残差の効率的な符号化が,高精度圧縮を実現するための鍵となる。
- 提案手法LBRCは,既存のGAEと比較して圧縮率を30-60%向上させ,SZと同等の性能を示す。
- さらに,NGLRはLBRCに対して10-40%の圧縮率向上を実現し,評価された高精度領域においてSZを上回る。
- これらの結果は,学習圧縮器の残差に特化した表現が,残差補正がレートの主要因となる場合に,学習圧縮の利点を維持できることを示している。
実運用における自律型システムに対する人間の監視:ソフトウェアエージェントを使用する開発者の監視作業,課題,および経験則の調査 [cs.MA, cs.SE, cs.AI]目的:ソフトウェアエージェントを使用する開発者の監視作業の実態解明
- 開発者の生産性向上に貢献する自律型エージェントの活用が期待される分野である。
- エージェントの誤りや予期せぬ挙動への対処法が確立されておらず,人間の監視が不可欠である。
- エージェント監視に関する理論的議論を実証的な知見で補強し,実用的な監視手法を提示する。
- 開発者は,事前制御,共同計画,リアルタイム監視,事後レビューといった,様々な監視作業を行っていることが明らかになった。
- 監視作業は,従来のReactive/Retrospectiveな側面だけでなく,Preventive/Proactiveな側面も持つことが示された。
- エージェント生成コードのレビューの困難さなどが課題として挙げられ,テスト結果をコードの正当性の保証として利用する等の経験則が活用されている。
VASO:物理AIエージェントのための形式検証可能な自己進化型スキル [cs.RO, cs.AI]目的:LLM生成のロボットスキル契約の検証誘導による自己進化
- ロボットスキルは,指示を物理的な行動に変換する基本単位であり,その再利用性が重要である。
- 既存のスキル進化手法は,限定的な実行結果に基づくため,未検証の状況下での安全性を保証できない。
- 形式検証を用いてスキル契約を更新し,ロボットスキルの信頼性と安全性を向上させることを目指す。
- VASOは,ロボットの状態,観測,制御命令を論理命題に変換し,モデルチェッカーによる検証を可能にする。
- 検証に失敗した場合,反例をテキスト勾配に変換し,基礎モデルの重みを固定したまま,再利用可能なスキル契約を更新する。
- Clearpath JackalとPX4クアッドコプターのタスクで,VASOは97.2%の形式仕様への準拠を達成し,既存手法を上回った。
意欲はあるが実行できない:コードLLMにおける拒否と能力の分離 - 削除による手法 [cs.CR, cs.AI, cs.SE]目的:コードLLMにおける拒否反応を分離し,脆弱性注入の可能性を探求する研究
- 脆弱性検出はソフトウェアの安全性確保に不可欠であり,その自動化が求められている。
- 学習データに含まれる誤ったラベルや,LLMの安全対策による拒否反応が課題となっている。
- LLMの拒否反応を取り除くことで,脆弱性注入の実験を可能にし,より正確な脆弱性検出を目指す。
- LLMのサイズやプロンプトによって拒否率は大きく異なり,特に大規模モデルでは拒否反応が顕著である。
- 提案手法である削除(abliteration)により,拒否反応をほぼゼロに抑えつつ,コードの構文的妥当性を維持することが可能となった。
- 削除後においても脆弱性注入率はモデルの能力に依存しており,拒否反応と能力は分離できることが示唆された。
LeanMarathon:長期的自動化による信頼性の高いAI共同数学者へ [cs.AI, cs.CL, cs.LG]目的:研究数学の長期的自動化の実現
- 数学の自動化は,数学的知識の検証や新たな発見を促進し,研究の効率化に貢献する。
- 既存の自動化手法は,複雑な定理の証明や大規模なプロジェクトにおいて,安定性や信頼性に課題がある。
- 長期的かつ信頼性の高い自動化フレームワークを構築し,数学研究におけるAIの協調性を高める。
- LeanMarathonは,複数のエージェントが協調してLeanの自動化を行うことで,安定性と回復性を向上させている。
- Erdős問題4件を含む2つの研究論文を対象に,7つの定理を完全に形式化し,258個の補題と定理を証明した。
- これらの結果は,AIによる共同数学研究には,強力な証明器だけでなく,長期的な開発における整合性を維持する堅牢なフレームワークが必要であることを示唆している。
ReasoningFlow:LLMの推論経路における談話構造 [cs.CL, cs.AI]目的:LLMの推論経路の談話構造の把握
- 大規模言語モデルの利用拡大に伴い,推論過程の評価・監視が重要となっている。
- LLMの推論経路は非線形であり,その構造把握が困難である。
- LLMの推論経路を構造的に分析するためのフレームワークを開発すること。
- ReasoningFlowは,LLMの推論経路を微細な有向非巡回グラフ(DAG)として捉えるフレームワークである。
- 異なるベースモデルや学習データを持つLLMでも,構造的に類似した推論経路を示すことが明らかになった。
- ReasoningFlowにより,局所的な検証や自己反省など,多様な推論行動が可視化され,推論経路の監視可能性が向上する。
信頼せよ,しかし検証するな:LLMソース評価における認識的盲点 [cs.LG, cs.AI]目的:LLMによるソース評価のプロセス
- LLMが情報源として利用される機会が増加しており,その情報処理の質が重要である。
- LLMが情報源の質を評価せず,表面的な表現のみに基づいて集約する可能性が指摘されている。
- LLMが統計データの妥当性を認識しつつも,複数情報源の統合時にそれを活用しない問題を解決する。
- LLMは統計手法の識別は高い精度で可能だが,複数ソース統合時にはその能力を活用しない。
- 情報源の影響は,数値の妥当性ではなく,分析テキストの表現スタイルによって決定される。
- 統計的にありえない信頼区間も,妥当なものと同等の重みで扱われる。プロンプトによる緩和策も効果は限定的である。
文脈化された時系列データのための汎用エージェントの活用 [cs.AI, cs.CL, cs.LG]目的:時系列データに対する文脈化された時間的推論
- 時系列データは現実世界の複雑な現象を分析する上で不可欠であり,その応用範囲は広い。
- 既存の手法では,時系列データと関連文脈を統合的に扱うことが難しく,汎用的な分析ワークフローの構築が課題である。
- 文脈情報を活用した時系列データの分析を可能にし,より高度な推論と応用を実現することを目指す。
- 本研究では,汎用LLMエージェントに時系列データ処理能力を付与するTimeClawフレームワークを提案した。
- TimeClawは,実行可能な時間的ツール,経験に基づく能力進化,およびエピソード的マルチモーダルメモリを統合している。
- エネルギー,金融,気象,交通など様々な実世界ドメインにおける評価で,TimeClawの性能向上が示された。
エージェントの最終試験 [cs.AI, cs.CL, cs.LG]目的:AIエージェントの長期的な経済的価値の評価
- AI技術の進歩が経済活動への実用的な応用を妨げている現状がある。
- 既存の評価基準は,実際の経済的価値のある業務における継続的な性能測定が不足している。
- 実際の業務を評価することで,AIの経済的インパクトを高めることを目指す。
- 本研究で開発されたALEベンチマークは,250名以上の業界専門家との共同作業により,O*NET / SOC 2018を基にした実務分野を網羅している。
- ALEの最も難易度の高いタスク層では,主流の構成で平均合格率が2.6%と低い結果を示しており,改善の余地が大きい。
- ALEは単なるリーダーボードではなく,ベンチマークの成功とGDPへの貢献のギャップを埋めるための手段として継続的に更新される。
LLM駆動プログラム進化における収束ダイナミクス:変異なき突然変異 [cs.RO, cs.AI, cs.NE]目的:LLM駆動によるプログラム変異鎖の挙動に関する分析
- LLMはプログラム生成・進化の新たな可能性を秘めている。その能力を最大限に引き出すには,変異の特性理解が不可欠である。
- LLMによる変異は多様性をもたらすと考えられているが,実際には限定的なパターンに収束する可能性がある。
- LLM駆動プログラム進化における収束傾向を明らかにし,持続的な探索を促すための対策を検討すること。
- LLMによるプログラム変異は,プログラム空間内の限られた引力領域に収束する傾向が確認された。
- 変異鎖の大部分において,構造レベルでの再訪が頻繁に発生し,多様性は主に末端置換に限定されていた。
- この収束現象は,LLM特有の変異パイプラインに起因すると考えられ,古典的な遺伝的プログラミングとは異なっていた。
対話型AGIのための動機付けアーキテクチャ [cs.AI, cs.HC]目的:対話型AGIのための動機付けアーキテクチャの提案
- 認知AIの発展には,自律的な行動原理が不可欠であり,動機付けアーキテクチャはその根幹を担う。
- 従来の動機付けアーキテクチャは身体を持つエージェントが中心であり,対話エージェントには不向きな点がある。
- 対話エージェント固有の環境と行動様式に最適化された動機付けアーキテクチャを構築し,AGIへの応用を目指す。
- 本研究では,OpenPsiの動機付け構造を対話型に再解釈し,MetaMoのより高次の動機付け構造と組み合わせた。
- エージェントは,身体的な欲求ではなく,能力,不確実性の軽減,親和性,正当性などの対話固有の要素を調整することで,自己を維持する。
- 認知的な調整と状況評価を分離する10段階の動機付け処理パイプラインと,行動前感情と行動後感情の区別を提案した。
因果的POI:コールドスタートPOIチェックイン予測のための時空間グラフに基づく因果モデリング [cs.LG, cs.AI]目的:新規POIのチェックイン予測
- 都市環境の変化に対応したPOIの動的挙動モデリングは,都市計画や商業的意思決定に不可欠である。
- 既存手法は近接性に基づくグラフと相関関係モデリングに依存し,POI間の機能的依存関係や都市介入の効果を捉えきれていない。
- 新規POIの時系列変化と周辺POIとの機能的相互作用を構造化された都市空間でモデリングし,予測精度を向上させる。
- 提案手法CausalPOIは,POI間の意味的・空間的関係をモデル化する時空間機能的相互作用グラフを活用する。
- CausalPOIは,実測データと介入なしの仮想データを比較することで因果効果を推定する。
- 実データ実験の結果,CausalPOIは最先端手法を大きく上回り,都市介入分析に役立つ解釈可能な基盤を提供する。
証拠が乏しい場合:対話とLLMエージェントの軌跡における弱教師あり早期失敗警告 [cs.CL, cs.AI, cs.HC, cs.LG]目的:対話やエージェントの軌跡における早期失敗警告の仕組み
- 対話システムやAIエージェントの信頼性向上は重要であり,失敗を早期に検知することで,ユーザー体験の改善に繋がる。
- 失敗のラベルは通常,軌跡全体に対してのみ得られるため,部分的な対話から失敗を予測することが困難である。
- 対話の初期段階における乏しい証拠から失敗を予測し,適切なタイミングで警告を発することを目指す。
- 先行研究では,軌跡全体のラベルを各ターンに割り当てることで対処していたが,本研究ではこの仮定が多岐にわたる対話に適していないことを示した。
- 提案手法では,スパースな証拠構造から学習する二段階アプローチを採用し,注意機構を用いた失敗予測器と,精度と早期性のバランスを調整するα-STOPポリシーを組み合わせた。
- 実験結果から,関連性の高い失敗証拠は対話のほんの一部にしか存在せず,既存手法と比較して,性能向上が確認された。
実行可能なスキーマ契約:自動取り込みから複数ソース検索まで [cs.CL, cs.AI, cs.LG]目的:複数ソースからのデータ統合とクエリ実行のためのスキーマの自動発見と活用
- 現実世界のデータは多様な形式で存在し,その統合は情報活用において不可欠である。
- 従来のデータ統合手法は,手動での調整が必要であったり,構造を無視してしまうといった課題がある。
- 本研究は,スキーマを通じて複数ソースのデータを効率的に統合し,正確な情報検索を実現することを目指す。
- システムは,生の複数ソースデータから実行可能なスキーマを自動的に発見し,知識グラフの構築とクエリ時の検索に活用する。
- スキーマはLLMによる発見を制約するクローズドワールドフィールドカタログ,構造分析によるキーの推論,データソース階層の推論に基づいている。
- クエリ時には,スキーマに基づいて検索経路を決定し,構造化検索,グラフ探索,ベクトル検索を組み合わせることで,根拠のある回答を提供する。
米国ハイパースケールデータセンターの炭素排出量とエネルギー消費量の評価 [cs.AI, stat.AP]目的:米国ハイパースケールデータセンターの炭素排出量およびエネルギー消費量の評価
- AI技術の発展に伴いデータセンターの重要性が増しており,その環境負荷への関心が高まっている。
- データセンターの電力消費量と炭素排出量は増加傾向にあり,持続可能性が課題となっている。
- 最新のEPA eGRIDデータを用いて,ハイパースケールデータセンターの環境負荷を評価する手法を提供する。
- 米国における403のハイパースケールデータセンターの年間電力消費量は68~99TWhと推定された。
- これらのデータセンターに起因する二酸化炭素排出量は約3700万~5400万メートルトンに達する。
- データセンターの電力需要は全米の電力消費量の約1.8%を占め,その電力源の約54%が化石燃料に依存している。
大規模言語モデルにおけるスケールの隠れたコストの最小化:グラフ誘導超低ビット量子化 [cs.AI]目的:大規模言語モデルの効率的な展開のための隠れたスケーリングコストの最小化
- 大規模言語モデルの利用拡大には,計算資源の効率的な活用が不可欠である。
- 既存の超低ビット量子化手法は,スケーリングオーバーヘッドが大きくなる場合がある。
- SAGE-PTQは,スケーリングコストを最小化する量子化手法を提案する。
- SAGE-PTQは,平均で1.03の重みビット数と0.004のスケーリングビット数で高い性能を達成した。
- LLaMA-3-8Bにおいては,BiLLMと比較して大幅に低いパープレキシティ(6.74)を示した。
- LLaMA-2-70Bにおいては,NVIDIA L40 GPU上で1.5倍高速なデコーディングを実現し,実用的な推論効率を実証した。
最先端AIトレーニングのゼロ知識検証の可能性 [cs.AI, cs.SY, eess.SY]目的:最先端AIトレーニングの検証手法
- AIの進化は社会に大きな影響を与えるため,そのガバナンスは重要である。
- AIトレーニングの規模を検証する技術がなく,自己申告に頼る現状がある。
- トレーニング記録をガバナンスで強制可能なものにするための手法を確立する。
- 本研究では,ゼロ知識バーチャルマシンを用いて,トレーニング過程を検証するアーキテクチャを提案した。
- 提案手法は,浮動小数点演算を正確に検証しつつ,モデルアーキテクチャの機密性を保護する。
- 約36ヶ月で実用的なプロトタイプを開発可能であり,カスタムシリコンに比べて開発期間を大幅に短縮できる見込みである。
選択的優位性エントロピー適応ホライズンGRPO:言語モデルの効率的な強化学習のための非対称トークンレベル割引 [cs.LG, cs.AI]目的:言語モデルの推論タスクにおける強化学習による性能向上
- 大規模言語モデルの性能は,人間のフィードバックを用いた強化学習によって大きく向上し得る。
- 従来のGRPOアルゴリズムでは,全てのトークン位置とロールアウトを対称的に扱うため,学習が不安定になりやすい。
- 不確実性の高いロールアウトに対する割引を導入し,学習の安定化と性能向上を目指す。
- SA-AH-GRPOは,GSM8Kベンチマークにおいて,3BモデルでPass@1=0.858を達成し,学習の分散をGRPOと比較して3.6倍削減した。
- 1.5Bモデルにおいても,SA-AH-GRPOはPass@1=0.686のピークを達成し,ゼロショットベースラインを上回る性能を示した。
- 非対称割引は,正解に対する勾配信号を維持し,エントロピー崩壊を防ぎ,学習を安定化させる効果が示された。
DP-MacAdam:適応的クリッピングと適応的モーメンタムを用いた差分プライバシーメカニズム [cs.LG, cs.CR]目的:差分プライバシー機械学習におけるモデルの有用性向上
- プライバシー保護機械学習の重要性が増しており,特に差分プライバシーSGDが標準的な枠組みとなっている。
- 従来の差分プライバシーSGDは固定の勾配クリッピング閾値に依存しており,その調整が困難である。
- 勾配の平均と分散をクリッピングとモーメンタムの両方に利用することで,有用性を高めることを目指す。
- DP-MacAdamは,勾配の平均と分散をバイアスなく推定することが理論的に示された。
- 実験結果から,DP-MacAdamはDP-SGD,AdaClip,DP-Adamと比較して,より高いモデルの有用性を達成することが示された。
- クリッピング閾値の調整を必要とせずに,高いプライバシーと精度を両立している。
臨床文献要約における10人の頭痛専門医と人工知能の比較評価 [cs.AI, cs.CL, cs.IR]目的:臨床文献要約の質と専門家とAIの比較
- エビデンスに基づく医療において,最新の医学文献の要約は不可欠である。
- 医師は患者との時間制限と急増する論文数により,文献調査に苦慮している。
- AI要約の有効性を評価し,専門家による要約との比較を行う。
- 専門家による要約がAIによる要約よりも好まれた。
- 専門家は,AI生成の要約と人間の専門家による要約を区別するのが困難な場合もあった。
- 今後のAIおよび人間による要約パイプラインの改善に役立つ,専門家が重視する特徴が明らかになった。
高階滑らかな非凸最適化に対する鋭い一次の劣界 [cs.LG, math.OC]目的:高階滑らかさの仮定を満たす非凸最適化における\(\epsilon\)-定常点の探索の,決定論的一次オラクル計算量
- 非凸最適化は機械学習等の分野で広く用いられ,効率的な解法開発が重要である。
- 高階滑らかさの仮定下では,既存の上界は存在するものの,それらを達成する下界の証明が未解決であった。
- 高階滑らかさを持つ非凸関数の計算量の下界を導き,上界とのギャップを埋める。
- ヘッセ行列がLipschitz連続な場合,計算量の下界が\(\Omega(\epsilon^{-7/4})\)であることが証明された。
- 3階微分がLipschitz連続な場合,計算量の下界が\(\Omega(\epsilon^{-5/3})\)であることが証明された。
- ブロックチェーン機構に基づいた困難な事例を構築することで,次元に依存しない下界を導出した。
GOTabPFN:高次元データにおける表形式ファウンデーションモデルのための特徴順序からコンパクトなトークン化へ [cs.LG, cs.AI, stat.ML]目的:高次元・低サンプルサイズの表形式データ予測における小型ファウンデーションモデルの有効性
- 表形式データは様々な分野で広く利用されており,その分析は重要である。
- 高次元・低サンプルサイズの表形式データでは,従来のモデルは過学習を起こしやすい。
- 本研究は,大規模なバックボーンの再学習なしに,高次元・低サンプルサイズデータでの予測性能を向上させる。
- グラフ誘導による順序付けと局所的な洗練(GO-LR)を導入し,加重最小線形配置との等価性を示した。
- GO-LRに基づき,隣接する特徴をメタ特徴に統合するニューロインスパイアードサブユニット圧縮(NSC)ユニットを提案した。
- GOTabPFNは,厳格なトークン予算下で,表形式ベンチマークにおける安定性と精度を向上させた。
サイクル整合性のある機械翻訳による多言語コアファレンス解決 [cs.DL, cs.CL, cs.CL, cs.AI, cs.LG]目的:低リソース言語におけるコアファレンス解決の性能向上
- 自然言語処理の基盤技術であり,機械翻訳や質問応答など多岐にわたる応用分野を持つ。
- 英語以外の言語,特に低リソース言語におけるコアファレンス解決の研究は遅れている。
- 機械翻訳を用いたデータ拡張とサイクル整合性を利用し,低リソース言語でのコアファレンス解決を目指す。
- 提案手法は,4つの低リソース言語におけるコアファレンス解決の性能を大幅に向上させた。
- 従来,コーパスが存在しなかった言語においても,高精度なコアファレンス解決を可能にした。
- 翻訳サンプルの品質を自動的に検証するため,BERTモデルの潜在空間におけるコサイン類似度を用いたサイクル整合性を損失関数に組み込んだ。
Brick-Composer:多様なブロックを用いた組み立てにおけるMLLMの活用 [cs.AI]目的:ブロック組み立てのためのMLLMの視覚的理解と空間推論能力の調査
- 現実世界でのオブジェクト構築をAIに委ねる研究は,自動化と効率化に貢献し,産業界における新たな可能性を拓く。
- 既存のMLLMは,複雑な形状や多様なブロックの識別・配置において,高い精度を達成できていない。
- 視覚と物理的なフィードバックを活用し,MLLMの組み立て能力を向上させる学習フレームワークを開発すること。
- Brick-Composerは,ヒューマンデザイン,ワールドフィードバック,合成経験という3つの信号によってMLLMの組み立てスキルを強化する。
- その結果,ブロック選択の精度は3倍以上向上し,姿勢推定誤差は大幅に減少,ステップレベルの組み立て成功率は1%未満から約15%に向上した。
- Qwen-3-8Bは,学習後,完全なオブジェクトの組み立てステップの約42%を正しく実行できることが示され,MLLMがターゲットを絞った物理的に根ざした学習を通じて組み立て能力を獲得できる可能性が示唆された。
自律型AIの保険 [cs.AI, cs.GT, econ.EM]目的:自律型AIに関する新興保険市場の構造
- AI技術の進化は,社会に大きな変革をもたらす一方,新たなリスクを生み出している。
- 既存の保険カテゴリーでは,自律型AI特有のリスクに対応できないという課題がある。
- 自律型AIのリスクに対応するための保険アーキテクチャを提案し,保険商品の設計に貢献する。
- 自律型AIは,その自律性の度合いによってリスクが異なり,情報提供と外部環境への影響を考慮する必要がある。
- ハルシネーション,プロンプトインジェクション,モデルドリフトなど,様々なリスク経路が特定された。
- サイバー保険,技術賠償責任保険,製品責任保険などを組み合わせた,包括的な保険アーキテクチャの必要性が示唆された。
自律運転安全のためのXAI適合性評価基準:規格に基づいた検討 [cs.AI]目的:自律運転システムの安全性保証のためのXAI適合性評価基準
- 機械学習を用いた自律運転の安全確保は,社会実装において不可欠である。
- XAI手法の選択基準が曖昧で,安全規格で求められる証拠との乖離が存在する。
- 安全規格に基づいたXAI手法の評価基準を確立し,適切な手法選択を支援する。
- 安全性規格から19の検証可能な証拠基準を導出し,6つのXAI手法を構造的に評価した。
- 因果関係に基づくXAIが,ハザード特定,事故調査,データ管理の段階で特に必要であることが示された。
- XAI手法の選択は,手法の人気度ではなく,ライフサイクル段階における証拠要求に基づいて行うべきである。
PSEBench:LLMにおける患者安全インシデントトリアージの評価のための制御可能かつ検証可能なベンチマーク [cs.AI]目的:患者安全インシデントトリアージの評価のためのベンチマーク
- 患者安全は医療の質を保証する上で不可欠であり,迅速かつ正確なトリアージが求められる。
- 既存の評価方法では,根拠に基づいた政策推論や曖昧な事例への対応が困難であった。
- 政策に基づき,不完全な報告への対応と曖昧な事例での判断を評価できるベンチマークを構築する。
- PSEBenchは,ミネソタ州の報告対象となる有害事象29件に基づき,5,074件の事例を含む。
- 15の代表的なLLMの評価により,一貫した能力傾向が明らかになり,ベンチマークの有用性が示された。
- 信頼性の高いLLMを用いた患者安全インシデントトリアージに向けた改善点が特定された。
LLMにおける拡大探索空間における段階的最適化様推論 [cs.AI]目的:LLMの段階的最適化様推論能力の向上
- 現実世界の課題解決には,多数の選択肢の中から最適な計画を見出す能力が不可欠である。
- 既存の数学・コーディング問題は,ステップごとの意思決定の全容を捉えきれていない。
- 探索空間を拡大し,最適化様推論の訓練と評価のためのタスク群OPT*を提案する。
- OPT*タスクは,LLMが段階的に最適化様推論を行う能力を向上させる。
- ソルバーを活用したオンライン方策最適化と,オフライン強化学習の二つの学習方法を検討した。
- 探索空間の規模と,推論者が単位探索予算あたりに抽出する情報量の関係を理論的に解明した。
テキスト・画像生成コンテンツに対する人間の選好は生成前に予測可能か,そしてそれは有用か? [cs.CV, cs.LG]目的:テキスト・画像生成コンテンツに対する人間の選好予測の可能性と有用性
- 画像生成技術の進歩は,ユーザーの要求に応じた高品質なビジュアルコンテンツの生成を可能にした。
- 拡散モデルの生成過程におけるランダムノイズの影響は大きく,特に小規模モデルでは顕著である。
- 生成リソースを浪費することなく,人間の選好を事前に予測し,生成品質を向上させることを目指す。
- 人間の選好スコアは,生成前に予測可能であることが示された。
- 予測を活用することで,生成画像の品質向上が可能であり,ハードウェアへの負担も軽微である。
- 特定の人間選好指標は,この予測タスクに特に適していることが明らかになった。
tabular基礎モデルによる統一的かつデータ効率的な予知保全・状態監視 [eess.SY, cs.SY, cs.LG, cs.AI, eess.SP]目的:工学資産の状態診断と残存寿命推定
- 設備の信頼性向上は,産業界における重要な課題であり,安全な稼働とコスト削減に不可欠である。
- 従来のPHMは,データの断片化,不完全性,ラベル不足により,教師あり学習の性能が制限される場合が多い。
- 本研究は,tabular基礎モデルを用いて,様々なPHMタスクにおけるデータ効率と汎用性を高めることを目指す。
- tabular基礎モデルは,予知,診断を含む複数のPHMタスクにおいて良好な性能を示し,データ効率に優れることが示された。
- 特に,低データ環境下では,PFNベースのモデルが競争力を持つことが明らかになった。
- 時間的文脈はtabular表現に保持可能であり,サブサンプリング時の代表的な文脈構築が性能に影響することが示された。
通信効率の良いパイプライン並列化のための学習された部分空間圧縮 [cs.LG]目的:大規模言語モデルのパイプライン並列化における通信効率の改善
- 大規模言語モデルの学習には,単一デバイスのメモリを超える計算資源が必要であり,パイプライン並列化が重要な手法である。
- 低帯域幅ネットワーク環境下では,パイプライン間の活性化情報の通信がボトルネックとなる。
- 活性化情報の圧縮を通して,パイプライン間通信のボトルネックを解消し,性能劣化を最小限に抑える。
- 本研究では,Manifold Aware Projection Learning (MAPL)を提案し,各パイプライン段階が最適な圧縮部分空間を学習・適応させる。
- MAPLは,固定されたグローバルな部分空間ではなく,段階ごとにタスクに最適化された圧縮部分空間を発見する。
- 150Mから1BパラメータのLLaMAモデルにおいて,既存のパイプラインに容易に適用可能であり,性能劣化をほぼなくしつつ高い圧縮率を達成した。
大規模言語モデルにおけるプロンプトの曖昧性局所化:プローブターゲット帰属法 [eess.SY, cs.SY, cs.CL, cs.LG]目的:大規模言語モデルにおけるプロンプトの曖昧性局所化
- 大規模言語モデルの性能はプロンプトに大きく依存するが,曖昧なプロンプトが問題となる。
- プロンプトの曖昧性は潜在的な性質であり,既存の帰属法では特定が困難である。
- 潜在的なプロンプトの曖昧性をトークン位置に帰属させる手法を開発し,曖昧な箇所を特定すること。
- PRIGは,明確なプロンプトと曖昧なプロンプトを識別する線形プローブを用いて,曖昧性をトークン位置に帰属させる。
- 合成データセットおよび人間が作成したベンチマークにおいて,PRIGは既存の帰属法よりも曖昧な範囲を大幅に改善した (AUROC 0.840, 0.891)。
- PRIGは文レベルの曖昧性識別においてもGPT-5.4を上回り,異なるドメインでも有用なシグナルを維持する。
