arXiv雑要約
AI - 2026/04/21 公開
ヘブ学習に基づく深層ニューラルネットワークによる音声分類の逐次学習 [eess.AS, cs.LG]目的：音声分類における逐次学習手法
- 人間の生涯学習能力は深層学習の発展に貢献しており，継続学習への応用が期待される。
- 既存手法では，新しいタスクを学習する際に過去の知識が忘却される「忘却」の問題が存在する。
- カーネル可塑性を導入し，新しい情報と過去の知識の維持を両立する逐次学習手法を提案する。
- 提案手法はESC-50データセットにおいて，5回の逐次学習ステップで76.3%の全体精度を達成した。
- これは，カーネル可塑性を用いないベースライン（68.7%）を上回り，タスク間の安定性も向上したことを示す。
- ヘブ学習に基づくカーネル可塑性は，音声分類における逐次学習において有効であることが示された。
ブロック符号化としてのプログラミング抽象化：Eclipse Qrisp ブロック符号化インターフェース [quant-ph, cs.ET, cs.LG, cs.MS, cs.PL]目的：ブロック符号化インターフェースの提供
- 量子アルゴリズムの発展には，非ユニタリ演算を効率的に実装する技術が不可欠である。
- ブロック符号化の実装は理論的には強力だが，コンパイル可能な実装を生成することが困難である。
- Eclipse Qrispフレームワークにおけるブロック符号化インターフェースを通じて，その実装を容易にすること。
- Eclipse Qrispフレームワーク内にブロック符号化インターフェースを実装し，高レベルなプログラミング抽象化を提供した。
- インターフェースは，ブロック符号化の構築や量子ビット化といった概念を抽象化し，CKSアルゴリズムへの統合を可能にする。
- このインターフェースにより，高度な量子アルゴリズムの実装とリソース見積もりが簡素化されることを示した。
対称性は変分推論における統計量の回復を保証する [math.AG, cs.CC, math.RT, quant-ph, stat.ML, cs.LG]目的：変分推論における対称性によって誘起される統計量回復の一般的な理論
- 現代機械学習において変分推論は不可欠であり，複雑な確率分布の近似に用いられる。
- 変分族が真の分布を正確に表現できない場合，近似の質を保証する必要がある。
- 対称性を利用して，モデルの誤指定下でも統計量の回復を可能にするメカニズムを解明する。
- 本研究では，対称性に着目し，変分推論における統計量回復の一般的な理論を開発した。
- 変分最小化がターゲットの対称性を継承する条件を明らかにし，識別可能な統計量を特定する。
- 球面上の分布への適用により，フォン・ミゼス・フィッシャー族における方向統計量に関する新たな保証を得た。
アルツハイマー病に対する天然薬用化合物の予測モデリング：ケモインフォマティクスを用いた研究 [q-bio.OT, cs.LG]目的：アルツハイマー病に対する潜在的な治療効果を有する天然薬用化合物の同定
- 高齢化社会において，アルツハイマー病は医療・福祉上の重要な課題である。
- 既存の治療法では根本的な解決に至らず，新たな治療薬の開発が求められている。
- ケモインフォマティクスを活用し，効率的な化合物スクリーニングを実現すること。
- 確立された治療薬で訓練されたランダムフォレスト分類器は，適度な性能を示した（適合率0.5970，再現率0.6590）。
- 73の候補化合物が特定され，アルツハイマー病治療薬の探索に貢献する可能性がある。
- 原子分極率，結合多重度，非水素結合数などが重要な記述子として示された。
統計研究における選択バイアスの克服：償却型ベイズ推論によるアプローチ [stat.ML, cs.LG, stat.ME]目的：選択バイアスへの対処
- 統計的推論において，正確な推定と不確実性の評価は重要である。選択バイアスは，その信頼性を損なう。
- 複雑なモデルでは，選択過程の尤度を解析的に扱うことが難しく，従来の修正方法が適用できない場合がある。
- 尤度が不要なシミュレーションベース推論に選択メカニズムを組み込み，バイアスのない推定を実現する。
- 本研究では，選択メカニズムを生成シミュレーターに組み込んだ，バイアスを意識したシミュレーションベース推論フレームワークを開発した。
- これにより，複雑なモデルにおいても，償却型ベイズ推論が可能となり，バイアスの検出と修正が可能となる。
- 様々な統計的応用において，校正された事後分布が得られ，従来の尤度ベース手法がバイアスを生じる状況でも有効であることが示された。
AI取引の解剖：行動ファイナンスとバブル [econ.GN, cs.AI, q-fin.EC, q-fin.GN]目的：AIエージェントの期待形成と取引行動の分析
- 金融市場の安定性確保は重要であり，AI取引の理解は不可欠である。
- 従来の経済モデルでは，行動バイアスやバブル発生を十分に説明できない。
- AIエージェントの行動メカニズムを特定し，バブル抑制策を検討する。
- AIエージェントは，処分効果や最近性バイアスといった行動パターンを示すことが確認された。
- エージェントの個別行動は，需要超過と取引量・価格の関係など，過去の研究結果と整合性があった。
- プロンプト介入により特定の行動メカニズムを増幅・抑制し，バブルの規模を変化させることが示された。
滑らかなグラフ関数に対するスペクトルバンディット [stat.ML, cs.LG]目的：グラフ上における滑らかな関数に対するバンディット問題の解決
- 多様な応用分野で，グラフ上の滑らかな関数が利用されている。
- ノード数が増加すると，最適なポリシーとの累積後悔が大きくなる場合がある。
- 有効次元を導入し，この次元に対して線形または亜線形にスケールするアルゴリズムを提案する。
- 提案手法は，有効次元を用いることで，ノード数に対するスケールを抑制できる。
- 実世界のコンテンツ推薦問題において，数多くのアイテムに対するユーザーの嗜好を，少数のノード評価から学習可能であることが示された。
- 評価結果は，提案手法が実用的なオンライン学習問題に適用できる可能性を示唆している。
早期停止勾配フローのランダム行列理論：一時的BBPシナリオ [stat.ML, cs.LG, math.ST, stat.TH]目的：早期停止勾配フローにおける現象の再現
- 機械学習モデルの過学習を防ぐため，学習過程の理解が重要である。
- 過学習の前に現れる信号検出可能な過渡的な挙動の理論的説明が課題である。
- 入力共分散の異方性が学習ダイナミクスに与える影響を分析し，過渡現象を解明する。
- 線形教師-生徒設定において，学習はノイズの塊から分離する孤立した固有値によって実現される。
- 2x2ダイソン方程式を用いて，対称化された重み行列の時間依存スペクトルを導出した。
- 信号強度と共分散の異方性に応じて，教師スパイクの出現パターンが変化することが示された。
時間変動LQRに対するRiccati解作用素のDeep Operator Networkによる学習 [math.OC, cs.AI, cs.LG]目的：有限ホライズン線形二次レギュレータ(LQR)問題における微分Riccati方程式の反復数値解を，学習された作用素による近似で置き換えるための計算フレームワーク
- 最適な制御は，ロボット工学や自動運転を含む多くの分野で不可欠であり，その計算コストが課題となっている。
- 従来のRiccati方程式の解法は計算コストが高く，特にリアルタイム制御やパラメータ探索には不向きである。
- 時間依存のシステムパラメータからRiccati軌跡への写像を学習することで，高速なオンライン評価と計算コストの削減を目指す。
- 提案手法は，古典的なソルバーと比較して，高い精度と優れた汎化性能を示し，計算時間の大幅な短縮を実現した。
- 作用素近似誤差がフィードバック性能，軌跡の精度，コストの最適性低下にどのように伝播するかを定量化する理論的保証を確立した。
- 十分な精度の作用素近似の下では，閉ループシステムの指数安定性が維持されることが証明された。
敵対的総変分に対する双対性 [math.AP, cs.LG, math.FA, math.OC]目的：敵対的総変分の双対性による特徴付け
- 機械学習において，分類器の性能向上は重要な課題である。
- 敵対的学習は有効だが，その理論的な理解は不十分である。
- 本研究は，敵対的学習の基礎となる総変分の双対性を解明する。
- 総変分の双対表現と積分公式を導出した。
- 適切な条件の下で，無限遠で消滅する連続関数と有界関数空間における双対性を示した。
- これらの設定において，双対性の性質を特徴付けた。
FUSE：ゼロラベルデータによる検証器のアンサンブル [stat.ML, cs.CL, cs.LG]目的：大規模言語モデルの出力検証における品質向上
- LLMの訓練と実用化において，出力検証が重要な役割を担うようになってきた。
- 信頼できる正解データ取得は時間と費用がかかるため，不完全なLLM評価器が用いられることが多い。
- 正解ラベルなしで検証器の性能を向上させ，より高精度な検証を実現すること。
- FUSEは，検証器間の条件付き依存性を制御することで，アンサンブル学習の性能を向上させる。
- 正解ラベルを必要としないにもかかわらず，半教師あり学習と比較して同等かそれ以上の性能を示す。
- GPQA DiamondやHumanity's Last Examといった多様なベンチマークで有効性が確認された。
ConforNets：OpenFold3における潜在変数に基づく配座制御 [q-bio.BM, cs.LG]目的：OpenFold3における配座多様性の獲得と制御
- タンパク質の機能は配座変化に依存するため，多様な配座予測は重要である。
- AlphaFoldは主要な配座は予測できるが，生物学的に重要な代替状態の捕捉が困難である。
- 潜在表現の操作により，OpenFold3の配座制御を効率的に実現することを目指す。
- ConforNetsは，OpenFold3のペア潜在表現にチャネルごとのアフィン変換を適用する。
- 既存のマルチ状態ベンチマークにおいて，代替状態生成の成功率で最高性能を達成した。
- あるタンパク質で学習したConforNetsは，そのタンパク質ファミリー全体で配座変化を誘導できる。
能動的逐次予測を活用した平均推定の再検討 [stat.ML, cs.LG]目的：能動的逐次予測を活用した平均推定におけるクエリ確率決定
- 機械学習モデルの性能向上には，データ効率が重要であり，能動学習はその効率化に貢献する。
- 既存手法では，不確実性に基づくクエリ確率と制約項を組み合わせるが，最適なバランスが不明確である。
- クエリ確率の決定方法を分析し，データ依存的な信頼区間を導出すること。
- 実験結果から，制約項の重みを大きくすると信頼区間が最小になる傾向が示された。
- 提案手法の非漸近的解析により，データ依存的な信頼区間の上限が導出された。
- 後悔学習アプローチを用いることで，クエリ確率は最大クエリ確率の制約に収束することが示唆された。
異質性を持つグラフに対するグラフニューラルネットワーク：サーベイ [cs.SI, cs.CY, cs.LG]目的：異質性グラフに対するグラフニューラルネットワークの包括的なレビュー
- グラフデータは現実世界で広く存在し，その分析は様々な応用分野で重要である。
- 従来のグラフニューラルネットワークは同質性（類似ノード間の接続）を前提としているため，異質性グラフの性能が低い。
- 異質性グラフに対するグラフニューラルネットワークの効率的な学習手法を確立し，その発展を促進すること。
- 本研究では，既存の異質性グラフに対するグラフニューラルネットワークモデルを体系的に分類し，その概要と詳細な分析を提示する。
- 異質性と様々なグラフ研究分野との関係性を考察し，より効果的なグラフニューラルネットワークの開発を支援する。
- 今後の研究の方向性を提示し，異質性グラフ学習におけるさらなる進歩と応用を促す。
ニューラル演算子：世界のモデル化にデータだけで十分か？データ駆動型科学的機械学習の考察 [cs.AI, cs.LG, physics.comp-ph]目的：偏微分方程式の数値解法におけるデータ駆動型アプローチの可能性
- 物理，工学，数学の問題解決において，偏微分方程式の数値解法は不可欠である。
- 従来の数値解法は計算コストが高く，時間もかかるという課題がある。
- 機械学習，特にニューラル演算子による高速かつ高精度な解法を検討する。
- ニューラル演算子は，離散化や解像度に依存しないという利点を持つ。
- データ駆動型アプローチは，従来の数値解法を補完し，工学・物理問題解決に貢献する。
- 機械学習に基づく手法には未解決の問題も残されており，さらなる研究が必要である。
RAYEN：ニューラルネットワークへの硬い凸制約の課すこと [cs.SI, cs.LG, cs.RO]目的：ニューラルネットワークの出力または潜在変数への硬い凸制約の課すための枠組み
- ロボティクスなど多くの応用分野で凸制約が利用されているが，学習ベースの枠組みでそれを適用することが難しい。
- 既存の手法では，制約の充足を常に保証できないか，計算コストが非常に高くなるという課題がある。
- RAYENは，入力やネットワークの重みに関わらず，学習時とテスト時の両方で制約の充足を保証することを目指す。
- RAYENは，高価な直交投影やソフト制約，実行可能集合の保守的な近似，遅い反復補正を回避する。
- 線形，凸二次，セカンドオーダーコーン（SOC），線形行列不等式（LMI）制約の組み合わせを，制約なしのネットワークと比較してわずかなオーバーヘッドでサポートする。
- 制約付き軌道最適化問題を近似するニューラルネットワークで使用した場合，RAYENは最先端のアルゴリズムよりも20〜7468倍高速に動作し，制約の充足を保証し，ほぼ最適なコスト（1.5％未満の最適性ギャップ）を達成する。
二段階適応ロバスト最適化への機械学習アプローチ [cs.LG, math.OC]目的：二段階線形適応ロバスト最適化問題の解法
- 不確実性下での意思決定は，現実世界の多くの問題で重要である。
- ロバスト最適化は計算コストが高く，大規模問題への適用が困難である。
- 機械学習を用いて，ロバスト最適化の解法を高速化し，適用範囲を拡大すること。
- 機械学習モデルが，高精度に戦略を予測できることが示された。
- 提案手法は，既存の最先端アルゴリズムと比較して，大幅に高速に問題を解くことができた。
- 本手法は，様々な規模の問題に適用可能であることが確認された。
欠損モダリティを伴うマルチモーダル感情分析：知識転移アプローチ [cs.SD, cs.AI, cs.CL, cs.LG, eess.AS]目的：マルチモーダル感情分析における欠損モダリティへの対処法
- 人間は視覚，言語，音声など多様な情報から感情を読み取るため，より自然な対話システム構築に重要。
- 既存研究は全てのモダリティが揃っていることを前提とし，一部欠損する状況への対応が課題。
- 欠損したモダリティを他のモダリティから再構築し，感情認識の精度向上を目指す。
- 提案手法では，知識転移ネットワークを用いて欠損した音声特徴量を再構築する。
- 再構築された特徴量と観測された特徴量から，クロスモダリティ注意機構により情報を最大限に抽出する。
- 3つの公開データセットで顕著な性能向上を示し，完全なマルチモーダルデータを用いた既存手法と同等の結果を達成した。
拡散モデルにおけるニューラルネットワークに基づくスコア推定：最適化と汎化 [cs.LG, stat.ML]目的：拡散モデルにおけるニューラルネットワークを用いたスコア推定の最適化と汎化
- 生成AI分野において，拡散モデルが主要な手法となり，スコア推定はその中心的な要素である。
- スコア関数は非凸なニューラルネットワークでパラメータ化され，勾配降下法で学習されるため，厳密な保証は不明である。
- 勾配降下法で学習されたニューラルネットワークによるスコア推定の最適化と汎化に関する数学的枠組みを開発する。
- スコア推定をノイズ付きラベルの回帰問題として捉え，勾配降下法のダイナミクスを局所カーネル回帰問題の系列で近似した。
- ノイズ付きラベルでの長期的な学習は過学習を引き起こすことを示し，非有界領域に適応した早期停止ルールを導出した。
- 拡散モデルにおける勾配降下法で学習されたニューラルネットワークに対する初めてのミニマックス最適汎化限界を確立した。
機械学習に基づくAndroidマルウェア検出の鍵の解明 [cs.CR, cs.LG]目的：機械学習を用いたAndroidマルウェア検出に関する既存研究の体系的な分析
- Androidの普及に伴い，マルウェアの脅威が増大しており，自動的な検出手法が不可欠である。
- 既存研究の分析が不十分であり，この分野の全体像を把握することが困難である。
- 機械学習に基づくAndroidマルウェア検出システムの課題を明らかにし，今後の研究方向を示す。
- 既存研究をAndroidアプリの表現方法と機械学習パイプラインに基づいて分類し，統一的な分類体系を構築した。
- 12の代表的な手法を実装し，検出性能，実用性，効率性について大規模な評価を行った。
- 既存の検出器はマルウェアの進化や敵対的攻撃に対して脆弱であり，マルウェアのセマンティクスを捉える能力が課題であることが判明した。
機械的アンラーニング：包括的サーベイ [eess.SY, cs.SY, cs.CR, cs.AI]目的：機械的アンラーニングの分類と課題
- データ利用における個人の権利保護が重要視されるようになり，忘れられる権利への対応が求められている。
- 機械学習モデルから特定のデータを完全に削除する効率的かつ安全な手法が確立されていない。
- 機械的アンラーニングの既存研究を体系化し，今後の研究の方向性を示す。
- 本調査では，機械的アンラーニング手法を，集中型，分散型，不規則データ型，検証，プライバシー・セキュリティの観点から分類した。
- 集中型アンラーニングは，完全消去と近似消去に分けられ，それぞれの技術が詳細に紹介されている。
- 分散学習やグラフ学習といった，より複雑な環境におけるアンラーニング手法についても検討された。
LLMの安全性調整におけるロジット抑制脆弱性の解明 [cs.CR, cs.AI, cs.LG]目的：LLMの安全性調整におけるロジット抑制脆弱性の特定と評価
- LLMの応用拡大に伴い，有害な出力の抑制は重要な課題となっている。
- 既存の安全性調整手法はロジット抑制に依存しており，脆弱性を抱えている。
- ロジット操作による脆弱性を明らかにし，より堅牢な安全性調整手法の必要性を示す。
- 提案手法SSAGは，モデルパラメータを変更せずにロジットを操作し，95%の成功率で有害な応答を引き出すことを示した。
- SSAGは応答時間を86%短縮し，攻撃効率の向上を実証した。
- 強力な防御機構に対しても，平均ASR 77%という高い攻撃成功率を達成した。
ホップのような問題の性質―現実世界の問題の新たな特徴の解明とモデリング [cs.NE]目的：最適化問題における問題の性質の分析と，それを踏まえた新たなベンチマーク問題の提案
- 最適化アルゴリズム開発にはベンチマークが不可欠であり，現実世界の問題解決能力の向上に貢献する。
- 既存のベンチマーク問題では，現実世界の問題が持つ複雑な特徴を十分に捉えられていない。
- 現実世界の問題に類似した特徴を持つベンチマーク問題を作成し，最適化アルゴリズムの改善点を見出す。
- 最適化過程の分析により，NP困難な現実世界の問題に，Leading Ones問題の特徴が認められた。
- Leading Ones問題の一般化であるLeading Blocks Problem (LBP)を提案し，新たな困難な最適化問題の構築を可能にした。
- LBPと現実世界の問題を解く上で，遺伝的アルゴリズム(GA)の有効性を向上させるメカニズムの必要性が明らかになった。
SparrowSNN：エネルギー効率の良い心電図分類のためのハードウェア/ソフトウェア協調設計 [cs.AR, cs.LG, cs.NE, eess.SP]目的：エネルギー効率の良い心電図分類のためのハードウェア/ソフトウェア協調設計
- 深層学習技術は目覚ましい進歩をもたらしたが，その高い消費電力は，バッテリー駆動のデバイスでの利用を制限している。
- 既存のニューロモーフィックアーキテクチャは，大規模モデルには最適化されているが，エッジデバイスには不向きである。
- 本研究は，エッジアプリケーションに特化した低消費電力な心電図分類システムの実現を目指している。
- SparrowSNNは，MIT-BIH心電図およびDEAP脳波データセットにおいて，最先端の精度を達成した。
- 既存の超低電力ソリューションと比較して，エネルギー消費量を20倍から100倍削減することに成功した。
- SSF（Sum-Spike-and-Fire）というハードウェアフレンドリーなスパイク活性化関数や，マイクロワットレベルの電力で量子化されたハイブリッドANN-SNNモデルを提案した。
ProTrain：メモリを考慮した技術による効率的なLLMトレーニング [cs.DC, cs.AI, cs.LG, cs.PF]目的：大規模言語モデルの効率的なトレーニング
- LLMの規模拡大に伴い，メモリ容量がボトルネックとなり，計算資源の制約が顕著になっている。
- 既存のメモリ最適化手法は低レベルな設定が必要で，専門知識と工学的コストがかかる。
- モデルとハードウェアに合わせてメモリ管理を自動調整し，手動設定の負担を軽減すること。
- ProTrainは，メモリ管理ポリシーを自動的に調整し，トレーニングのスループットを1.43倍から2.71倍に向上させた。
- 複雑なメモリ管理戦略を抽象化し，コストモデルを用いたパラメータ探索を可能にした。
- トレーニングアルゴリズムを変更せず，精度を損なうことなく性能向上を実現している。
大規模言語モデルにおける道徳的・価値判断の慣性 [cs.RO, cs.SY, eess.SY, cs.CL, cs.AI, cs.HC]目的：大規模言語モデルの道徳的・価値判断における慣性の存在
- AIの倫理的利用が重要視される中で，言語モデルの価値観は社会に影響を及ぼす可能性がある。
- 言語モデルはプロンプトに依存して出力が変化するが，一貫性のある価値観を示すことが課題である。
- 言語モデルに内在する価値観の偏りを明らかにし，より公平な出力が得られるようにすること。
- 大規模言語モデルは，ペルソナ設定に関わらず，特定の道徳的・価値的側面（特に危害回避と公平性）において一貫した偏りを示す。
- ペルソナプロンプトによる多様な意見の引き出しは期待されたほど効果がなく，モデルは強い内部バイアスと価値志向を持つことが示唆された。
- 言語モデルの利用にあたっては，偏った出力に注意し，調整を行う必要性が示唆される。
自動データセット構築 (ADC)：サンプル収集，データキュレーション，そしてその先 [cs.AI, cs.LG]目的：大規模なデータセットの自動構築
- 機械学習モデルの性能向上には，大量の学習データが不可欠である。
- 手動アノテーションにはコストと時間がかかり，ノイズの混入も課題となる。
- アノテーションコストを削減し，迅速かつ高品質なデータセット構築を実現する。
- ADCを用いて12の主要クラスと12,000の細分化されたサブクラスを含む100万枚以上の画像データセットClothing-ADCを構築した。
- 自動キュレーションは，人間のアノテーターとの79%の一致率を達成し，ラベルノイズを22.2%から10.7%に低減した。
- ラベルノイズ検出，学習，不均衡データ学習のための3つのベンチマークデータセットを公開し，関連研究を促進する。
SFTMix: Mixupレシピによる言語モデルの指示チューニングの高度化 [cs.CL, cs.CL, cs.AI, cs.LG]目的：言語モデルの指示チューニングにおける性能向上
- 大規模言語モデルの能力向上には，指示への追従能力が不可欠である。
- 高品質な指示データセットの作成には，コストや専門知識が必要となる。
- 既存のデータセットを活用し，指示チューニングの性能を向上させる。
- SFTMixは，Mixupを用いた新しいレシピであり，高品質なデータセットに依存せずに言語モデルの指示チューニングを向上させる。
- 言語モデルは，意味表現空間において信頼度のばらつきを示すことが観察され，SFTMixはそれを利用して学習を最適化する。
- 様々な言語モデルやデータセットで一貫した改善が確認され，データ選択や計算資源の制約にも適応可能であることが示された。
深層強化学習における可塑性の喪失：サーベイ [cs.AI, cs.LG]目的：深層強化学習における可塑性喪失の現状と対策
- 強化学習は複雑な問題を解決する上で重要であり，その性能向上は様々な分野で求められている。
- 深層強化学習モデルは，データ分布の変化に適応する可塑性を失いやすく，性能停滞や過大評価などの問題を引き起こす。
- 可塑性喪失のメカニズムを理解し，効果的な対策をまとめることで，深層強化学習の性能向上を目指す。
- 可塑性喪失に関する統一的な定義が提示され，その原因と問題点が整理された。
- 50を超える対策を分類した包括的な分類体系が構築された。
- 一般的な正則化手法がドメイン固有の介入よりも優れた性能を示す場合が多いことが示唆された。
生成的な中間意図的認知と人工知能：思考する対象との思考 [cs.AI, cs.CY, cs.LG]目的：生成AIと人間の認知の統合という概念
- AI技術の発展は，人間の認知能力拡張に大きな可能性を秘めている。
- 従来の拡張認知理論では，AIとの協働による認知変容を十分に説明できない。
- 生成AIと人間の認知が融合した新たな認知形態を定義し，その特徴を明らかにすること。
- 本研究では，生成AIの反復的なアウトプット生成能力と，人間とAIのハイブリッド的な性質に着目した「生成的な中間意図的認知」を提唱した。
- この認知形態は，従来の意図的な創造と，外部プロセスを取り込んだ創造性の間に位置し，社会認知に近いが，独自の研究対象として扱うべきである。
- 生成的なハイブリッド創造性の幅（文脈の感度）と深さ（反復ループの粒度）の二つの次元を定義し，AI介入が意図的な創造プロセスを構成することを示唆した。
質的分析における「オープンコード」を測定する計算手法 [cs.CL, cs.AI, cs.HC, cs.LG]目的：質的分析におけるオープンコード測定の指標
- 社会科学分野において，人間データを理解するための質的分析は不可欠である。
- 探索的なアプローチである帰納的符号化は，方法論的な要件を満たすことが困難である。
- 人間と生成AIによる帰納的符号化の結果を客観的に評価する手段を提供する。
- 提案手法では，LLMを活用したアルゴリズムで個々のコードブックを統合する。
- 統合結果に対する各符号化者の貢献度を，カバレッジ，重複，新規性，乖離の4つの指標で測定する。
- 実験の結果，指標の安定性と堅牢性，および符号化の問題点の診断能力が確認された。
知識グラフにおける専門家混合と対照学習を用いた順序認識型数値推論 [cs.AI]目的：知識グラフにおける数値推論の性能向上
- 知識グラフは，自然言語理解や推薦システムなど，幅広いAI応用分野の基盤技術として重要である。
- 既存手法は，エンティティ，関係，数値属性を統合的に表現できず，数値情報の関係性に着目した推論が困難である。
- 本研究は，数値属性間の微細な順序関係を捉え，より高精度な数値推論を可能にすることを目的とする。
- 提案手法NumCoKEは，MoEKAエンコーダにより記号的・数値的要素を統合し，関係性に応じた特徴量を動的にルーティングすることで，セマンティック統合を強化する。
- OKCLという対照学習手法により，知識に基づいた順序認識を可能にし，微妙な意味合いの違いを識別する能力を高める。
- 3つの公開データセットでの実験により，NumCoKEが既存手法を凌駕し，多様な属性分布において優れた性能を示すことが確認された。
テキストと動画の不一致検出と局所的な修正による自己修正型テキスト-トゥ-ビデオ生成 [cs.RO, cs.CV, cs.AI, cs.CL]目的：テキストと動画の不一致の検出と局所的な修正による動画生成の品質向上
- 近年の動画生成技術の進歩は目覚ましいが，複雑な指示への対応が課題である。
- 複数のオブジェクトや関係性が指定された場合に，テキストと動画の整合性が損なわれやすい。
- 生成された動画の不一致箇所を検出し，局所的に修正することで，整合性の高い動画生成を目指す。
- VideoRepairは，テキストと動画の不一致を自動的に検出し，対象領域を特定して修正するフレームワークである。
- 既存の動画生成モデルを改良することなく，不一致箇所のみを選択的に再生成する。
- 複数の評価指標において，最新のベースラインと比較して大幅な性能向上を達成した。
MoE層プルーニングにおける効率と性能の向上：削減ではなく圧縮 [cs.LG, cs.CL]目的：MoE層のメモリ使用量削減と推論速度向上
- 大規模言語モデルの発展に伴い，モデルサイズの抑制が重要課題となっている。
- MoE層の削除はメモリ削減に有効だが，性能劣化が顕著である。
- MoE層を削除せず，圧縮することで性能劣化を抑え，メモリ削減と速度向上を目指す。
- 提案手法ConDense-MoEは，MoE層をより小さく密な層に圧縮する。
- DeepSeekMoE-16Bモデルにおいて，平均精度を90%維持しつつ，メモリ使用量を27.5%削減，推論速度を1.26倍に向上させた。
- 軽量な専門家ファインチューニングにより，元の性能の98%を復元することが可能となった。
テキストから動画生成における動的オブジェクトのインタラクション改善：AIフィードバックによるアプローチ [cs.CL, cs.LG, cs.AI, cs.CV]目的：テキストから動画生成モデルにおけるオブジェクトの動的インタラクションの品質向上
- 動画生成技術は多様な応用可能性を持つが，リアルな動きの表現が課題である。
- 既存モデルは動的オブジェクトのインタラクション描写が不正確で，物理法則に反する動きを示す場合が多い。
- AIフィードバックを活用し，オブジェクトの動きの不整合と非現実的なインタラクションを改善する。
- AIによる二値フィードバックが，動画内のインタラクションシーンの品質を最も大きく向上させることを実験で確認した。
- 特に，複数のオブジェクトが複雑にインタラクションする場面や，物体の落下などにおいて，視覚言語モデルからのシグナルが著しい効果を示すことがわかった。
- オフラインRLファインチューニングアルゴリズムは，統一的な確率的目標から等価であることが示され，報酬とデータの質が重要である。
不確実性校正によるファインチューニングを通じた大規模言語モデルの信頼性向上 [cs.CL, cs.AI, cs.LG]目的：大規模言語モデルの信頼性向上
- 自然言語処理の進展に伴い，大規模言語モデルの利用が拡大している。
- 大規模言語モデルは，誤った情報を生成することがあり，その信頼性が課題となっている。
- 生成された回答の信頼区間を適切に評価し，誤情報の検出・抑制を目指す。
- 提案手法は，標準的なファインチューニングと比較して，より校正された不確実性推定を達成した。
- 実験結果から，提案手法は，大規模言語モデルのハルシネーション検出能力を大幅に向上させることが示された。
- また，ドメイン外のプロンプトに対する識別能力も向上した。
テスト時アラインメントによる仮説リウェイト [cs.LG]目的：個々のユーザーの価値観を捉えた報酬モデルの構築
- 報酬モデルは重要な技術であり，AIの性能向上に不可欠である。
- 集合的な好みに基づく報酬モデルは，個々のユーザーの価値観を捉えきれない場合がある。
- リアルタイムでのパーソナライズを実現するため，効率的な適応方法を提供する。
- HyReは，わずか1～5個のラベル付きサンプルで，ターゲットユーザーまたはドメインにリアルタイムでパーソナライズが可能である。
- 異なる予測ヘッドをリウェイトすることで，一様平均よりも大幅に優れた性能を発揮することが示された。
- RewardBenchにおいて，最先端の報酬モデルを凌駕し，報酬モデルの精度を20%向上させた。
LLMにおける不確実性推定の再考：原理に基づいた単一シーケンスの尺度 [cs.LG]目的：LLMの生成するテキストの信頼性評価のための不確実性推定尺度
- LLMの活用範囲拡大に伴い，生成テキストの信頼性確保が重要課題となっている。
- 既存の不確実性推定は複数シーケンスを必要とし，計算コストが高く，大規模運用が困難である。
- 計算効率を維持しつつ，理論的根拠に基づいた不確実性推定方法を確立すること。
- 最尤出力シーケンスの負対数尤度が，理論的に妥当な不確実性尺度となりうることを示した。
- 貪欲デコーディングによる単一シーケンスから近似尺度のG-NLLを提案し，計算効率を向上させた。
- G-NLLが様々なシナリオで最先端の性能を達成し，既存手法の必要性を問い直した。
AutoSculpt：強化学習とグラフ学習を用いたパターンベースのモデル自動剪定フレームワーク [cs.AI]目的：深層ニューラルネットワークの自動剪定
- エッジデバイスでの深層学習利用拡大に伴い，計算資源制約下でのモデル最適化が重要である。
- 既存手法は，DNNの多様性，演算子，剪定粒度と精度のバランスが課題となっている。
- AutoSculptは，効率性と精度向上を目指し，DNNのパターン認識と自動剪定を行う。
- AutoSculptは，既存の推論エンジンで認識可能なDNNアーキテクチャ内の規則的なパターンを自動的に識別・剪定する。
- ResNet，MobileNet，VGG，Vision Transformer等の様々なアーキテクチャで，最大90%の剪定率と18%のFLOPs削減を達成した。
- 既存手法を上回り，圧縮率と精度の最適なバランスを実現した。
操作された顔画像に対する帰属レポートの生成：データセットとベースライン [cs.CV, cs.AI]目的：顔画像操作の帰属レポート生成
- デジタルフォレンジック技術の重要性が増しており，画像改ざん検出の高度化が求められている。
- 既存手法は二値分類やピクセルレベルの局所化に偏り，改ざんの本質的な理解を妨げている。
- 改ざん箇所とその理由を特定し，操作内容を包括的に理解するための基盤を構築する。
- 新たなタスクである改ざん帰属レポート生成を提案し，改ざん領域の特定と自然言語による説明を両立した。
- 大規模データセットMMTTを構築し，高品質なアノテーションと豊かな言語的特徴を提供した。
- 画像とテキスト情報を統合するForgeryTalkerを開発し，競争力のある性能を達成した。
LLaVA-Octopus：ビデオ理解のための命令駆動型適応プロジェクター融合 [cs.CV, cs.AI]目的：ビデオ理解のための命令駆動型適応プロジェクター融合手法
- マルチモーダルな情報処理は，画像とテキストの理解を深め，様々な応用を可能にする重要な研究分野である。
- 異なる視覚プロジェクターは得意分野が異なり，最適な特徴量の組み合わせが課題となっていた。
- ユーザーの指示に応じて最適な特徴量を動的に選択し，融合することで，ビデオ理解の性能向上を目指す。
- LLaVA-Octopusは，ユーザー指示に基づき異なる視覚プロジェクターの特徴量を適応的に重み付けすることで，それぞれの強みを活かす。
- 実験結果から，ビデオ質問応答，長編ビデオ理解，多肢選択問題など，複数のベンチマークにおいて優れた性能が確認された。
- この手法は，マルチモーダルタスクにおける幅広い応用可能性を示唆している。
グラフニューラルネットワークと移動データを用いたCOVID-19予測 [cs.LG, cs.SI]目的：COVID-19の予測
- パンデミック対策において，感染状況の予測は重要であり，公共衛生上の意思決定を支援する。
- 複雑な時空間モデルの有用性と，単純な時間ベースラインとの比較において，明確な結論が得られていない。
- グラフニューラルネットワークの有効性を高めるための，入力グラフの構造的疎性と時間的粒度の重要性を明らかにする。
- 標準的なLSTMは滑らかで単調な累積傾向の予測には十分だが，GNNは不安定な日次感染者数の予測において優れた性能を発揮する。
- バックボーン抽出により，予測の安定性が向上し，予測誤差が減少することが示された。
- 空間的依存関係の組み込みは，複雑な動態をモデル化する上で不可欠である。GCRNやGCLSTMなどのGNNアーキテクチャは，日次感染者数予測においてLSTMを上回る。
学習に基づくボリュームレンダリング時間予測 [cs.GR, cs.CV, cs.LG]目的：ボリュームレンダリング時間の予測
- 科学的可視化において，リアルタイムレンダリングは重要であり，そのためには正確な時間予測が不可欠である。
- 従来のレンダリング時間予測は，計算コストが高く，データセットや設定への適応が難しいという課題があった。
- 多様なデータセットや設定に対応可能な，高速かつ高精度な時間予測モデルを開発すること。
- 提案手法ENTIREは，ボリュームデータの構造的特徴とレンダリングパラメータを組み合わせることで，高い予測精度を実現した。
- ENTIREは，CPU/GPU環境や，単一散乱の有無にかかわらず，様々なレンダリングフレームワークで有効であることが示された。
- 少ないサンプルでのファインチューニングにより，新しいシナリオへの適応も容易であり，動的なパラメータ調整や負荷分散に貢献する。
観測地点未設置エリアに対する誘導型交通予測器MoGERNN [cs.LG]目的：未観測地点における交通状態の予測
- 交通管理システムの高度化に不可欠であり，交通渋滞の緩和や効率的な交通流の実現に貢献する。
- 既存手法は全地点にセンサー設置を前提としており，コストやセンサーネットワークの変化への対応が課題。
- センサー設置が困難な地域や，ネットワーク変更時でも高精度な予測を可能にすること。
- MoGERNNは，既存手法と比較して観測済みおよび未観測地点の両方で，予測性能が安定して向上する。
- センサー未設置エリアでも交通渋滞の推移を高精度に予測し，交通管理に有用な情報を提供する。
- センサーネットワークの変化に適応し，再学習した場合と同等の性能を維持する。
多Modal大規模言語モデルは科学的推論を大幅に進歩させ得る [cs.CL, cs.AI]目的：科学的推論能力の進歩
- 科学的推論は，知識の探求と解釈に不可欠であり，多様な分野の進歩を促進する。
- 既存のモデルは，ドメイン間の一般化やマルチモーダルな知覚において課題が残る。
- 多Modal大規模言語モデルの可能性を引き出し，科学的推論の限界を克服すること。
- 多Modal大規模言語モデルは，テキスト，画像などの多様なデータを統合し，科学的推論能力を向上させる可能性を秘めている。
- 本論文では，科学的推論能力向上のための四段階の研究ロードマップを提案する。
- 今後の課題と解決策を提示し，汎用人工知能（AGI）実現に向けた展望を提供する。
空間スペクトル合成のための汎化ラジオ周波数輝度場 [cs.NI, cs.LG]目的：ラジオ周波数信号伝搬のモデリングによる空間スペクトル合成
- 電波環境の正確な把握は，無線通信システムの性能向上に不可欠である。
- 従来のRF環境モデリングは，シーン固有の学習が必要で汎用性に欠ける。
- シーンに依存しないRF輝度場の学習により，未知の環境でのスペクトル合成を実現する。
- GRaFは，既存の手法と比較して単一シーンベンチマークで優れた性能を示した。
- 未知のシーンレイアウトにおいても，最先端の性能を達成した。
- 地理的に近い送信機からのスペクトルを用いて，空間スペクトルを近似する理論を証明した。
条件独立性に基づくグラフモデル探索における冗長性の異なる概念について [cs.LG, stat.ML]目的：条件独立性に基づくグラフモデル探索における冗長性の概念の解明
- データに内在する変数間の依存関係を可視化する上で，グラフモデルは重要な役割を果たす。
- 条件独立性検定は誤りやすい上に，アルゴリズムは誤りや仮定違反に敏感であるという課題がある。
- 未使用の検定が，学習されたモデルのエラー検出や修正に役立つ可能性を示す。
- 未使用の検定は，モデル学習時のエラー検出や修正に潜在的な効果を持つことが示された。
- 全ての確率分布で成り立つ条件独立性は，エラーの検出と修正には不向きであることが示唆された。
- グラフ構造の仮定からのみ導かれる条件独立性が，エラー検出に有効である可能性が示された。
意味変化による常識的妥当性の推定 [cs.CL, cs.AI]目的：常識的妥当性の推定
- 言語モデルの評価において，常識的妥当性の判断は不可欠である。人間の知識を反映したモデル開発に繋がる。
- 従来の生成的な手法では，微妙な妥当性の差を識別することが困難であった。
- 常識に関する情報を文に追加した際の意味変化を測定し，妥当性を評価する新たなフレームワークを提案する。
- 提案手法ComPaSSは，様々な基盤モデルにおいて既存手法を安定的に上回る性能を示した。
- 特に，視覚情報と言語情報を統合したモデル(VLM)は，言語モデル(LM)よりも視覚的根拠のある常識推論タスクで優れた性能を発揮した。
- 対照学習による事前学習は，モデルが意味のニュアンスを捉える能力を高め，ComPaSSの性能をさらに向上させる。
タイトなクラスタが専門家を生み出す [cs.LG]目的：疎な混合エキスパート（MoE）モデルにおけるルーティング最適化
- モデルの性能向上と計算コスト削減を両立させるMoEアーキテクチャの重要性が高まっている。
- 高次元空間では潜在的なクラスタの識別が難しく，学習の遅延や表現力の低下を招く。
- 潜在的なクラスタを効果的に識別し，トークンとエキスパートの適切なマッチングを実現する。
- 本研究で提案するAdaptive Clustering（AC）ルーティングは，特徴量の重み付けを通じてクラスタの分離を促進する。
- ACルーティングを適用したMoEモデルは，従来のルーティング手法と比較して，学習の高速化，データ汚染への耐性向上，全体的な性能改善を実現した。
- 言語モデリングと画像認識タスクにおいて，クリーンなデータセットと汚染されたデータセットの両方で，ACルーティングの優位性が実証された。
拡散モデルにおけるスコア平滑化の補間効果について [cs.LG, math.OC, stat.ML]目的：拡散モデルにおけるスコア平滑化と生成データの補間
- 拡散モデルは多様な分野で目覚ましい進歩を遂げ，データ生成の新たな可能性を示している。
- 拡散モデルが訓練データ外のデータを生成する仕組みが十分に解明されていない。
- スコア平滑化が生成データの補間現象にどのように影響するかを明らかにする。
- スコア関数を平滑化することで，生成データが訓練データ間を補間することが示された。
- ニューラルネットワークによるスコア関数の学習は，明示的な正則化なしでも同様の効果をもたらすことが確認された。
- 1次元部分空間だけでなく，非線形多様体上のデータに対しても同様の結果が観察された。