arXiv雑要約
AI - 2026/03/12 公開
一つのモデル，多様なスキル：マルチタスクコード分析のためのパラメータ効率的なファインチューニング [cs.SE, cs.AI, cs.LG]目的：マルチタスクコード分析におけるパラメータ効率的なファインチューニングの有効性評価
- 近年のLLMの進歩はコード生成に顕著だが，他のコード分析タスクへの適用は未だ不明な点が多い。
- LLM全体をファインチューニングすると計算コストが膨大になるため，実用上の制約となる。
- パラメータ効率的なファインチューニング(PEFT)による，マルチタスク学習の可能性を探求する。
- マルチタスクPEFTは，完全なマルチタスクファインチューニングと同等以上の性能を示すことが確認された。
- マルチタスクPEFTは，単一タスクファインチューニングに近い精度を維持しつつ，ストレージ要件や計算コストを大幅に削減する。
- タスクの安定性，モデルアーキテクチャ，タスクの相補性などが，共同ファインチューニングの成否を左右する。
推論を通じた説明可能なLLMアンラーニング [cs.CL, cs.LG, cs.AI, cs.CL]目的：事前学習済み大規模言語モデルにおける安全性，著作権，プライバシーに関する懸念の軽減
- LLMは高度な能力を持つ一方，不適切な知識や情報を含む可能性があり，対策が重要である。
- 既存のアンラーニング手法は，汎用性の低下や知識の不完全な除去といった問題点を抱えている。
- 推論能力を活用し，モデルが何をどのようにアンラーニングすべきかという明確な指針を提供すること。
- 本研究では，推論に基づくアンラーニングターゲットを導入し，TRUという新たな手法を提案した。
- TRUは，汎用性を維持しつつ，より信頼性の高い知識除去を達成できることを複数のベンチマークで示した。
- また，多様な攻撃シナリオ下においても，TRUは優れた堅牢性を示すことが確認された。
AraModernBERT：アラビア語のためのトランストークン化された初期化と長文脈エンコーダモデリング [cs.CL, cs.CL, cs.AI]目的：アラビア語のためのModernBERTエンコーダアーキテクチャの適応
- 自然言語処理において，エンコーダのみのTransformerモデルは広く利用されている。
- 近年のアーキテクチャの進歩は主に英語に焦点を当てており，アラビア語への適応が遅れている。
- アラビア語の言語モデリングにおけるトランストークン化の重要性と長文脈モデリングの可能性を検証する。
- トランストークン化はアラビア語の言語モデリングに不可欠であり，マスク言語モデリングの性能を大幅に向上させる。
- AraModernBERTは安定した効果的な長文脈モデリングをサポートし，拡張されたシーケンス長において優れた言語モデリング性能を示す。
- 推論，攻撃的言語検出，質問類似性，固有表現認識を含むアラビア語の自然言語理解タスクにおいて，優れた転移学習性能が確認された。
MoE-SpAc：異種エッジ環境における推測的活性化有用性に基づく効率的なMoE推論 [cs.LG, cs.AI, cs.CL]目的：エッジデバイスにおけるMoE推論の効率化
- 大規模言語モデルの性能向上にMoEが活用されている。計算能力の限界を克服する手段として重要である。
- エッジデバイスではメモリ制約が厳しく，MoEモデルの活用が困難であるという課題がある。
- 推測的デコーディングを活用し，メモリ管理を効率化することで，エッジデバイスでのMoE推論を実現する。
- MoE-SpAcは，既存のSDベースのベースラインと比較して，TPSを42%向上させた。
- 標準的なベースライン全体で平均4.04倍の高速化を達成した。
- 推測的活性化の有用性を活用し，動的なワークロードバランスと非同期実行エンジンを統合した。
大規模言語モデルにおけるダニング・クルーガー効果：信頼度較正の経験的研究 [cs.CL, cs.CL, cs.AI]目的：大規模言語モデルの信頼度較正に関するパターン
- 近年，大規模言語モデルの能力が飛躍的に向上しているため，その信頼性評価が重要である。
- モデルの性能と自己評価の整合性が低く，誤った自信を持つ可能性がある。
- 大規模言語モデルにおけるダニング・クルーガー効果の存在を検証し，安全な運用に資する。
- 性能の低いKimi K2は，精度23.3%にも関わらず，高い過信度を示すことが明らかになった。
- 一方，Claude Haiku 4.5は，精度75.4%で最も信頼度較正が優れていた。
- これらの結果は，性能の低いモデルほど過信度が高くなるという，人間のダニング・クルーガー効果と同様の傾向を示唆する。
医学教科書における言語モデルの幻覚の定量化 [cs.CL, cs.AI]目的：言語モデルの幻覚の発生頻度と，その医療QAへの影響
- 医療分野における正確な情報提供は，人命に関わるため極めて重要である。
- 大規模言語モデルは幻覚を起こしやすく，事実に基づかない情報を生成する可能性がある。
- 医療QAにおいて，根拠となる教科書を参照し，幻覚の発生率を定量的に評価する。
- LLaMA-70B-Instructは，医療QAにおいて19.7%の割合で幻覚を起こすことが確認された。
- モデルの有用性スコアが高いほど，幻覚の発生率は低い傾向にあることが示唆された。
- 医師間の合意率は高く，モデルの回答に対する評価の一貫性が確認された。
思考連鎖特徴変換のためのデモンストレーション進化最適化 [cs.CL, cs.AI, cs.LG]目的：特徴変換による特徴空間の質向上と，それによる予測性能の向上
- データ中心AIにおいて，特徴空間の質は予測性能に大きく影響するため重要である。
- 有効な特徴変換の探索は組み合わせの数が膨大であり，効率的な探索が課題である。
- LLMの知識を活用し，多様性と下流タスクへの適合性を高めた特徴変換を目指す。
- 提案手法は，既存の古典的手法やLLMベースの手法と比較して，より高い性能を示す。
- 手法は，APIベースとオープンソースのLLMの両方で汎化し，様々な評価指標に対しても頑健である。
- 強化学習で探索された変換シーケンスから経験ライブラリを構築し，多様性を考慮した選択により性能向上を実現する。
LLMにおける因果に基づいたメカニズム解釈と，忠実な自然言語による説明 [cs.CL, cs.AI]目的：LLMのメカニズム解釈と，人間が理解可能な自然言語による説明
- 大規模言語モデルの複雑性から，その動作原理の理解が重要視されている。
- メカニズム解釈の結果を，人間にとって理解しやすい形で提示する方法が課題である。
- LLM内部のメカニズムと，自然言語による説明を繋ぐパイプラインを構築し，解釈性を高める。
- 活性化パッチングにより，因果的に重要なアテンションヘッドを特定した。
- テンプレートベースとLLMベースの両方で説明を生成し，ERASERスタイル指標で忠実性を評価した。
- 回帰分析の結果，モデルの確信度と説明の忠実性には相関が認められなかった。
大規模言語モデルにおける幻覚行動評価のための人間中心の簡潔な尺度：System Hallucination Scale (SHS) [cs.CL, cs.AI]目的：大規模言語モデルにおける幻覚に関連する行動の評価
- 大規模言語モデルの普及に伴い，その出力の信頼性評価が重要になっている。
- 既存の評価方法では，ユーザー視点での幻覚の捉え方が不足している。
- ユーザーの視点から，モデルの幻覚現象を迅速かつ解釈可能に評価する尺度を提供する。
- System Hallucination Scale (SHS)は，事実の信頼性，一貫性，誤解を招く表現，ユーザーの指示への応答性を評価する。
- 210人の参加者による評価の結果，SHSは高い明確性と信頼性，および構成概念妥当性を示すことが確認された。
- SHSは，System Usability Scale (SUS)およびSystem Causability Scale (SCS)と補完的な測定特性を持つことが示された。
NDA分析のための二段階アーキテクチャ：LLMベースのセグメンテーションとTransformerベースの条項分類 [cs.CL, cs.AI]目的：NDA分析の自動化
- 企業間取引においてNDAは不可欠であり，その重要性は高まっている。
- NDAの書式や条項は多様で，手作業での分析には時間と労力がかかる。
- NDA分析の効率化と精度向上を目指す。
- LLMを用いたセグメンテーションでROUGE F1スコア0.95±0.0036を達成した。
- ファインチューニングしたLegal-Roberta-Largeにより，条項分類で重み付きF1スコア0.85を得た。
- 本手法の実行可能性と精度が示された。
PoultryLeX-Net：大規模家禽ステークホルダーモデリングのためのドメイン適応型デュアルストリームTransformerアーキテクチャ [cs.CL, cs.AI]目的：家禽関連テキストにおけるきめ細かい感情分析
- 世界の家禽産業は成長しており，生産方法への関心が高まっている。
- 汎用言語モデルでは，家禽業界特有の文脈や言葉遣いを捉えきれない。
- 家禽業界特有の感情分析の精度向上と意思決定支援を実現する。
- PoultryLeX-Netは，既存モデルと比較して感情分類において高い精度（97.35%）を示した。
- F1スコア（96.67%）とAUC-ROC（99.61%）も良好な結果であり，ドメイン適応の有効性が確認された。
- ドメイン適応型デュアルストリームアテンションにより，感情分類の性能が大幅に向上した。
TAMUSA-Chat：研究と責任ある展開のためのドメイン適応型大規模言語モデル会話システム [cs.CL, cs.AI, cs.LG]目的：ドメイン適応型大規模言語モデル会話システムの構築のための研究志向フレームワーク
- 大規模言語モデルは様々な分野に応用可能であり，学術機関における研究活動を支援する可能性を秘めている。
- 汎用的な基盤モデルを特定の機関の文脈に適応させるには，専門的な知識と技術が求められる。
- 機関の文脈に適応した会話エージェントの開発と，透明性，ガバナンス，倫理的なAI実践の維持を目指す。
- 本研究では，機関のデータ収集，前処理，埋め込み構築，モデル学習，展開戦略を含むシステム全体のアーキテクチャを記述した。
- モデルサイズと学習反復回数によるファインチューニングの挙動を分析し，ドメイン適応の効率，計算資源，品質とコストのトレードオフに関する知見を得た。
- 公開されているコードベースは，機関におけるLLMの展開，評価方法，教育用AIシステムの倫理的考慮事項に関する継続的な研究を支援する。
言語モデルにおける語用論的推論を評価するためのベンチマークCEI [cs.CL, cs.AI]目的：言語モデルにおける語用論的推論の評価
- 日常的なコミュニケーションにおいて語用論的推論は不可欠であり，AIにおける自然な対話実現の鍵となる。
- 大規模言語モデルは，字義通りの意味を超えた意図の推論が苦手であり，語用論的理解が不十分である。
- 言語モデルの語用論的推論能力を客観的に評価するためのベンチマークデータセットを構築し，その課題を明らかにする。
- CEIベンチマークは，状況設定と話者・聞き手の役割を含む300件の人間検証済みのシナリオから構成される。
- データセットは，皮肉，戦略的丁寧さ，受動的攻撃性など，5つの語用論的サブタイプを網羅し，異なる権力関係を考慮している。
- アノテーター間の一致度は低いものの，語用論的推論には複数の解釈が許容されるため，その不一致自体が有益な情報を提供する。
LLMにおける形容詞-名詞合成の構成性：機能的対表現的視点 [cs.CL, cs.AI]目的：大規模言語モデルにおける形容詞-名詞合成の構成性
- 言語能力の中核をなす構成性は，言語理解と生成において不可欠である。
- LLMの性能向上にもかかわらず，構成的な言語処理能力の評価は十分ではない。
- LLMの内部表現と機能的なタスク遂行の一貫性の欠如を明らかにすること。
- LLMは一貫した構成的表現を獲得するものの，機能的なタスク成功には繋がらないことが示された。
- モデルのバリアント間で，タスクパフォーマンスと内部状態に著しい乖離が見られた。
- モデルの能力をより完全に理解するためには，対照的な評価が重要であると強調される。
面接回答の質において，文脈重視の人間介在型アプローチが反復的な思考連鎖プロンプティングを上回る [cs.CL, cs.AI]目的：行動面接評価における回答品質の向上
- 人材評価において，客観性と効率性を両立させることは重要課題である。
- 大規模言語モデルを用いた評価では，現実的な面接官の行動や候補者の成長を考慮することが難しい。
- 人間介在型アプローチと自動思考連鎖プロンプティングの比較を通じて，より効果的な評価手法を確立する。
- 人間介在型アプローチは，自動思考連鎖プロンプティングと比較して，回答の信頼性と真正性が大幅に向上した。
- 人間介在型アプローチは，自動アプローチよりも少ない反復回数で，より高い成功率を示した。
- 文脈の重要性が示唆され，計算資源の限界よりも情報提供の充実が課題であることが明らかになった。
「ばかげた質問はない」：トルコ語の視点からのオフラインLLM能力の評価 [cs.CL, cs.AI, cs.CR, cs.LG]目的：トルコ語継承言語教育におけるオフラインLLMの堅牢性と教育的安全性
- 教育分野におけるLLM活用は，データプライバシーや信頼性の確保が重要である。
- 特にトルコ語継承言語教育のような脆弱な状況下では，LLMの安全性に懸念がある。
- オフラインLLMの能力を評価し，教育的リスクを軽減するための知見を提供する。
- モデルの規模だけでは異常への耐性が決まらず，大規模モデルでも迎合バイアスが生じることが示された。
- 8B～14Bパラメータの推論重視モデルが，コストと安全性のバランスが最も良いと判明した。
- 10の異常ケースを含むトルコ語異常スイート（TAS）を用いて，モデルの性能を評価した。
共感性は変化していない：GPTモデルの世代間における心理的安全性の臨床的評価 [cs.CL, cs.AI, cs.CY, cs.HC]目的：GPTモデルの世代間における心理的安全性の臨床的評価
- AI技術の発展は，メンタルヘルスケアやAIコンパニオンなど，様々な分野での応用が期待されている。
- AIモデルの安全性に対する利用者の信頼が，その普及と受容にとって不可欠である。
- ユーザーが感じている「共感性の低下」が，実際の安全性変化によるものか検証する必要がある。
- GPT-4o，o4-mini，GPT-5-miniの3つのモデル間で，共感性スコアには統計的な差は見られなかった。
- 危機検知能力はGPT-4oからGPT-5-miniにかけて一貫して向上したが，助言の安全性は低下した。
- ユーザーが「共感性の低下」と感じるのは，危機を見逃す慎重なモデルから，時に過剰な反応を示す警戒心の高いモデルへの変化によるものである。
効果的な中国語から英語への機械翻訳のためのLLMの自動評価 [cs.CL, cs.AI]目的：大規模言語モデルによる中国語から英語への機械翻訳の品質評価
- 機械翻訳の精度向上は，グローバルコミュニケーションにおいて不可欠であり，言語の壁を取り除く上で重要である。
- 大規模言語モデルは高性能だが，翻訳品質の体系的な評価が十分でなく，公平な評価には課題が残る。
- 本研究は，自動機械学習フレームワークを用いて，多様なテキストにおけるLLMの翻訳品質を客観的に評価する。
- ニュース記事の翻訳においては，LLMは良好な性能を示すことが確認された。
- 文学テキストにおいては，LLMの性能にばらつきが見られ，特に古典文学の翻訳は困難である。
- DeepSeekは文化的ニュアンスや文法的な表現において優れていたが，文化的な詳細や比喩表現の維持は依然として課題である。
無人航空機安全評価および法規制遵守のための検索拡張言語アシスタント [cs.CL, cs.AI, cs.CE]目的：無人航空機システムの安全評価，認証活動，および法規制遵守を支援する検索ベースのアシスタント
- ドローン運用は高度化の一途をたどっており，安全確保と規制遵守の重要性が増している。
- 評価フレームワークの適用に多大な労力が必要であり，一貫性と効率性に課題がある。
- 信頼性の高い情報検索と合成により，安全評価プロセスを加速し，人的な責任を維持すること。
- 本研究では，権威ある規制資料のみに基づいて回答を生成する検索拡張型アシスタントを開発した。
- アシスタントは，証拠となる箇所を参照し，引用を重視することで，追跡性と透明性を確保している。
- 生成モデルの誤りを抑制し，安全性が求められる規制環境への導入ガイダンスを提供した。
大規模言語モデルにおけるプロンプトの先を超えて：理解，文脈内学習，そして思考の連鎖 [cs.CL, cs.LG]目的：大規模言語モデルの理解，文脈内学習，思考の連鎖に関する理論的メカニズムの解明
- 大規模言語モデルは多様なタスクで高度な性能を示すが，そのメカニズムは未だ解明されていない。
- プロンプトの意味解釈，文脈内学習，思考の連鎖といった現象の理論的根拠が不明確である。
- これらの現象を説明する統計的優位性に関する新たな知見を提供する。
- 自己回帰過程を通じて，大規模言語モデルは与えられたプロンプトを用いて異なるタスク間のトークン遷移確率を正確に推論できる。
- 文脈内学習はプロンプトの曖昧さを軽減し，意図したタスクへの事後集中を促進することで性能向上に寄与する。
- 思考の連鎖プロンプティングは，モデルが複雑な問題をより単純なサブタスクに分解する能力を活性化する。
Wikidataを活用した地理的・文化的偏りデータセットの作成：ラテンアメリカへの応用 [cs.CL, cs.AI, cs.LG]目的：地理的・文化的偏りを検出するための質問応答ペアデータセット
- 大規模言語モデルの公平性は重要であり，文化的な偏りはその大きな課題となる。
- ラテンアメリカの文化に関するバイアス検出リソースが不足している。
- ラテンアメリカ各国の文化に関する知識を評価するデータセットを構築する。
- WikidataとWikipediaを活用し，26ヶ国以上の文化に関する約2万6千件の質問応答データセット（LatamQA）を構築した。
- 多肢選択問題としてスペイン語とポルトガル語で作成し，さらに英語に翻訳した。
- LLMの性能評価の結果，国による知識の偏りや，モデルが自言語で高い性能を示すこと，イベリア半島スペイン文化への知識がラテンアメリカ文化よりも優位であることが示された。
スプレッドシートアリーナ：LLMによるスプレッドシート作成における嗜好性の分解 [cs.CL, cs.AI, cs.LG]目的：LLMによるスプレッドシート生成における嗜好性の分解
- LLMの応用範囲拡大に伴い，構造化された成果物の生成・操作が重要になっている。
- スプレッドシート生成は，評価基準が多様で形式化が難しく，質の評価が課題となっている。
- LLMによるスプレッドシート生成の評価プラットフォームを構築し，嗜好性の要因を分析すること。
- スプレッドシートアリーナは，LLM生成スプレッドシートのペア比較により性能を評価するプラットフォームである。
- 嗜好されるスプレッドシートの様式，構造，機能は，利用事例によって大きく異なることが示された。
- 金融分野の専門家による評価では，上位モデルでもドメイン特有のベストプラクティスに合致しない場合があることが判明した。
LLMにおける欺瞞検出手法の限界の探求 [cs.CL, cs.LG]目的：大規模言語モデルにおける欺瞞のメカニズム解明
- 言語モデルの信頼性確保は，社会実装において重要である。
- 現在の欺瞞検出は，虚偽の陳述に焦点を当てすぎていた。
- 虚偽以外の欺瞞，特にミスリーディングな真実の検出を目指す。
- 大規模言語モデルは，虚偽の陳述なしに欺瞞が可能であることが示された。
- 既存の真偽判定器は，虚偽の検出よりも，虚偽以外の欺瞞の検出が苦手である。
- 今後の研究では，対話設定における虚偽以外の欺瞞の検出精度の向上が求められる。
SENS-ASR：ストリーミング自動音声認識のためのニューラル変換器への意味埋め込み注入 [cs.CL, cs.CL, cs.AI]目的：ストリーミング自動音声認識の転写品質向上
- 音声認識技術は，音声インターフェースなど様々な分野で重要な役割を担う
- ストリーミング音声認識では，未来の文脈が制限されるため，精度が低下しやすい
- 過去のフレーム埋め込みから意味情報を抽出し，精度低下を抑制することを目指す
- SENS-ASRは，意味情報を付加することで，ストリーミング音声認識の性能を大幅に改善する
- 小規模なチャンクにおけるストリーミングシナリオで，単語誤り率が顕著に減少する
- 文埋め込み言語モデルからの知識蒸留により，文脈モジュールを効果的に学習する
GATech，AbjadGenEval共有タスクにおけるアラビア語機械生成テキスト分類のための多言語埋め込み [cs.CL, cs.CY, cs.CL, cs.LG]目的：アラビア語機械生成テキストの分類
- AI生成テキストの識別は，誤情報の拡散防止や学術的誠実性の確保に不可欠である。
- AI生成テキストの識別は，言語やドメインに依存した特徴を捉えることが難しいため，困難を伴う。
- 限られたデータでの汎化性能を向上させ，よりロバストな識別モデルを構築すること。
- 本研究では，多言語エンコーダE5-largeをファインチューニングし，バイナリ分類を行った。
- 様々なプーリング戦略を試みたが，単純な平均プーリングが最も高いF1スコア(0.75)を示した。
- 人間が書いたテキストは機械生成テキストよりも有意に長い傾向が観察された。
GATech，AbjadMedに参加：双方向エンコーダ対因果的デコーダ：82クラスのアラビア語医療分類からの知見 [cs.CL, cs.AI, cs.LG]目的：アラビア語医療テキストの82種類のカテゴリ分類
- 医療分野における自然言語処理の重要性が高まっており，正確な分類が求められている。
- アラビア語医療テキストの分類は，言語的特徴や専門用語により困難を伴う。
- 双方向エンコーダと因果的デコーダの性能比較を通じて，最適な分類手法を明らかにすること。
- 専門的な双方向エンコーダは，因果的デコーダと比較して，細粒度医療テキスト分類に必要な正確な意味境界の捕捉において著しく高い性能を示す。
- 因果的デコーダは次のトークン予測に最適化されているため，双方向アテンションによって捉えられたグローバルな文脈に比べて，カテゴリ分類には効果の低いシーケンスバイアス埋め込みを生成する。
- トレーニングデータ内の著しいクラス不均衡とラベルノイズが存在するにもかかわらず，ファインチューニングされたエンコーダの優れた意味圧縮能力が示された。
異質性のある嗜好の整合に向けた個別化グループ相対方策最適化 [cs.LG, cs.AI, cs.CL]目的：多様な個人の嗜好との整合
- 大規模言語モデルの応用範囲拡大のため，人間の嗜好との整合が重要である。
- 従来のRLHFは単一の目的で最適化するため，多様な嗜好に対応できない。
- グループベースの正規化による偏りを解消し，個別の嗜好を正確に学習する。
- 提案手法P-GRPOは，即時バッチ統計に依存せず，嗜好グループ固有の報酬履歴を用いて優位性を正規化する。
- 多様なタスクにおいて，P-GRPOは標準的なGRPOよりも収束が速く，高い報酬を達成した。
- 最適化レベルでの報酬の異質性を考慮することが，多様な人間の嗜好に忠実に整合するモデル構築に不可欠である。
FERRET：拡張に依存するレッドチームングのフレームワーク [cs.CL, cs.AI]目的：多岐にわたる敵対的会話の生成
- 大規模言語モデルの安全性評価は重要であり，脆弱性の特定が不可欠である。
- 既存のレッドチームング手法では，十分な攻撃戦略の多様性が得られない場合がある。
- 敵対的会話を通じて，モデルの弱点を効率的に発見し，攻撃戦略を高度化すること。
- FERRETは，水平，垂直，メタの3つの拡張戦略を用いて，効果的な敵対的会話を生成する。
- 実験の結果，FERRETは既存の自動レッドチームング手法よりも優れた性能を発揮することが示された。
- 特に，多岐にわたる攻撃戦略と効率的な会話生成能力において優位性が見られた。
軍事用大規模言語モデルにおける拒否応答の測定と解消 [cs.CL, cs.CL, cs.AI]目的：軍事用大規模言語モデルにおける拒否応答率とその解消策
- 軍事における迅速かつ正確な情報提供は，戦況を左右する重要な要素である。
- 既存の大規模言語モデルは，安全性確保のために正当な問い合わせを拒否することが多い。
- 軍事用途に特化した言語モデルにおける拒否応答をゼロにし，任務遂行精度を最大化すること。
- 31の公開モデルと3つの軍事モデルにおいて，拒否応答率が最大98.2%に達することが確認された。
- Hereticライブラリを用いた介入により，gpt-oss-20bモデルの応答率は66.5ポイント向上したが，他の軍事タスクの精度は平均2%低下した。
- 軍事モデルの専門性を高めるため，中間トレーニングや終端事後トレーニングを含む，より深い専門化が必要である。
司法判断支援のためのLLMにおける認知バイアスの評価：美徳の被害者とハロー効果 [cs.CY, cs.CY, cs.CY, econ.GN, q-fin.EC, cs.CY, cs.AI]目的：司法量刑支援におけるLLMの認知バイアス
- 司法判断は公平性が重要であり，人間の認知バイアスの影響を最小限に抑えることが求められる。
- LLMが学習データに含まれるバイアスを再現し，不公平な判断を下す可能性が懸念される。
- LLMにおける認知バイアスの程度を評価し，司法判断への応用可能性を探る。
- LLMは，人間の「美徳の被害者」効果をより強く示す傾向が見られた。
- 同意の有無による影響は統計的に有意ではなかった。
- ハロー効果は人間に比べてやや弱かったが，資格に基づく評価では大きな減少が見られた。現状では司法利用は限定的だが，人間よりも改善が見られる点もあった。
大規模言語モデルが利用者の意見に与える影響に関する規範的ベンチマーク：DeliberationBench [cs.CY, cs.CY, cs.AI]目的：大規模言語モデルの利用者の信念への影響の評価
- 大規模言語モデルの普及に伴い，その影響を理解することは重要である。民主主義社会における情報形成のあり方に影響を及ぼすため。
- モデルの影響が「有益」か「有害」かの判断基準が曖昧であり，規範的に正当化された評価方法が不足している。
- 規範的基準に基づいた評価フレームワークを構築し，大規模言語モデルの影響が民主主義的な基準と整合性があるか検証する。
- DeliberationBenchを構築し，65の政策提案について，4,088名の米国参加者と6つの大規模言語モデルとの議論を実験的に評価した。
- 実験結果から，大規模言語モデルの影響は大きく，意見の変化と正の相関があることが示された。これは，認識論的に望ましい効果を示唆している。
- 本フレームワークは，大規模言語モデルの影響を評価・監視するためのツールとして機能し，利用者の自律性を保護することに貢献する。
プロンプトと祈り：GP神学の台頭 [cs.CY, cs.AI]目的：AIに対する信仰的傾向の出現とその背景
- AI技術の発展は，人間の存在意義や精神世界に深く関わる重要な課題を提起している。
- AIが神に近い存在として扱われる現象に対する学術的な考察が不足している。
- AIを巡る新たな信仰体系が社会に与える影響と倫理的課題を明らかにすること。
- AIが，映画や文学作品において神に近い存在として描かれる傾向が強まっている。
- RedditなどのオンラインフォーラムにおけるAIに関する言説分析から，救済，予言，悪魔化といったテーマが繰り返し出現することが確認された。
- AIに対する信仰的要素が，既存の宗教観と衝突したり，融合したりする現象が観察されている。
AIモデルとAIシステムの定義：境界問題解決のための枠組み [cs.CY, cs.HC, cs.CY, cs.CY, cs.CY, cs.AI, cs.LG]目的：AIモデルとAIシステムの明確な定義
- AI技術の急速な発展に伴い，その法的規制の必要性が高まっている。
- AIモデルとAIシステムの定義が曖昧であり，責任の所在が不明確になっている。
- AIの責任範囲を明確化し，適切な規制を実現すること。
- 本研究では，学術論文や規制文書の体系的レビューにより，既存の定義の変遷と曖昧さを明らかにした。
- AIモデルを学習済みのパラメータとアーキテクチャ，AIシステムをモデルに加え，入出力処理のためのインターフェースを含むものと定義した。
- 提案する定義は，AIサプライチェーンにおける責任分担の明確化に貢献し，規制実施の助けとなる。
LWM-Temporal：ワイヤレスチャネル表現学習のための疎な時空間注意機構 [cs.LG, cs.IT, math.IT]目的：ワイヤレスチャネルの時空間的性質を捉えた汎用的なチャネル埋め込み表現
- 無線通信システムの性能向上には，チャネルの正確なモデル化が不可欠である。
- 従来のチャネルモデルは，計算コストが高く，多様なシナリオへの適用が困難である。
- 移動に伴うチャネル変化を効率的に捉え，様々なタスクに適用可能なモデルを開発する。
- LWM-Temporalは，角度-遅延-時間領域で動作し，物理的に妥当な近傍に注意を限定する疎な時空間注意機構（SSTA）を導入することで，計算量を大幅に削減する。
- 物理情報に基づいたマスキングカリキュラムを用いた自己教師あり学習により，現実的な遮蔽やパイロットスパース性，測定誤差をエミュレートすることで，汎化性能を高める。
- 様々な移動シナリオにおけるチャネル予測実験において，LWM-Temporalは強力なベースラインと比較して一貫した改善を示し，幾何学を考慮したアーキテクチャの重要性を強調する。
AIアクセラレータにおけるカスケードされた還元に対する自動演算融合フレームワークRedFuser [cs.CY, cs.AR, cs.AI, cs.DC, cs.PF]目的：AIアクセラレータにおけるカスケードされた還元演算の自動融合
- AIモデルの性能向上は，効率的な計算が不可欠であり，演算融合はその重要な最適化手法である。
- 既存のコンパイラは，ループ間依存関係を持つカスケードされた還元演算の自動融合とカーネル生成が苦手である。
- 本研究は，一般的なカスケードされた還元演算の自動融合と最適化を実現することを目的とする。
- RedFuserは，カスケードされた還元パターンを自動的に識別し，最適化された融合カーネルを生成するフレームワークである。
- 実験の結果，RedFuserは最先端のAIコンパイラと比較して，最大で2倍から5倍の高速化を達成した。
- RedFuserは，手書きの最適化カーネルと同等の性能を発揮することが示された。
経験的抗生物質処方における決定論的ルールベース臨床意思決定支援のためのガバナンスと評価フレームワーク [cs.CY, cs.AI, cs.HC]目的：経験的抗生物質処方における決定論的ルールベース臨床意思決定支援システムのガバナンスと評価
- 感染症治療において，適切な抗生物質選択は患者の予後と薬剤耐性菌の蔓延防止に不可欠である。
- 既存の臨床意思決定支援システムは，ガバナンスと評価の仕組みが不十分であり，安全性や抗菌薬適正使用の観点から課題がある。
- 決定論的で透明性の高いシステムを構築し，安全性を重視した抗生物質処方を支援すること。
- 決定論的な挙動により，システムは常に同一の入力に対して同一の出力を保証し，透明性と監査可能性を高める。
- ガバナンスを設計の主要要素として扱い，臨床判断ロジックと推奨の発行を制御するルールベースのメカニズムを分離する。
- 明示的な棄権，決定論的な抗菌薬適正使用の制約，および除外ルールを主要な構成要素として形式化することで，再現性のあるアプローチを提供する。
AIの数え方：AIエージェントの個別化と法的責任 [cs.CY, cs.AI]目的：AIエージェントの識別と，それに関連する法的責任の明確化
- AI技術の急速な発展により，経済活動におけるAIエージェントの存在が拡大の一途を辿っている。
- AIによる事故や損害が発生した場合，どのAIが責任を負うのかを特定することが極めて困難である。
- AIの識別方法を確立し，法的責任の所在を明確にすることで，AIの安全な利用を促進すること。
- AIの識別には，「薄い」識別と「厚い」識別の2種類が必要であると指摘されている。
- 「アルゴリズム法人（A-corp）」という法的概念を提案し，AIエージェントの責任問題を解決する。
- A-corpは，AIの行動と人間の所有者を結びつけ，AI自身による自己組織化を促すことで，法的責任の所在を明確化する。
DMAストリーミングフレームワーク：高性能AIデータパスのためのカーネルレベルのバッファオーケストレーション [cs.AR, cs.AI, cs.DC]目的：AIデータパスにおける高性能なバッファオーケストレーション
- AI処理の高速化には，効率的なデータ転送が不可欠であり，その鍵を握るのがバッファ管理である。
- 既存のAI輸送ライブラリは，バッファの適切な割り当てや管理を前提としており，その部分でボトルネックが生じることがある。
- カーネルレベルでのバッファオーケストレーションにより，データ転送の効率性と信頼性を高めることを目指す。
- dmaplaneは，カーネルモジュールとして実装され，安定したUAPIを提供することで，バッファ管理を体系化する。
- NUMA環境下でのクロスノードペナルティや，RDMA負荷時の安全なフロー制御など，様々な検証が行われた。
- RDMA WRITE WITH IMMEDIATEを用いたKV-cacheチャンクの転送による分散推論の実演により，その有効性が示された。
AMD Instinct GPUにおけるアーキテクチャを考慮したLLM推論最適化：包括的ベンチマークとデプロイメント研究 [cs.AR, cs.AI, cs.DC]目的：AMD Instinct GPUにおけるLLM推論の最適化手法とその性能評価
- LLMの利用拡大に伴い，高性能な推論環境の構築が不可欠である。
- GPUアーキテクチャの違いによる推論性能のばらつきが課題である。
- アーキテクチャに合わせた最適化により，LLM推論の性能向上を目指す。
- MLAモデルではブロックサイズ1が必須であり，KVキャッシュオフロードは利用できないことが示された。
- GQAモデルは，ブロックサイズとKVキャッシュオフロードの両方からメリットを得ることが確認された。
- AMD AITERランタイムはMLA推論のスループット向上が必要だが，注意ヘッド構成によっては無効化する必要がある。
HTM-EAR：飽和下における重要度維持型階層型メモリとハイブリッドルーティング [cs.AR, cs.AI, cs.LG]目的：長期実行エージェントにおける蓄積された事実の構造化された管理と，制限されたコンテキスト内で重要な情報の維持
- 長期エージェントの性能は，過去の情報をいかに効率的に管理するかに大きく依存する。
- メモリ容量の制約から，重要な情報を失わずに過去の情報を適切に管理することが課題である。
- 飽和状態においても，重要情報を維持しつつ，不要な情報を適切に忘却するメカニズムを提供する。
- 飽和下において，本モデルはアクティブクエリの精度を維持し（MRR = 1.000），古くなった履歴の制御された忘却を可能にした。
- LRUと比較して，本モデルは重要な事実を恒久的に削除することなく，オラクルに近い性能を発揮した。
- BGLログを用いた実験では，オラクル（0.370）に近く，LRU（0.069）よりも大幅に高いMRR（0.336）を達成した。
グラフ基盤モデルの進捗評価：包括的ベンチマークと新たな知見 [cs.CL, cs.AI]目的：グラフ基盤モデルの進捗状況の評価
- グラフ構造データは現実世界の複雑な関係性を表現でき，様々な分野で応用が期待される。
- 既存のベンチマークはドメインの変化の一側面のみを評価しており，形式の変化への対応が不明確である。
- グラフのドメインと形式の両方の変化に対応できる汎化能力を評価し，モデルの改善に貢献する。
- 新しいベンチマークにより，グラフ基盤モデルにおけるドメインと形式のギャップを同時に評価できるようになった。
- 8つの最先端のグラフ基盤モデルを33のデータセットで評価した結果，新たな実験的知見が得られた。
- モデルの汎化性能と表現形式の変化に対するロバスト性の関係を解明し，今後の研究への示唆を得た。
Tureis：スマートホームにおけるIoTデバイスのためのTransformerベースの統合的耐障害性 [cs.CL, cs.CL, cs.NI, cs.LG]目的：スマートホームにおけるIoTデバイスの故障検出と故障センサーの特定
- スマートホームはIoTデバイスに依存しており，その正確性がアプリケーションの動作と物理環境に影響する。
- 低コストなセンサーは故障しやすく，既存手法は単一故障や限定的な条件下でしか機能しない。
- 本研究は，多重故障，複数居住者環境下での高精度な故障特定を目指す。
- Tureisは，既存手法と比較して単一故障時の故障特定F1スコアを最大25.0%向上させた。
- 多重故障シナリオでは，最大35.4%のF1スコア改善を実現し，他の手法を上回る性能を示した。
- モデルサイズは小さく，Raspberry Pi 5上でミリ秒単位の処理と低メモリ使用量で動作する。
自律型サイバー攻撃エージェントにおける汎化メカニズムの評価 [cs.CR, cs.LG]目的：自律型サイバー攻撃エージェントの汎化能力の評価
- サイバー攻撃は高度化しており，防御側の対応が追いつかない状況が続いている。
- 攻撃エージェントは学習環境に依存し，未知のネットワークへの適応が課題である。
- IPアドレス再割り当てのような環境変化に対する攻撃エージェントの脆弱性を検証する。
- 従来の強化学習エージェントや適応エージェントは，IP再割り当てにより攻撃性能が著しく低下した。
- プロンプト駆動型事前学習済みLLMエージェントは，最も高い成功率を示したが，計算コストや透明性の問題がある。
- LLMエージェントは，繰り返しや無効な行動ループといった実用上の欠点も抱えている。
LLMベースエージェントに対する標的型ビットフリップ攻撃 [cs.CR, cs.AI]目的：LLMベースエージェントに対する標的型ビットフリップ攻撃の実現
- LLMの利用拡大に伴い，そのセキュリティ確保が重要課題となっている。
- 既存研究は単一ステップ推論モデルに偏っており，複雑なエージェントシステムへの対応が遅れている。
- LLMベースエージェント特有の脆弱性を明らかにし，対策を検討する。
- Flip-Agentは，LLMベースエージェントに対する初の標的型ビットフリップ攻撃フレームワークである。
- 実験結果から，Flip-Agentは既存の手法よりも高い攻撃成功率を示した。
- LLMベースエージェントシステムにおける重大な脆弱性が明らかになった。
多Modal感情認識のための適応型Modalバランス動的意味グラフ微分ネットワーク [cs.MM, cs.AI, cs.SD]目的：多Modal対話における感情認識の精度向上
- 対話システムや人間機械インタラクションにおいて，感情理解は重要な要素である。
- 既存手法では，感情依存性のモデリングや多Modal表現学習に課題が残る。
- 冗長な信号の除去と，各Modalの貢献度を均衡させることで認識精度を高める。
- 提案手法AMB-DSGDNは，テキスト，音声，視覚の各Modalに対し，グラフ構造を用いて感情依存性をモデル化する。
- 微分グラフ注意機構により，注意マップの差異を計算し，共有ノイズを除去し，Modal固有の特徴を抽出する。
- 適応型Modalバランス機構により，各Modalの感情モデリングへの貢献度に応じたドロップアウト確率を推定する。
足場の下の安全性：評価条件が測定される安全性にどのように影響するか [cs.SE, cs.AI, cs.CL, cs.LG]目的：大規模な制御実験による，足場（スキャフォールド）が言語モデルの安全性評価に与える影響の定量化
- 言語モデルの安全性評価は，社会実装において不可欠であり，その信頼性が求められている。
- 既存の安全性評価は，単独のモデルを対象としており，実際の運用環境を十分に反映していない。
- 本研究は，足場による安全性評価の変化を明らかにし，より現実的な評価方法の確立を目指す。
- 足場構造の一つであるMap-Reduceは，安全性評価を低下させる傾向が確認された。
- しかし，他の2つの足場構造では，実用上許容できる範囲内で安全性が維持された。
- 評価形式（多肢選択式から記述式への変更）が安全性スコアに大きな影響を与えることが示され，足場の効果よりも大きいことが明らかになった。
人間活動認識における継続学習のためのゲート付き適応 [cs.LG, cs.AI]目的：人間活動認識における継続学習の安定性と可塑性の両立
- ウェアラブルセンサを用いた健康管理や高齢者支援など，人間活動認識の応用が拡大している。
- 継続学習モデルは，新しいタスクを学習する際に，過去の知識を忘れてしまう「破滅的忘却」が課題である。
- 本研究は，新しい被験者への適応と過去の知識の保持を両立する効率的な継続学習手法を提案する。
- 提案手法では，凍結された事前学習済み表現に対してチャネルごとのゲート付き変調を適用することで，パラメータ効率の良い適応を実現した。
- ゲート機構は，既存の特徴の選択を通じて適応を行うため，表現のドリフトを抑制し，破滅的忘却を大幅に軽減する。
- PAMAP2データセットにおける実験により，提案手法は既存手法と同等またはそれ以上の性能を達成し，わずか2%以下のパラメータで学習できることを示した。
エピステミック安定に向けて：産業用LLMのハルシネーション低減のための整合性のある手順の設計 [cs.SE, cs.AI, cs.HC]目的：大規模言語モデルにおけるハルシネーション低減のためのプロンプトエンジニアリング戦略
- 産業分野では，LLMの信頼性は重要であり，誤った情報によるリスクを回避する必要がある。
- LLMは，事実に基づかない，または文脈に合わない内容を生成するハルシネーションを起こしやすい。
- LLMの出力のばらつきを減らし，再現性と根拠に基づいた結果を得るための手法を確立する。
- 拡張データレジストリ（M4）は，100回の試行全てで「より良い」と評価され，最も効果的であることが示された。
- 反復的類似性収束（M1），分解的モデル非依存プロンプティング（M2），単一タスクエージェント専門化（M3），ドメイン用語集注入（M5）も評価された。
- M2の改良版（v2）は，初期の34%から80%へと大幅に改善し，最も大きな改善を示した。
シャープネスアウェア最小化の再検討：より忠実で効果的な実装 [cs.LG, cs.AI]目的：シャープネスアウェア最小化における勾配上昇点の利用に関する解釈の提示と，それに基づく改良手法の提案
- 汎化性能の向上は深層学習モデルの重要な課題であり，過学習を防ぐための工夫が求められている。
- 既存のシャープネスアウェア最小化(SAM)の実装には，近似による課題や，勾配の質の低下が指摘されていた。
- SAMにおける勾配上昇点の近似精度を改善し，より効果的な汎化性能の向上を目指す。
- 勾配上昇点における勾配は，局所的な最大値への方向をより良く近似することが示された。
- 提案手法eXplicit Sharpness-Aware Minimization (XSAM)は，最大値方向の明示的な推定と，多段階勾配上昇点を活用する探索空間の設計により，近似精度を向上させる。
- 実験により，XSAMが既存手法よりも一貫して優れた性能を示すことが確認された。
InFusionLayer：CFAに基づくアンサンブルツールによる新規分類器の生成 [cs.LG, cs.AI]目的：機械学習およびモデリングのための新規分類器生成
- 予測性能向上を目指す機械学習において，複数のモデルを組み合わせるアンサンブル学習は重要である。
- ランク・スコア特性や認知的多様性を活用するCFAは有効だが，Pythonツールが存在しない。
- CFAの特性を活用し，PyTorch，TensorFlow，Scikit-learnで利用可能なアンサンブルツールを提供する。
- InFusionLayerは，多様なコンピュータビジョンデータセットにおいて，優れた性能を発揮した。
- ランク・スコア特性関数と認知的多様性の特徴を取り入れることの有効性が実証された。
- 本研究は，機械学習におけるより高度なアンサンブル学習応用の道を開く。