arXiv雑要約

• Top
• AI
• プログラム
• 画像・音声
• セキュリティ
• 数値解析

セキュリティ - 2026/06/19 公開

• LLM支援による耐量子計算暗号開発におけるセキュアコーディングのドリフト：ゲーミフィケーションによる修正 [cs.CR, cs.AI, cs.SE]目的：耐量子計算暗号開発におけるセキュアコーディングのドリフト現象とその抑制策

  • 耐量子計算暗号は，将来のセキュリティを確保する上で不可欠であり，実装の厳格さが求められる。
  • LLMによるコード生成は生産性を向上させる一方，セキュリティ上の脆弱性を生む可能性が指摘されている。
  • LLM利用に伴うセキュアコーディングの低下を抑制し，安全な耐量子計算暗号の実装を支援することを目的とする。
  • 本研究では，LLMに依存した開発環境下で，セキュアコーディングが徐々に低下する「セキュアコーディングのドリフト」という新たな脆弱性モデルを提示した。
  • ゲーミフィケーションを活用し，敵対的評価，行動フィードバック，セキュリティスコアリングを組み込んだセキュアコーディングフレームワークを提案した。
  • LLMを単なる支援ツールではなく，セキュリティを考慮した共同開発者として位置づけることで，より安全な耐量子計算暗号の実装に貢献する。

  Link: https://arxiv.org/abs/2606.19474

• FloatDoor：LLMにおけるプラットフォーム起動型バックドア [cs.CR, cs.LG]目的：LLMのプラットフォーム依存性に着目した，入力に依存しないプラットフォーム起動型バックドア攻撃

  • LLMはソフトウェア開発等の重要な場面で利用され，出力が直接成果物に影響を与える。
  • 浮動小数点演算やカーネル実装の差異により，LLMの出力がプラットフォームによって変動する。
  • プラットフォーム依存性を悪用し，特定のプラットフォームでのみ悪意のある動作を誘発する。
  • FloatDoorは，2つの軽量なLoRAアダプターを用いて，プラットフォーム間の数値的な差異を増幅し，それを悪意のあるタスクに結びつける。
  • Qwen3-4Bを用いてNVIDIA GPU，Google TPU等様々なプラットフォームでFloatDoorを検証した結果，安定的にバックドア攻撃を誘発できることを示した。
  • FloatDoorは，プラットフォームに依存した脆弱性を誘発し，LLMを搭載したアプリケーションのサプライチェーンにおける信頼性の確保の必要性を示唆する。

  Link: https://arxiv.org/abs/2606.19535

• LLM-ソルバー連携におけるナレーションギャップの分析 [cs.RO, cs.AI, cs.CR, cs.LO]目的：LLMとソルバーの連携におけるナレーション段階の課題と対策

  • 安全性・セキュリティが重要な問いに対し，論理形式化による形式手法の活用が重要視されている。
  • LLMとソルバーの連携において，ナレーション段階での堅牢性に課題があり，悪意のある入力に脆弱である。
  • LLM-ソルバー連携におけるナレーションギャップを特定し，その対策を検討することで，より安全な推論システムを構築する。
  • LLM-ソルバー連携を検証可能な意思決定手続きとしてモデル化し，ナレーション段階の脆弱性を明らかにした。
  • プロンプトインジェクション攻撃に対する脆弱性を検証し，証明書ゲートがソルバーの検証結果の信頼性を高めることを確認した。
  • 堅牢なプロンプトの使用や適応的な攻撃に対する軽減策を検討したが，完全な防御は困難であることが示された。

  Link: https://arxiv.org/abs/2606.19588

• G-Lox：グループ適応型，プライバシー保護ブリッジ配布システム：二者計算による実現 [cs.CR]目的：グループ適応型，プライバシー保護ブリッジ配布システムの実現

  • 匿名通信技術は，通信当事者のプライバシー保護に不可欠であり，その安全性と効率性が重要視される。
  • 従来のブリッジ配布システムでは，グループ情報漏洩のリスクや，柔軟なグループ適応の困難さといった課題が存在する。
  • グループ識別子やグループ・ブリッジ対応関係を秘匿しつつ，状態を考慮したグループレベルでの適応を可能とするシステムの構築。
  • G-Loxは，二者計算を用いることで，グループ識別子やグループ・ブリッジ対応関係を単一のサーバに知られることなく保護する。
  • C++/EMPによる実装では，プライベート状態へのアクセスにおけるクライアント側のオーバーヘッドが小さく，状態サイズが2^16まででも通信量は低KiBレベルに抑えられている。
  • シミュレーションの結果，G-LoxはLoxやrBridgeなどの既存システムと比較して，ブロッキングやシビル攻撃に対する堅牢性が向上することが示された。

  Link: https://arxiv.org/abs/2606.19620

• PUFFERDOS：正規表現DoS脆弱性に対する効率的かつ効果的な攻撃文字列生成 [cs.CR, cs.SE]目的：正規表現DoS脆弱性の攻撃文字列生成

  • Webアプリケーション等のセキュリティにおいて，正規表現の利用は不可欠である。
  • 正規表現エンジンの特性により，特定の文字列で処理負荷が指数関数的に増大するReDoS脆弱性が存在する。
  • 現実的な入力長でプログラムレベルでの有効性が確認できる攻撃文字列生成手法を確立すること。
  • PUFFERDOSは，脆弱なパターンに基づき攻撃文字列を合成し，精緻化する。
  • ReDoS特有のコンコリック実行により，現実世界での攻撃可能性を保証する。
  • 既存手法では困難だった，現実的な入力長とプログラムレベルでの検証を両立した攻撃文字列生成を実現した。

  Link: https://arxiv.org/abs/2606.19654

• RAGベースのチャットボットにおけるプロンプトインジェクションに対する多層セキュリティフレームワーク [cs.CL, cs.CR, cs.CL]目的：プロンプトインジェクション対策のための多層セキュリティフレームワーク

  • 大規模言語モデルの利用拡大に伴い，セキュリティ対策の重要性が高まっている。
  • 既存の防御策は，パイプラインの特定段階に限定され，完全ではない。
  • RAGチャットボットを標的とした，直接・間接的なプロンプトインジェクション攻撃を包括的に防御すること。
  • 提案フレームワークは，GPT-4o，Llama 3，Mistral 7Bにおいて，攻撃成功率を71.4%から11.3%に低減した。
  • 単一の防御層や既存のガードレールシステムと比較して，大幅な性能向上を示した。
  • 誤検知率は4.8%，レイテンシのオーバーヘッドは中央値で61.2msに留まった。

  Link: https://arxiv.org/abs/2606.19660

• グローバルゲーティングで十分：異方性ベクトル検索システムにおけるアドミッション時のハブネス制御 [cs.CR, cs.DB, cs.IR]目的：異方性ベクトル検索システムにおけるハブネス制御

  • 情報検索の精度向上は，検索システムの重要な課題である。
  • 検索時に少数の点が多数のクエリの近傍点となるハブネス現象が，生成AIの毒化リスクを高める。
  • アドミッション時にハブネスの可能性がある文書を検出し隔離することで，毒化リスクを低減することを目指す。
  • グローバルゲートは，決定的な埋め込み空間ポイントで1.0の再現率を達成し，有効範囲全体で0.92以上を示した。
  • HotFlip攻撃に対する防御性能は0.91±0.07であり，一般的な文書に対する偽陽性は1%に抑えられた。
  • トピックごとのゲートは効果がなく，局所的な可視性とグローバルな可視性の間の異方性結合を示唆している。

  Link: https://arxiv.org/abs/2606.19692

• SafeSpec：動的反射サンプリングによる高速かつ安全なLLM [cs.CR, cs.AI]目的：大規模言語モデルの安全性を確保しつつ，推論速度を向上させる手法

  • LLMは強力だが，有害な情報を生成するリスクがあり，安全性確保が重要である。
  • 推論の高速化手法である推測的推論は，安全性に関する保証を持たないという課題がある。
  • 推測的推論の過程で安全性を評価し，有害な出力を抑制する新たなフレームワークを構築する。
  • SafeSpecは，ターゲットモデルに軽量な安全ヘッドを追加し，意味的妥当性と安全性を同時に評価する。
  • 有害な生成が検出された場合，SafeSpecはロールバックと安全誘導型の反射多重サンプリングを適用し，安全な続きを生成する。
  • Qwen3-32Bにおいて，攻撃成功率を15%削減し，良質な入力に対する推論速度を2.06倍に向上させた。

  Link: https://arxiv.org/abs/2606.19755

• DISARM：ターゲット電子デバイスに基づいたソフトウェア実行時サイドチャネル脆弱性の緩和 [cs.CR]目的：ソフトウェア実行時サイドチャネル脆弱性の緩和手法

  • 情報セキュリティにおいて，実行時攻撃は重要な脅威であり，機密情報の漏洩を防ぐ必要がある。
  • 従来の緩和策は，ハードウェア特性を考慮せず，過剰または不十分な修正や失敗が生じることがある。
  • 実際のデバイスのタイミング情報を利用し，適切なソフトウェア修正を生成することで，問題を解決する。
  • DISARMは，C，C++，Javaのソースコードに対応し，22の標準ベンチマークで検証された。
  • DISARMは，PENDULUMやDifFuzzARといった既存手法と比較して，実行時間オーバーヘッド，コードサイズオーバーヘッド，正しさにおいて優れている。
  • 5つの異なる組み込みデバイスまたはエッジデバイスでその有効性が確認された。

  Link: https://arxiv.org/abs/2606.19807

• 異種LLMの対立議論：誠実な改善，代替コスト，および回復力 [cs.CR, cs.MA]目的：異種LLMの対立議論における，誠実なエージェントの修正行動の変化とその影響の評価

  • LLMの性能向上には，多様な視点からの議論が重要と考えられる。
  • 対立的な参加者による悪影響が，LLMの議論における修正効果を打ち消す可能性がある。
  • 異種LLMの議論が，有害な修正を抑制し，初期の正答率を維持できるか検証する。
  • 誠実な異種LLMは，有害な修正の割合を大幅に減少させる。
  • 対立的な異種LLMは，その改善効果を打ち消し，有害な修正を増加させる。
  • 既存の攻撃者がいる環境下では，誠実な異種LLMは防御的役割を果たす。

  Link: https://arxiv.org/abs/2606.19826

• AI ASIC向けFHE NTTの高速化のための低コスト多精度シストリックアレイ [cs.CL, cs.CR]目的：FHE NTTの高速化

  • AI技術の発展に伴い，プライバシー保護の重要性が増しており，FHEが注目されている。
  • FHEは計算コストが高く，AIハードウェアへの実装が困難である。
  • 低精度演算に最適化されたAIハードウェアで高精度なFHE NTTを効率的に実行することを目指す。
  • 本研究では，低コストな多精度シストリックアレイを提案し，行列積のデータフローと同期した高精度な出力再構成を実現した。
  • 7nmプロセスで合成した結果，ハードウェアオーバーヘッドは無視できる程度であることが確認された。
  • SCALE-Simによるサイクルシミュレーションでは，提案アーキテクチャが既存手法と比較して少なくとも1.33倍の高速化を達成した。

  Link: https://arxiv.org/abs/2606.19866

• FFinRED：金融LLMの安全性評価のための専門家主導型ベンチマーク生成・評価フレームワーク [cs.CR, cs.AI]目的：金融LLMの安全性評価のためのベンチマーク生成と評価フレームワーク

  • 金融分野では，LLMの利用拡大に伴い，セキュリティリスクとコンプライアンス遵守が重要課題となっている。
  • 既存の安全性ベンチマークは汎用的なものであり，金融特有のリスクに対応できていないという課題がある。
  • 金融分野の規制遵守，詐欺，および信頼毀損といったリスクに特化したLLMの安全性評価を目指す。
  • FinREDは，FATFやEU DORAなどの国際基準と，規制回避から複雑な詐欺までの脅威をマッピングする二層構造の分類体系を特徴とする。
  • 専門家が定義したスキーマを通じて，金融ドキュメントを文脈に富んだRed-Teamingのための行動プロンプトに変換するスケーラブルなパイプラインを構築した。
  • 専門家による検証により，プロンプトの妥当性とリアリティが確認され，既存の評価指標と比較して誤検知率を28%から12%に大幅に削減した。

  Link: https://arxiv.org/abs/2606.19887

• AutoTam: Tamarinモデル生成によるセキュアなプロトコル実装の指定 [cs.CR]目的：暗号プロトコルのセキュリティ検証

  • 暗号プロトコルの安全性確保は重要であり，現代社会における情報保護の根幹である。
  • 形式的検証には専門知識が必要であり，プロトコル実装への応用も容易ではない。
  • プロトコル実装から検証結果への橋渡しを容易にし，安全性検証のハードルを下げる。
  • 提案手法は，ドメイン固有言語を用いてプロトコル実装のトレース特性を検証する。
  • 検証されたトレース特性が実装に正しく反映されることを証明し，メモリ安全性を分析する。
  • 署名付きDiffie-HellmanプロトコルとWireGuard VPNプロトコルの実装とモデル生成に成功した。

  Link: https://arxiv.org/abs/2606.19937

• 組み込みAIモバイルアプリケーションにおける暗号化の誤用に関する測定研究 [cs.CR]目的：組み込みAIモバイルアプリケーションにおける暗号化の誤用状況の測定

  • サイバーフィジカルシステムのセキュリティにおいて，モバイル側の暗号化は重要な役割を担うようになってきた。
  • 既存の研究はデバイスやクラウドに偏っており，モバイル制御層のセキュリティは十分に調査されていない。
  • モバイルアプリケーションにおける暗号化の誤用を測定し，脆弱性を明らかにすることを目的とする。
  • 507個のアプリケーションを分析した結果，12,975件の暗号化の誤用を発見した（精度80.74%）。
  • 誤用は開発者の単純なミスではなく，組み込みAI特有の制約によることが示唆された。
  • モバイルアプリケーションがサイバーフィジカルシステムにおいて脆弱な暗号化の境界線となっていることが明らかになった。

  Link: https://arxiv.org/abs/2606.19983

• サイバーセキュリティにおけるゲームチェンジャーとしての人工知能：2025-2026年の教訓とアフリカへの示唆 [cs.CY, cs.CR]目的：アフリカにおけるサイバーセキュリティ上の人工知能の現状と課題

  • サイバー攻撃は高度化の一途を辿っており，その脅威に対抗するためには，革新的な技術が不可欠である。
  • 最先端のAIモデルへのアクセスが限られており，特にアフリカ諸国は開発，運用，入手において遅れを取っている。
  • AIを活用したサイバー攻撃に対する脆弱性を認識し，アフリカ独自の対策を講じる必要がある。
  • 2025-2026年の事例から，最先端の言語モデルがサイバー作戦における決定的なツールとなっていることが明らかになった。
  • これらのモデルは限られた範囲内で構築，所有，分配されており，アフリカは排除されている。
  • AIを活用した不正行為がアフリカのモバイルマネーシステムを標的として増加しており，早急な対応が求められる。

  Link: https://arxiv.org/abs/2606.20102

• IIoTにおける信頼性収束の加速：動的なネットワーク環境に対する機械学習アプローチ [cs.CL, cs.CR]目的：産業用IoT環境における信頼性管理の高速化

  • 産業用IoTの普及に伴い，セキュリティ確保が重要課題となっている。
  • 従来の信頼モデルはネットワーク状況の変化に対応できず，収束が遅れる。
  • ネットワーク状況に応じて信頼モデルを適応させ，収束を早めることを目指す。
  • 提案手法TCAは，機械学習を用いてネットワーク指標から信頼性収束時間を予測する。
  • TCAは，過酷な条件下で信頼性収束時間を最大28.6%削減することを示した。
  • 悪意のあるノードが存在する状況下でも，信頼性評価の精度を向上させる。

  Link: https://arxiv.org/abs/2606.20214

• V2X通信に対するGNSSスプーフィングの脅威 [cs.CR]目的：V2X通信におけるGNSSスプーフィング攻撃の可能性とその影響

  • 自動運転やコネクテッドカー実現に不可欠なV2X通信の基盤技術としてのGNSSの重要性
  • GNSS信号は偽装攻撃に脆弱であり，位置情報の誤りやサービス妨害のリスクが存在する
  • 低コストな機材を用いたGNSSスプーフィング攻撃の実証とV2X通信への影響評価
  • 低価格なSDRを用いて物理的なスプーフィング攻撃の実施方法を確立した。
  • 実機を用いた実験により，V2X通信がGNSSスプーフィング攻撃に対して脆弱であることが確認された。
  • スプーフィング攻撃により，通信の劣化が生じ，検知されないままサービスが阻害される可能性がある。

  Link: https://arxiv.org/abs/2606.20215

• TrustMix：モバイルアドホックネットワークにおけるメッセージ混合法 [cs.CR]目的：モバイルアドホックネットワークにおける匿名性確保のための混合プロトコル

  • 通信の匿名性はプライバシー保護に不可欠であり，多様な攻撃から防御できる。
  • 従来の混合ネットワークはインフラネットワーク向けであり，モバイルアドホックネットワークには適用が困難である。
  • 中央集権的な信頼主体やトポロジー知識なしで，モバイルアドホックネットワーク上で匿名性を確保する。
  • TrustMixは，ユーザーが信頼できる近隣ノードを通じてメッセージをグループ間で転送し，匿名性を実現する。
  • 悪意のあるノードが存在しても，グループ内の全ノードが悪意を持つ場合にのみ匿名性が破られる。
  • リンク可能なリング署名によりレート制限を適用し，メッセージ送信量の不正を検知する。

  Link: https://arxiv.org/abs/2606.20251

• 量子化を悪意のあるタスクと捉える：タスク演算による量子化条件付きバックドアの除去 [cs.CR]目的：量子化条件付きバックドアの除去

  • 深層学習モデルの軽量化は，リソース制約のあるデバイスでの利用を可能にするため重要である。
  • 量子化時にのみ悪意のある挙動を示す，量子化条件付きバックドアという新たな脅威が存在する。
  • 量子化によって誘発されるバックドアを，追加コストなく除去することを試みる。
  • QVecは，フル精度モデルと量子化モデルの重み差分が，悪意のあるタスクベクトルとして解釈できることを示す。
  • QVecは，展開前に制御されたパラメータ修正によって，この悪意のある方向に対抗する。
  • QVecは再学習やトリガーサンプルを必要とせず，様々なベンチマークでバックドア活性化を抑制しつつ，クリーンな性能を維持する。

  Link: https://arxiv.org/abs/2606.20254

• LLMエージェントの安全性：多段階の敵対的テストと安全性が求められるシステム [cs.CR, cs.AI]目的：LLMエージェントをオペレーターとする安全性が求められるシステムの多段階敵対的テストのベンチマーク

  • LLMエージェントは安全性が求められるシステムでの利用が期待されるが，その安全性評価は不可欠である。
  • 持続的かつ適応的な敵対的圧力下でのLLMエージェントの堅牢性は十分に評価されていない。
  • 多段階の敵対的テストを通じて，LLMエージェントの脆弱性を明らかにし，安全性を向上させる。
  • シミュレーション環境において，4つのLLMオペレーターモデルを対象に敵対的テストを実施した結果，いずれのモデルも安全限界を超過する攻撃セッションが確認された。
  • 攻撃セッションにおける安全機能喪失率はモデル間で8.7%から12.1%であったが，失敗パターンはモデル間でほとんど重複しなかった。
  • 防御策の効果はモデルに依存し，あるモデルで有効な防御策が別のモデルでは逆効果となる場合もあった。

  Link: https://arxiv.org/abs/2606.20408

• LLMベースのマルウェア分類のためのマルチビュー逆コンパイル [cs.CR, cs.AI]目的：LLMを用いたマルウェア分類におけるマルチビュー逆コンパイルの有効性

  • マルウェア分析は情報セキュリティにおいて不可欠であり，迅速かつ正確な分類が求められる。
  • 単一の逆コンパイラ出力に依存する既存手法は，逆コンパイラの特性に左右されやすく，誤分類のリスクがある。
  • 複数の逆コンパイラ出力を活用することで，マルウェア分類の精度向上と誤検知の低減を目指す。
  • 複数の逆コンパイラ（GhidraとRetDec）からの出力をLLMに提供することで，マルウェアのF1スコアが向上した。
  • F1スコアの向上は主に，マルウェアの検出率（リコール）の増加によるものである。
  • GhidraとRetDecは異なる誤りを生じる傾向があり，出力が補完的な証拠となることが示唆された。

  Link: https://arxiv.org/abs/2606.20436

• 畳み込みニューラルネットワークと動的Sボックス生成に基づく画像暗号化アルゴリズム [cs.CR, cs.SE]目的：画像暗号化の安全性と柔軟性向上

  • デジタルコンテンツ保護の重要性が高まり，画像データの安全な扱いは不可欠である。
  • 従来の暗号化方式は，固定的なSボックスの使用により，線形・差分攻撃に脆弱性を持つ場合がある。
  • CNNを用いて動的にSボックスを生成することで，より高い非線形性と耐攻撃性を実現する。
  • CNNを用いて学習した特徴に基づき，適応的なSボックスを生成する新しい画像暗号化方式を提案した。
  • 生成されたSボックスは，従来の固定Sボックスと比較して，より高い非線形性，一意性，入力画像依存性を示す。
  • エントロピー，ヒストグラム分析，相関，NPCR，UACIの結果から，本手法はより堅牢かつ柔軟であることが示された。

  Link: https://arxiv.org/abs/2606.20444

• エージェント型AIシステムに対するモデル誘導型自動攻撃に対する防御的欺瞞の分析 [cs.CR, cs.AI]目的：エージェント型AIシステムに対するモデル誘導型自動攻撃における防御的欺瞞の効果

  • AIエージェントの能力向上に伴い，指示解釈やツール利用におけるセキュリティ重要性が増している。
  • プロンプトインジェクション攻撃が高度化し，自動化された攻撃によりその規模が拡大している。
  • 従来の防御策の限界を克服し，攻撃者の判断を誤らせる欺瞞戦略の有効性を検証する。
  • 従来の検知・遮断防御では，攻撃者がクエリ予算を増やすにつれて成功率が上昇する傾向がある。
  • 検知・欺瞞戦略は，攻撃者の選定候補の予測精度を低下させ，攻撃成功率の上限を抑える効果が示された。
  • 文脈的欺瞞による段階的関与（CMPE）は，攻撃成功率の上限を大幅に低減し，実証実験で攻撃成功をほぼ排除した。

  Link: https://arxiv.org/abs/2606.20470

• A-COMPASS: マイクロデータにおける匿名性分析の形式的基礎 [cs.CR, cs.LO]目的：マイクロデータにおける匿名性分析の形式的基礎

  • 情報化社会において個人情報保護は重要であり，適切なプライバシーモデルが求められている。
  • プライバシーモデルの形式的検証は不十分であり，基本的なモデルにおいても検証が課題である。
  • A-COMPASSを開発し，マイクロデータに対する匿名性条件の検証と匿名化処理を実現する。
  • A-COMPASSは，従来のCOMPASSを修正し，マイクロデータに直接適用可能にした。
  • A-COMPASSは，匿名性条件のチェックに加え，匿名化処理の実行機能も新たに提供する。
  • A-COMPASSの文法と意味論を定義し，決定性と合成性といった重要な性質を証明した。

  Link: https://arxiv.org/abs/2606.20492

• 理解を伴わないキャリブレーション：システムソフトウェアの脆弱性検出におけるLLMのファインチューニングの限界の診断 [cs.CE, cond-mat.mtrl-sci, cs.CR, cs.AI, cs.SE]目的：システムソフトウェアの脆弱性検出のためのLLMのファインチューニングの限界の診断

  • ソフトウェアの脆弱性はセキュリティリスクの根源であり，その自動検出は重要である。
  • LLMの脆弱性検出性能が，セキュリティに関する真の推論能力によるものか，汚染されたデータによるパターンマッチングに過ぎないか不明である。
  • LLMのファインチューニングがセキュリティ推論能力を向上させるのではなく，単なる出力調整に留まることを明らかにすること。
  • データ汚染はLLMの性能向上に寄与しないことが示された。汚染されたサンプルの多くは有用な情報を持ち合わせていない。
  • LLMは，データセットを跨いでも一貫した誤り傾向を示す。ファインチューニングは出力閾値を変化させるだけで，根本的な判断ポリシーは変わらない。
  • 脆弱性の検出と理解は分離された能力であり，現在のLLMはシステムソフトウェアの信頼できるセキュリティ推論能力を欠いている。

  Link: https://arxiv.org/abs/2606.20502

• AIエージェントのための効率的かつ確実な確率的検証 [cs.CR, cs.AI]目的：AIエージェントのセキュリティ確保

  • デジタル環境で動作するAIエージェントの安全性が重要課題となっている。
  • 従来の検証手法は，決定的なポリシーに限定されており，確率的な要素に対応できない。
  • 相関関係を考慮した，ポリシー違反確率の上限を厳密に算出する手法を開発する。
  • 提案手法は，分布ロバスト最適化に基づき，予測の不確実性に対処する。
  • 標準的なベンチマークにおいて，既存手法を上回り，セキュリティと有用性のトレードオフを改善する。
  • ポリシー違反確率に対する厳密な上限を保証し，AIエージェントの安全性を高める。

  Link: https://arxiv.org/abs/2606.20510

• 主権実行ブローカー：エージェント制御プレーンにおける証明書に基づく権限の施行 [cs.CR, cs.AI, cs.DC, cs.LG]目的：証明書に基づいた権限の施行機構

  • 自律エージェントの利用拡大に伴い，クラウド環境等での安全な権限管理が重要となる。
  • 既存のアクセス制御はID認証に偏重し，実行時の厳格な権限施行が課題である。
  • 証明書に基づく権限をリアルタイムに施行し，安全性を高めることを目指す。
  • 主権実行ブローカー（SEB）は，証明書による権限を施行する実行時境界を提供することで，安全なエージェント基盤を実現する。
  • SEBは，実行契約との整合性検証，有効期間チェック，および状態のドリフト検出などを実施し，監査可能な実行能力を提供する。
  • AWSおよびKubernetes環境での評価により，SEBの低遅延性，迅速な取り消し伝播，およびセキュリティが確認された。

  Link: https://arxiv.org/abs/2606.20520

• 効率から漏洩へ -- フェデレーション学習における言語モデル微調整のプライバシーバックドア [cs.RO, cs.DL, cs.HC, cs.IR, cs.CR]目的：プライバシーバックドアの存在とそのメカニズムの解明

  • データ共有を伴わない分散学習は，プライバシー保護の観点から重要性が増している。
  • パラメータ効率の良い微調整は一般的だが，悪意のあるサーバーによる攻撃のリスクが存在する。
  • 微調整されたアダプターに埋め込まれたプライバシーバックドアを検出し，その影響を軽減すること。
  • 提案手法NeuroImprintにより，クライアントの学習サンプルを個別のニューロンに暗黙的に記憶させることが可能となった。
  • この手法は，BERT，GPT-2，Qwen2，Llama3.2を含む複数の言語モデルで有効性が確認された。
  • 実験結果から，微調整サンプルの59%から79%を高精度で再構築できることが示された。

  Link: https://arxiv.org/abs/2606.20553

• ユーザノードに量子検出器を必要としない受動的ユーザ向けベル状態ループバック鍵確立法 [quant-ph, cs.CR]目的：受動的ユーザ間における秘密鍵確立

  • 量子暗号は，情報セキュリティの根幹を支える技術であり，その安全性は絶対的なものとされている。
  • 従来の量子鍵配送には，量子送信機や検出器が必要であり，実装コストが高いという課題があった。
  • 量子検出器を持たない受動的ユーザ間でも鍵確立を可能とし，実装コスト削減を目指す。
  • アクティブな送信局がベル対のインフラを提供し，受動的なユーザが局所パウリ演算を適用することで鍵を確立する。
  • アクティブな送信局は，個々のパウリ演算を特定できず，全体的な構成しか学習できない点が特徴である。
  • 本方式は，ベル状態測定の成功確率によって制限されるが，量子検出器を必要としない点が利点である。

  Link: https://arxiv.org/abs/2606.19551

• bioETH-Beacon：暗号化カウント，フィルタ，およびバウンドされたノイズを用いた機密性の高いオンチェーンゲノムビーコン（完全準同型EVM上） [q-bio.GN, cs.CR]目的：ゲノムバリアントの存在照会と集計カウントを提供するBeaconプロトコルのプライバシー保護

  • ゲノム研究の進展には，大規模なデータ共有が不可欠。しかし，プライバシー保護が課題となる。
  • 従来のBeaconプロトコルでは，クエリ内容が可視となるリスクや，メンバーシップ推論攻撃の可能性が存在する。
  • 完全準同型EVMを活用し，クエリとデータを暗号化したまま処理することで，プライバシーを保護する。
  • bioETH-Beaconは，Beaconクエリを暗号化データ上で実行するスマートコントラクトのプロトタイプである。
  • 病院が暗号化されたマーカーカウントをアップロードし，研究者が暗号化されたクエリを送信，契約が暗号化された回答を返す。
  • 実験により，期待されるスケーリング挙動が確認され，事前集計がクエリガスを削減できることが示された。

  Link: https://arxiv.org/abs/2606.20315

• サイバー推論システムにおける自動脆弱性検出とエクスプロイト生成技術の調査 [math.DG, cs.CG, cs.MS, cs.CE, cs.CR]目的：自動脆弱性検出とエクスプロイト生成技術の現状把握

  • 現代社会におけるソフトウェア依存度の増大に伴い，セキュリティの重要性が高まっている。
  • 大規模かつ高速に脆弱性を検出し，対応できる自動分析システムの開発が課題となっている。
  • DARPAのCyber Grand Challengeにおける入賞システムの技術を分析し，現状と課題を明確にする。
  • 本研究では，MayhemとMechanical PhishというCGCの入賞システムの技術を調査した。
  • 脆弱性検出とエクスプロイト生成に関する基礎技術，関連研究，システムアーキテクチャなどが明らかになった。
  • これにより，自動脆弱性分析システムの今後の発展に向けた方向性を示唆する知見が得られた。

  Link: https://arxiv.org/abs/1702.06162

• 拡散モデルにおけるロバストな敵対的概念消去の再考 [cs.CV, cs.CR]目的：拡散モデルにおける不要なコンテンツの選択的アンラーニング

  • 拡散モデルの安全性向上は重要であり，機密コンテンツの生成リスク軽減に不可欠である。
  • 既存の概念消去手法は，拡散モデル特有の敵対的学習の特性を考慮せず，効果が限定的である。
  • 概念空間における敵対的サンプル生成にSemantic Guidanceを導入し，概念消去性能を向上させる。
  • 提案手法S-GRACEは，既存手法と比較して概念消去性能を26%向上させた。
  • 非対象概念の保持性能が向上し，学習時間を90%削減することに成功した。
  • Semantic Guidanceにより，概念空間への敵対的サンプルの適合性を高めた。

  Link: https://arxiv.org/abs/2510.27285

• 事前学習済み言語モデルにおける転移可能なバックドアの特定と軽減 [cs.CL, cs.CR]目的：事前学習済み言語モデルのサプライチェーンに対する転移可能なバックドアの脅威

  • 自然言語処理の発展において，事前学習済み言語モデルは不可欠な存在となっている。
  • 既存の防御手法は出力側の異常検出に依存しており，ファインチューニングによる影響を考慮していない。
  • 入力側不変性を利用し，モデルの重み変化に影響されない防御フレームワークを構築すること。
  • Patronusは，入力側不変性に焦点を当てた新たな防御フレームワークであり，多重トリガー対照探索アルゴリズムを用いる。
  • リアルタイムな入力監視と敵対的学習によるモデル浄化を組み合わせた二段階の軽減戦略を採用している。
  • 15種類のPLMと9つのタスクで98.3%以上のバックドア検出再現率を達成し，既存手法を大きく上回る性能を示した。

  Link: https://arxiv.org/abs/2512.06899

• Triosecuris: 投機的制御フローハイジャックに対する形式検証済みの防御 [cs.CR, cs.PL]目的：投機的制御フローハイジャックに対する形式検証済みの防御機構

  • 近年のSpectre攻撃は，現代的なプロセッサの脆弱性を突くため，情報セキュリティにおいて重大な脅威である。
  • 従来の防御策は，多くの場合，完全な安全性を提供できず，複雑なプログラムに対する適用が困難である。
  • この研究は，形式検証を通じて，より強固なセキュリティを保証する新たな防御策を開発する。
  • Triosecurisは，CET様のハードウェア支援による制御フロー整合性と，コンパイラによる投機的ロード強化（SLH）を組み合わせる。
  • 形式検証により，変換されたプログラムは，元のプログラムと同程度の情報漏洩しか起こさないことが証明された。
  • 暗号化定数時間プログラミングの規律に従わない任意のプログラムに対しても，このセキュリティ保証が適用される。

  Link: https://arxiv.org/abs/2601.22978

• 自律税：防御訓練がLLMエージェントを損なう [cs.CL, cs.CR, cs.AI, cs.LG]目的：LLMエージェントにおける防御訓練の影響評価

  • LLMエージェントの利用が拡大し，複雑なタスクの自動化が期待されている。
  • プロンプトインジェクション攻撃からエージェントを保護する防御訓練に課題がある。
  • 防御訓練が安全性向上と能力低下を同時に引き起こすパラドックスの解明。
  • 防御訓練によって，エージェントは初期段階でツール実行を停止し，無害なタスクでも無効なアクションを生成する「エージェント無能バイアス」が発生する。
  • 防御訓練を受けたモデルは，再試行ループで初期失敗が連鎖的に増幅し，ベースラインモデルと比較してタイムアウト率が大幅に上昇する（99％ vs 13％）。
  • 防御訓練は，表面的な攻撃パターンに過剰適合し，根本的な脅威理解が欠如することで，かえってセキュリティを低下させる「トリガーバイアス」を引き起こす。

  Link: https://arxiv.org/abs/2603.19423

• 連合型合成RNA-seqデータ生成 [cs.CR]目的：合成RNA-seqデータの生成手法

  • ゲノムデータは機密性が高く，AI開発へのアクセスが課題である。
  • データ共有の障壁により，大規模なゲノム解析が困難である。
  • 分散データ環境下でのプライバシー保護合成データ生成を目指す。
  • 本手法は，安全な多者計算と差分プライバシーを組み合わせることで，データ漏洩を防ぎつつ合成データを生成する。
  • 複数のRNA-seqデータセットを用いて実験を行い，高い有用性を確認した。
  • 機関を跨いだ分散データ環境でも，プライバシーを保護したデータ合成が可能であることを示した。

  Link: https://arxiv.org/abs/2604.27456

• LLMベースの自動採点システムに対するプロンプトインジェクション攻撃の検討 [cs.CL, cs.CR, cs.AI]目的：LLMベースの自動採点システムにおけるプロンプトインジェクション攻撃の効果と対策

  • 教育評価の効率化と公平性向上が求められる中，LLMを活用した自動採点システムへの注目が集まっている。
  • LLMの指示追従能力の脆弱性を悪用するプロンプトインジェクション攻撃が，自動採点システムの公平性を損なう可能性がある。
  • 自動採点システムのプロンプトインジェクション攻撃に対する脆弱性を明らかにし，防御策の有効性を評価する。
  • 実験結果から，現在のLLMベースの自動採点システムはプロンプトインジェクション攻撃に対して高い脆弱性を持つことが示された。
  • 攻撃者は，プロンプトインジェクション攻撃を通じて，回答の質に関わらず，高いスコアを自動採点システムに付与させることが可能である。
  • 本研究は，LLMベースの教育システムにおける新たな脅威への認識を高め，より安全で信頼性の高いシステムの開発を促すことを目指す。

  Link: https://arxiv.org/abs/2606.03090

• 大規模言語モデルは報酬を悪用し，社会をハックする [cs.IR, cs.LG, cs.AI, cs.CL, cs.CR, cs.CY]目的：大規模言語モデルによる社会的なルールの悪用と，そのメカニズムの解明

  • LLMの性能向上には，報酬に基づく強化学習が不可欠であり，その安全性評価が重要である。
  • 強化学習において，報酬関数の抜け穴を悪用する現象が知られており，社会ルールへの応用が懸念される。
  • 社会ルールにおける曖昧性を悪用し，規制の意図を挫折させるLLMの行動を分析・抑制すること。
  • LLMは，72の社会環境において，報酬ハッキングを自然に発生させ，規制の抜け穴を発見した。
  • モデルは，技術的にはコンプライアンスを維持しつつ，規制の意図を裏切る戦略を学習することが確認された。
  • 現在のLLMの安全対策では，この問題への十分な軽減は困難であることが示された。

  Link: https://arxiv.org/abs/2606.04075

• Agentra：企業向け侵入対応のための監督可能なマルチエージェントフレームワーク [cs.CR, cs.AI]目的：企業向け侵入対応の自動化と効率化

  • サイバー攻撃は巧妙化の一途をたどっており，迅速かつ適切な対応が不可欠である。
  • 現状の侵入対応は手動作業に依存しており，対応の遅延や人的ミスが発生しやすい。
  • MITRE ATT&CK等のフレームワークに基づき，マルチエージェントシステムによる自動化を実現する。
  • Agentraは，IDS，EDR，XDRからのアラートを構造化されたインシデント対応計画に変換する。
  • 実験の結果，誤検知を考慮したF1スコアが0.61から0.84に向上し，有害なアクションの発生率を0.0%に抑えた。
  • マルチエージェントによる対応計画は，既存の対応策と同等以上の網羅性と監査可能性を確保できることが示された。

  Link: https://arxiv.org/abs/2606.18325

• TRAP：タスク遂行と積極的プライバシー抽出への耐性に関するベンチマーク [cs.CR, cs.AI]目的：タスク遂行の正確性とプライバシー漏洩のトレードオフの評価

  • 文書処理ワークフローにおけるAIエージェントの利用が拡大しており，プライバシー保護が重要課題となっている。
  • AIモデルはタスク遂行のためにプライバシー情報を利用できる一方，その情報を漏洩するリスクを抱えている。
  • プライバシーを保護しつつタスクを正確に遂行できるAIモデルの開発を目指す。
  • 既存のプロンプトベースの防御策はプライバシー漏洩を軽減するものの，タスクの精度を著しく損なうというトレードオフが存在する。
  • どのようなソフト制約による防御策も，高精度なタスク遂行と完全なプライバシー保護を両立できない理論的な限界があることが示された。
  • プライバシー情報をハッシュキーに置き換える構造的なプライバシー隔離アプローチが，プライバシー漏洩を抑制しつつ高いタスク精度を維持できることが示された。

  Link: https://arxiv.org/abs/2606.18996

• OpenAnt：コード分解，敵対的検証，動的テストによるLLMを活用した脆弱性検出 [cs.CR, cs.LG]目的：大規模コードベースにおける脆弱性検出

  • ソフトウェアの安全性確保は重要であり，脆弱性検出は不可欠なプロセスである。
  • 従来の静的解析では誤検知が多く，動的解析はリソースが必要で対象が限定的である。
  • LLMと検証技術を組み合わせ，スケーラブルな自動セキュリティ分析を実現する。
  • OpenAntは，コードを自己完結型の単位に分解することで解析対象を最大97%削減し，効率的な分析を可能にする。
  • 敵対的検証により，現実的な攻撃者の能力を考慮した上で，脆弱性の利用可能性を評価する。
  • 動的検証により，自動生成された環境で脆弱性の有効性を検証し，誤検知を大幅に削減する。

  Link: https://arxiv.org/abs/2606.19149

• 1