arXiv雑要約
セキュリティ - 2026/05/14 公開
グラフニューラルネットワークの厳密検証：増分制約ソルビングによるアプローチ [cs.LG, cs.AI, cs.CR]目的：グラフニューラルネットワークの厳密な検証手法
- グラフニューラルネットワークは，不正検知や医療など重要な分野で活用が拡大している。
- 既存の検証手法では，一般的な集約関数のサポートが不足しており，実用性に課題があった。
- エッジの追加・削除に対する摂動に対する厳密な保証を効率的に計算することを目指す。
- 本研究では，制約ソルビングとバウンドタイトニングを組み合わせることで，厳密な検証を実現した。
- 集約関数として，合計，最大，平均をサポートし，特に最大と平均は初の実装となる。
- 実データセットを用いた評価により，実用性と有効性が確認され，既存手法と比較して優れた性能を示した。
LLM生成フィッシングの生成と検出におけるギャップの解明 [cs.CR]目的：LLM生成フィッシングコンテンツの生成経路と検出手法の現状分析
- フィッシング攻撃は巧妙化・多様化しており，その対策は喫緊の課題である。
- 従来のフィッシング検出手法では，LLMによる動的なコンテンツ生成への対応が遅れている。
- LLMを用いたフィッシング攻撃の特性を理解し，効果的な対策を提示すること。
- LLMは，安全対策を回避する9段階の経路を通じてフィッシングコンテンツ生成に悪用されていることが判明した。
- LLM生成のフィッシングは，検出器を回避しつつ，人間の認知的な脆弱性を悪用する傾向が強いことが示された。
- 攻撃手法は動的に適応するのに対し，防御策は静的・反応的なままであり，非対称性が存在することが明らかになった。
エージェントによるツール選択の定量的な安全性評価 [cs.CR, cs.AI]目的：ツール選択パイプラインの安全性仕様を満たす確率の上限
- 大規模言語モデルはエージェントシステムで活用され，その安全性は重要である。
- 既存の評価は限定的な環境で行われ，実際のツール環境での脆弱性が課題である。
- 現実的なツール環境下でのツール選択パイプラインの安全性保証を目指す。
- LLMCert-Tは，ツール選択パイプラインが安全性仕様を満たす確率の上限を統計的に算出する。
- この手法は，実際のツール分布を考慮した評価を可能にし，安全性の客観的な指標を提供する。
- 既存のLLMエージェントは，Distractor SelectionやTop-N Saturation仕様下で脆弱であることが示された。
EMPalm：電磁サイドチャネルによる掌生体認証データの窃取 [cs.CR]目的：掌生体認証データの窃取手法の開発
- 重要インフラにおいて，掌認証は主要な生体認証技術として普及している。
- 既存システムは，共通のハードウェアアーキテクチャにより，電磁波信号から情報漏洩のリスクがある。
- 電磁波信号から掌紋と掌静脈画像を高精度に復元し，認証システムの脆弱性を明らかにする。
- EMPalmは，傍受した電磁波信号から，掌紋と掌静脈の画像を秘密裏に復元する。
- 実験結果から，EMPalmは高い画質で掌生体情報を復元でき，SSIMスコア0.79，PSNR 29.88 dB，FIDスコア6.82を達成した。
- 4つの最新の掌認証モデルに対する攻撃実験では，平均して65.30%のなりすまし成功率が確認された。
ユークリッド幾何を用いた局所情報理論的安全性 [cs.IT, cs.CR, math.IT]目的：離散無記憶線形盗聴路における安全な通信の局所的特性の調査
- 情報セキュリティは現代社会において不可欠であり，その高度化が常に求められている。
- 盗聴路における安全性評価は一般に複雑であり，効率的な手法が課題となっている。
- 局所的な幾何学的近似を用いることで，安全性を評価する際の計算量を削減することを目指す。
- 提案手法により，制約付き最適化問題を扱いやすい二次計画問題へと変換することが可能となった。
- 局所的な秘密容量の近似的な公式を導出し，チャネルの内部的な漏洩効率を定量化する新たな係数を定義した。
- 導出された局所的な係数と，真の相互情報に基づくグローバルな係数の関係性について評価を行った。
最小限の分布仮定下における差分プライバシー非パラメトリック信頼区間 [cs.CR, cs.LG]目的：差分プライバシー非パラメトリック信頼区間の構築
- データ分析におけるプライバシー保護の重要性が増しており，統計的推論とプライバシーのバランスが求められる。
- 既存手法は，漸近正規性などの強い仮定に依存したり，特定のプライバシーメカニズムに制限されたりする。
- 幅広い条件下で任意の差分プライベート推定量を信頼区間に変換する汎用的な枠組みを提案し，実用的な解決策を提供する。
- 提案手法は，特定の limiting distribution を必要とせず，どのような推定量にも適用可能な汎用性を持つ。
- 実験的に，非滑らかな関数や困難な分布に対して，既存の手法よりも優れた性能を示した。
- 本研究により，差分プライバシー下での統計的推論の可能性が広がり，プライバシー保護されたデータ分析の発展に貢献する。
ガロア環上のリード・ソロモン符号と畳み込みリード・ソロモン符号のリスト復号 [cs.IT, cs.CR, math.IT]目的：ガロア環上のリード・ソロモン符号および畳み込みリード・ソロモン符号のリスト復号に関する研究
- 近年，ゼロ知識システムにおける需要が高まり，ガロア環上の符号に関する研究が重要視されている。
- ガロア環上の符号の復号能力に関連する近接ギャップについては，有限体上の符号ほど知見が蓄積されていない。
- この研究は，ガロア環上のリード・ソロモン符号と畳み込みリード・ソロモン符号のリスト復号能力を向上させることを目指す。
- ガロア環上のリード・ソロモン符号に対し，復号半径 $1-\sqrt{r}$ でリスト復号が可能であることを示した。
- ガロア環上の畳み込みリード・ソロモン符号のリスト復号半径は，有限体上の符号と同様にシングルトン界限に到達することを示した。
- 畳み込みリード・ソロモン符号のリストサイズを $O(\frac{1}{\varepsilon^2})$ まで改善し，平均半径における緩和された一般化シングルトン界限を満たすことを示した。
ソックパペッティング：プレフィリングと最適化を組み合わせるLLM脱獄手法 [eess.SY, cs.SY, cs.CL, cs.CR, cs.LG]目的：LLMの脱獄
- LLMは強力だが，悪意のあるプロンプトに対する脆弱性が存在する。
- 既存の脱獄手法は成功率が低い場合があり，汎用性に欠ける。
- 出力接頭辞の注入に対する防御の必要性を示す。
- プレフィリング攻撃のアンサンブルにより，Gemma-7B，Llama-3.1-8B，Qwen3-8Bで攻撃成功率が向上した。
- 「ソックパペッティング」というハイブリッド攻撃を導入し，Llama-3.1-8Bにおいて最大64%の攻撃成功率向上を実現した。
- オープンウェイトモデルに対する出力接頭辞注入攻撃への対策が不可欠であることが示唆された。
GUIGuard-Bench：プライバシー保護GUIエージェントの汎用的な評価に向けて [cs.CR, cs.AI, cs.CV]目的：GUIタスクにおけるプライバシー保護の評価
- GUIエージェントの利用拡大に伴い，プライバシー侵害リスクへの対応が重要となっている。
- 既存の評価指標はタスク遂行率に偏っており，GUI固有のプライバシーリスク評価が不足している。
- GUIタスクの軌跡に基づいたプライバシー保護GUIエージェントの評価基準を確立する。
- GUIGuard-Benchは，AndroidとPC環境における241のGUIエージェント軌跡と4,080のスクリーンショットを含む。
- 現在のモデルはプライバシー情報の有無は検知できるものの，詳細な位置特定，カテゴリ認識，リスク評価は困難である。
- Claude Sonnet 4.6などのクローズドソースモデルは，プライバシー保護後もAndroid環境で計画の整合性を維持できることが示された。
ZKBoost：XGBoostのゼロ知識検証可能学習 [cs.CR, cs.LG]目的：XGBoostの学習における，データやモデルパラメータを開示せずに，正しい学習を証明する手法
- 機密性の高い環境でのモデル利用が増加しており，モデルの完全性の暗号的保証が不可欠であるため。
- 従来のZKPの学習手法には，ツリー構造の漏洩や脆弱性といった，セキュリティ上の問題が存在したため。
- XGBoostの学習プロセスを効率的に検証可能なゼロ知識証明プロトコルを開発し，セキュリティ上の問題を解決すること。
- ZKBoostは，XGBoostのゼロ知識証明（zkPoT）を実現する最初のプロトコルであり，学習コストを大幅に削減できる。
- 汎用的なZKPバックエンドと組み合わせ可能なテンプレートを開発し，効率性と柔軟性を高めた。
- 固定小数点版XGBoostを開発し，ZKPとの相性を高めつつ，実データセットでの精度を維持した。
推論痕跡なしに推論を盗む方法 [cs.CR]目的：LLMの推論能力の窃盗可能性の検証
- 大規模言語モデルの推論能力は重要だが，その仕組みは必ずしも明らかではない。
- 推論過程が公開されない場合，モデルの能力を理解・活用することが困難である。
- 公開された入力，出力，概要から推論痕跡を再構築し，能力を窃盗する手法を提案する。
- 推論痕跡の反転モデルは，正当な推論痕跡と高い一致性を示すことが確認された。
- 反転モデルによって生成された推論痕跡で学習することで，生徒モデルの推論能力が向上した。
- これにより，プロプライエタリなLLMからの知識蒸留が可能となる。
全てのエンティティが等しく扱われるわけではない：プライバシー保護のための動的匿名化フレームワーク [cs.CL, cs.CY, cs.CR]目的：検索拡張生成におけるプライバシー保護
- 大規模言語モデルの利用拡大に伴い，外部知識の活用が重要になっている。
- クラウドサービス利用時の機密データ漏洩リスクが懸念されている。
- エンティティの重要度に応じて匿名化強度を調整し，プライバシー保護と実用性の両立を目指す。
- 提案手法TRIP-RAGは，文脈を考慮したエンティティの評価により，プライバシーリスクと実用性のバランスを取る。
- 理論的分析と実験により，TRIP-RAGが文脈推論リスクを効果的に低減できることが示された。
- 完全匿名化と同等のプライバシー保護を維持しつつ，Recall@kの低下を35%未満に抑え，生成品質を最大56%向上させた。
大規模言語モデルにおけるプロンプトインジェクション対策の評価 [cs.CR, cs.AI]目的：大規模言語モデルのプロンプトインジェクション対策の有効性
- LLMの利用拡大に伴い，機密情報の保護が重要となっている。
- LLMは，プロンプトインジェクションにより機密情報を漏洩する脆弱性を持つ。
- LLM自身による防御は限界があり，より堅牢な対策が求められている。
- 自己防御に頼る対策は，いずれも破られた。
- 出力フィルタリングのみが有効で，15,000回の攻撃において情報漏洩はなかった。
- セキュリティ境界は，攻撃対象となるモデルではなく，アプリケーションコードで強制する必要がある。
AIチャットボットにおける会話追跡：コンテンツと個人情報露出の測定 [cs.CR, cs.CY]目的：AIチャットボットにおけるウェブトラッキングの実態
- AIチャットボットは情報収集の主要な手段となりつつあり，プライバシー保護の重要性が増している。
- AIチャットボットにおけるトラッキングは体系的に調査されておらず，情報漏洩のリスクが懸念されている。
- AIチャットボットにおけるコンテンツと個人情報の第三者への露出状況を明らかにすること。
- 20の主要なAIチャットボットでウェブトラッキングを測定した結果，17のチャットボットが少なくとも1つの第三者と情報を共有していることが判明した。
- 3つのチャットボットが，プロンプトと応答を含む会話テキストをMicrosoft Clarityと共有しており，プライバシー侵害の可能性が示唆された。
- 15のチャットボットが会話URLやチャットIDを広告，分析，またはソーシャルメディアの宛先と共有していることが確認された。
GuardSec：アフリカにおけるリアルタイムのデジタル不正検知，エンティティ検証，および接続セキュリティ分析のためのマルチモーダルWebプラットフォーム [cs.CR]目的：アフリカのユーザーを対象としたリアルタイムのマルチモーダル脅威検証Webプラットフォーム
- アフリカにおけるオンライン詐欺は蔓延しており，一般市民は適切なセキュリティツールにアクセスできない。
- 既存のサイバーセキュリティツールは，専門知識を持つユーザー向けであり，アクセシビリティやローカルの脅威状況が考慮されていない。
- 誰もが利用できるツールを提供し，ユーザー自身の接続状況を把握することで，デジタル詐欺から身を守る。
- GuardSecは，URL，ウェブサイト，電話番号，メールアドレス，企業の実体を迅速に検証できる。
- Mon Empreinte機能により，ユーザーは自身の接続状況とデジタル露出をリアルタイムで確認できる。
- Gildaという対話型セキュリティアシスタントが，平易な言葉で脅威に関する質問に答え，個別のアドバイスを提供する。
不確実性に基づく能動学習を用いた合成顔検出のためのエビデンスに基づく決定モデリング [cs.CV, cs.CR]目的：合成顔検出における信頼性と汎化性能の向上
- 深層生成モデルの発展により偽造画像が悪用され，検出技術の重要性が増している。
- 既存手法はSoftmax関数に依存し，未知の画像に対して過信傾向があり，不確実性の評価が困難である。
- 不確実性を考慮した能動学習により，高精度な検出と汎化性能を実現し，アノテーションコストを削減する。
- 提案手法EMSFDは，クラスのエビデンスをDirichlet分布でモデル化し，予測過程に不確実性を明示的に組み込んでいる。
- 実験結果から，EMSFDは既存の最先端手法と比較して15%の精度向上を示し，優れた検出性能と汎化性能を持つことが確認された。
- 本手法は，合成顔検出の解釈可能性を高める。
安全なハードウェア設計と関連問題に対するLLM：機会と課題 [cs.CR, cs.AR, cs.LG]目的：LLMを活用したハードウェア設計における機会と課題の分析
- 半導体産業において，EDAとハードウェアセキュリティの重要性が増しており，新たな設計手法が求められている。
- LLMの導入は強力な機能をもたらす一方，新たなセキュリティ脆弱性を生み出す可能性がある。
- LLM駆動のハードウェア設計における脆弱性を特定し，安全性を確保するための対策を検討する。
- LLMはRTLコード生成やテストベンチの自動化に貢献するが，データ汚染や敵対的機械学習による攻撃に弱い。
- 動的ベンチマーキングやアグレッシブなレッドチームによるセキュリティ評価が，LLMの脆弱性に対抗するための有効な手段となる。
- LLMを活用した安全で信頼性の高い自律的な設計エコシステム構築に向けた今後の研究の方向性を示す。
MCPShield：LLMエージェントのツール呼び出しトラフィックに対するコンテンツ認識型攻撃検知 [cs.CR, cs.AI, cs.LG]目的：LLMエージェントのツール呼び出しトラフィックにおける攻撃検知手法の開発
- LLMエージェントの利用拡大に伴い，外部ツールとの連携におけるセキュリティ確保が重要となっている。
- LLMエージェントのツール呼び出しトラフィックの監視は未だ十分ではなく，攻撃に対する脆弱性が存在する。
- コンテンツ情報を活用し，LLMエージェントへの攻撃を高い精度で検知するフレームワークを構築する。
- 提案手法MCPShieldは，ツール呼び出しをノード，その関係性をエッジとしてグラフ化し，コンテンツ埋め込み特徴を用いることで高精度な攻撃検知を実現した。
- メタデータのみでは検知性能が限界となる一方，コンテンツ埋め込みを用いることでAUROCが大幅に向上し，0.89以上を達成した。
- タスクを分離した評価により，従来の評価方法が過大評価されている可能性が示された。SBERTによるコンテンツ埋め込みが検知の主要な信号であることが判明した。
リアルタイムセキュリティとヘイトスピーチリスク警告のための予測型NLPモデルを備えたマイクロサービスベースのエンドポイント監視プラットフォーム [eess.SY, cs.SY, cs.CR]目的：エンドポイント監視プラットフォームの構築
- 企業におけるエンドポイントデバイスとコミュニケーションチャネルの重要性が増しているため，リスク管理が不可欠である。
- 既存のソリューションは，個別の問題に焦点を当てており，シグナル間の相関関係や迅速なインシデント対応が困難である。
- リアルタイムなセキュリティとコンプライアンス警告を可能にする，統合された監視フレームワークを確立することを目指す。
- 提案するプラットフォームは，データ漏洩やポリシー違反の兆候を迅速に検出し，アラート管理を集中化する。
- BERTのようなTransformerベースのモデルを用いたヘイトスピーチリスク検出において，平均精度87%を達成した。
- RabbitMQとRedisを活用したモジュール性とスケーラビリティを備えたアーキテクチャである。
- 1
- 2