arXiv雑要約
セキュリティ - 2026/05/15 公開
大規模言語モデルにおける安全かつプライバシー保護された知識消去に向けて [cs.DB, cs.IR, cs.LG, cs.AI, cs.CR, cs.DC]目的：大規模言語モデルの知識消去におけるプライバシー保護と安全性
- 近年の大規模言語モデルの普及に伴い，モデルに含まれる不要な情報の削除が重要課題となっている。
- モデルのパラメータや消去対象データの共有制限により，従来の知識消去手法はプライバシー保護の面で課題があった。
- 本研究は，パラメータやデータの共有を伴わずに，プライバシーを保護しながら知識消去を可能にする手法を提案する。
- MPUは，複数の摂動されたモデルインスタンスを生成し，クライアント側でのローカルな知識消去を可能にする。
- サーバー側では，再パラメータ化の逆変換と調和的ノイズ除去処理により，摂動の影響を軽減し，消去性能を向上させている。
- 実験結果から，MPUはノイズフリーのベースラインと同等の消去性能を達成し，場合によってはそれを上回る性能を示すことがわかった。
接続性だけでは不十分：5GにおけるUAV C2へのクロスレイヤー攻撃 [cs.CR]目的：5Gを活用したUAVの遠隔操作における安全性の課題
- UAVの活用拡大に伴い，5Gネットワークを用いた安全な遠隔操作が重要となっている。
- 従来の接続性指標のみでは，UAVの安全な制御を保証できないという問題がある。
- 本研究は，UAVの遠隔操作におけるクロスレイヤー攻撃とその対策を明らかにすることを目指す。
- 共有ユーザープレーンの競合により，テレメトリの遅延やデータの陳腐化が発生することが確認された。
- コントロールプレーンの不安定性によるハンドオーバー失敗時に，フェイルセーフ機能が作動することが示された。
- 侵害されたgNodeBによるコマンド書き換えにより，UAVの航行が乗っ取られる可能性があることが明らかになった。既に3件の脆弱性がCVEとして登録されている。
カードベースプロトコルにおけるシャッフルの複雑性階層 [cs.CL, cs.CR]目的：カードベースプロトコルのシャッフル操作の複雑性階層
- 秘匿計算の実現手段として注目されており，物理的なカードを用いることで安全性を担保する。
- シャッフルの実装難易度にばらつきがあり，プロトコルの効率性や安全性に影響を与える。
- シャッフルの複雑性を評価し，より効率的かつ安全なプロトコルの設計に貢献する。
- シャッフル操作を実装複雑性に基づいて複数の階層に分類した。
- 下位のシャッフル操作のみでは上位のシャッフル操作を実現できないことを理論的に証明した。
- この階層に基づいたカードベースプロトコルの複雑性評価指標を提案した。
OpenClaw AIエージェントフレームワークのセキュリティ分析 [cs.CR, cs.AI]目的：OpenClaw AIエージェントフレームワークに対するセキュリティアドバイザリの体系的な分類と分析
- AIエージェントの利用拡大に伴い，LLMと実行環境を接続する際のセキュリティ確保が重要となっている。
- 従来のソフトウェアとは異なる構造的脆弱性が存在し，攻撃対象となるレイヤーや手法が多様である。
- OpenClawの脆弱性分析を通じて，AIエージェントフレームワークのセキュリティ課題を特定し，対策を検討する。
- OpenClawに対し，470件のセキュリティアドバイザリが存在し，アーキテクチャ層と攻撃手法の2軸で分類された。
- GatewayとNode-Hostサブシステムの脆弱性を組み合わせることで，認証なしのRCEパスが確立されることが判明した。
- 実行許可リストの仕組みは，コマンド名の解析に依存しており，シェル継続行などにより容易に回避可能であることが示された。
攻撃者を窮地に陥れる：GNNバックドアに対するトリガーの内部相関と外部影響の検証 [cs.LG, cs.AI, cs.CR]目的：GNNバックドア攻撃に対する防御機構の有効性向上
- GNNは関係データ学習の標準ツールだが，バックドア攻撃に脆弱である。
- 既存の防御は特定のパターンに依存し，適応的な攻撃者に回避される可能性がある。
- GNNバックドアの根本的な要件を標的とする新たな防御手法を提案する。
- 提案手法PRAETORIANは，トリガーとなるサブグラフの内部相関と外部ノードの影響を分析する。
- 実験により，PRAETORIANは攻撃成功率を0.55%に低減し，クリーン精度への影響は0.62%に抑えられた。
- PRAETORIANは適応攻撃に対しても有効であり，攻撃者に有効性と検出可能性のトレードオフを強いる。
決定論的完全静的二進数変換：ヒューリスティクスなし [cs.CR, cs.PL]目的：x86-64実行ファイルをAArch64へ静的に変換する手法
- ソフトウェアの移植やセキュリティ強化において，異なるアーキテクチャへの効率的な変換は重要である。
- 従来の二進数変換は，ヒューリスティクスに依存し，誤った解釈によるエラーが起こりやすい。
- すべてのバイトの解釈を考慮し，実行前に変換を完了させることで，信頼性の高い変換を実現する。
- Elevatorは，ヒューリスティクスやランタイムのフォールバックを使用せずに，x86-64をAArch64へ静的に変換する。
- この手法は，コードサイズが拡大するというトレードオフはあるが，テストや検証，暗号署名が可能となる。
- 実世界のバイナリを用いた評価により，静的二進数変換が信頼性と実用性を兼ね備えていることが示された。
ShadowMerge：関係チャネル競合を利用したグラフベースのAgentメモリに対する新たなポイズニング攻撃 [cs.CR, cs.AI]目的：グラフベースのAgentメモリにおける関係チャネル競合を利用したポイズニング攻撃手法
- LLMエージェントの長期記憶と多段推論を支えるグラフベースのAgentメモリの重要性が増している
- 既存のポイズニング攻撃は平坦なテキスト記録を対象としており，グラフ構造のメモリには効果がない場合が多い
- 悪意のある関係が抽出，マージ，取得されにくいという課題を解決し，Agentの挙動に影響を与えることを目指す
- SHADOWMERGEは，関係チャネル競合を利用することで，既存の手法を大きく上回る93.8%の攻撃成功率を達成した
- AIRパイプラインにより，競合をグラフメモリシステムが処理可能な形式に変換し，攻撃を成功させている
- 関連性のないベンignなタスクへの影響は軽微であり，入力側防御策ではSHADOWMERGEを完全に軽減できないことが示された
MemPrivacy：エッジクラウドエージェントのためのプライバシー保護型パーソナライズメモリ管理 [cs.IR, cs.CR, cs.CL]目的：エッジクラウド環境におけるプライバシー保護とパーソナライズメモリの有用性の両立
- LLM搭載エージェントの普及に伴い，長期的な適応とユーザー中心のインタラクションを実現するパーソナライズメモリが重要となる。
- クラウド支援型メモリ管理は機密性の高いユーザー情報を晒すリスクがあり，既存のプライバシー保護法では有用性が低下する。
- 機密情報の破壊を最小限に抑えつつ，プライバシーを保護し，効果的なメモリ形成・検索を可能にする手法を開発すること。
- MemPrivacyは，エッジデバイス上で機密性の高い範囲を特定し，クラウド側での処理に備え，意味構造を維持した型認識のプレースホルダーに置き換える。
- MemPrivacyは，汎用モデル（GPT-5.2やGemini-3.1-Pro等）を大幅に上回る機密情報抽出性能と，低遅延を実現する。
- 様々なメモリシステムにおいて，MemPrivacyは，ベースラインのマスキング戦略と比較して，有用性の損失を1.6%以内に抑えることに成功した。
FreeMOCA：悪意のあるコード解析のためのメモリフリー継続学習 [cs.CR, cs.LG]目的：悪意のあるコード解析における継続学習フレームワーク
- 年々増加するマルウェアに対抗するため，アンチウイルスシステムは継続的な適応が不可欠である。
- 新たなマルウェアのみで再学習すると過去の知識を忘却し，全データで再学習はコストがかかる。
- パラメータ空間上の低損失経路を利用し，効率的な知識保持による継続学習を実現する。
- FreeMOCAは，WindowsおよびAndroidのマルウェアベンチマークにおいて，11のベースラインを上回る顕著な性能向上を達成した。
- 過去の知識の忘却を大幅に抑制し，EMBERとAZの両ベンチマークで最大42％と37％の精度向上を実現した。
- パラメータ空間におけるウォームスタート補間が，リプレイに代わるスケーラブルで効果的な手法となることを示した。
ウォーターマーキングは監視の基本要素と捉えられるべきである [cs.CR, cs.AI, cs.CY, cs.LG]目的：生成モデルにおけるウォーターマーキングの監視としての役割
- 生成AIの利用拡大に伴い，生成されたコンテンツの出所追跡が重要になっている。
- 既存研究では，個々のサンプルに対する攻撃に焦点を当て，集約的な監視能力の評価が不足している。
- ウォーターマーキングの監視能力を評価し，集約攻撃に対する脆弱性を明らかにすること。
- ウォーターマーキングは，たとえ情報量の少ないものであっても，複数キー設定下で出所特定を可能にする。
- ウォーターマーキング設計によっては，時間の経過とともに統計的な構造が露呈し，外部からの監視を可能にする可能性がある。
- 出所特定と監視の間に両用性の緊張が存在し，集約的な監視能力を考慮した評価が不可欠である。
過剰思考の誘発：大規模言語推論モデルに対する階層的遺伝的アルゴリズムに基づくDoS攻撃 [cs.DC, cs.CR, cs.AI]目的：大規模言語推論モデルにおける過剰思考を誘発し，サービス拒否攻撃の可能性を検証すること。
- 大規模言語推論モデルは多段階推論に利用されるが，その計算資源への依存性から新たな脆弱性が生じている。
- 不完全または矛盾した入力に対し，モデルが過剰な推論プロセスを実行し，遅延やエネルギー消費が増大する問題がある。
- 入力問題の論理構造を系統的に変更することで，モデルの過剰思考を誘発し，DoS攻撃の脆弱性を明らかにすること。
- 提案手法は，入力応答の長さを大幅に増幅させ，MATHベンチマークにおいて最大26.1倍の増加を達成した。
- 本手法は，単純な基盤や手動で作成された欠損前提条件と比較して，一貫して優れた性能を示した。
- 小規模なプロキシモデルで生成された敵対的入力は，大規模な商用言語モデルに対しても高い効果を維持することが示された。
分布と量子状態の効率的テストのための暗号的条件 [math.OC, cs.SY, eess.SY, quant-ph, cs.CC, cs.CR]目的：分布テストにおける同一性テストの効率化
- 分布テストは，機械学習や統計的推論において重要な役割を担う。
- 既存研究では，独立なサンプル生成を仮定しており，現実的な設定での検証が困難。
- 効率的なサンプリングが可能な分布に対する，多項式個のサンプルで検証可能にすること。
- 未知の分布が効率的にサンプリング可能である場合に，多項式個のサンプルで分布の検証が可能となった。
- 古典的および量子的にサンプリング可能な分布の検証の計算複雑性を特徴付けた。
- Kolmogorov複雑度を用いた新たな手法を確立し，量子状態の検証にも応用した。
ForesightFlow：予測市場における情報漏洩スコアフレームワーク [math.CO, cs.DM, q-fin.TR, cs.CR, q-fin.GN]目的：分散型予測市場における情報に基づいた取引の検出
- 予測市場は，集団知恵を活用し，将来イベントの予測精度を高める上で重要である。
- 予測市場において，内部情報に基づいた取引が公正性を損ない，市場の信頼性を低下させる可能性がある。
- 情報漏洩の程度を定量化し，内部者取引を検出するための枠組みを構築すること。
- ForesightFlowフレームワークは，イベント解決型二項市場における情報漏洩スコアを算出する。
- 公開ニュースイベント前に，終端情報が価格に反映された割合を定量化することで，情報漏洩の検出を試みる。
- 実証的な評価から，公開イベントタイムスタンプの質がスコアに影響を与え，内部者取引の記録は当初のスコープ外であることが示された。
- 1
- 2