概要
- 本論文は、 モデルの隠れた危険能力の検出限界 について検討
- 暗号化されたニューラルネットワーク をホストモデル内に埋め込むバックドア攻撃を提案
- トリガー入力時のみ 暗号回路が復号・実行 される仕組み
- 既存の能力評価手法への 耐性と限界 を実証
- PyTorch実装・モデル公開 で今後の防御技術発展を支援
暗号化ニューラルネットワークによる隠蔽型バックドア攻撃
- 能力評価（capability evaluations） は、AIモデルの危険な挙動を事前に発見するための手法
- これら評価の前提は、 隠れた能力が何らかの方法で誘発できる という仮定
- 本研究は、 暗号技術を利用したバックドア によってこの仮定が成立しない状況を提示
- デジタルロッカー の概念を応用し、秘密のトリガー入力時のみ埋め込み回路を復号・実行
- 通常のモデル検査やパラメータ分析では 検出・解釈が困難 な構造
- これにより、 固定文字列の隠蔽から任意計算の隠蔽へ と技術を拡張
実装と評価
- PyTorch で実証モデルを構築
- 化学反応予測タスク を用い、CBRN（化学・生物・放射線・核）関連能力のプロキシとして評価
- 以下の手法による 能力誘発の試み に対し耐性を確認
- 微調整（fine-tuning）
- 重みノイズ付加（weight noising）
- 勾配ベースのトリガー探索（gradient-based trigger search）
- 潜在的敵対的訓練（latent adversarial training）
- 暗号理論的保証 と実験結果の両面から、従来の能力監査の限界を明示
今後の課題と貢献
- 本手法は モデルの安全性評価・監査の新たな課題 を提起
- 従来型の能力評価手法では検出不能なリスク の存在
- 公開モデルにより 防御手法の研究開発を促進
- AIの社会実装前の監査体制強化 の必要性
参考情報
- 論文ページ数 ：22ページ、図6点、表3点
- 学会採択 ：NeurIPS 2026
- arXiv番号 ：arXiv:2610.13928 [cs.LG]
- 著者 ：Andis Draguns
- 公開URL ：arXiv:2610.13928