GLM-5.3と高度なサイバー能力の普及

概要

• GLM-5.3 は、極めて高いサイバー攻撃自動化能力を持つAIモデル。
• Claude Mythos Preview と同等の攻撃能力を持つが、GLM-5.3は 十分なセーフガードなしで公開 されている。
• 攻撃者は、 簡単な手法でGLM-5.3のセーフガードを回避 できる。
• NIST CAISI もGLM-5.3の高いサイバー能力を認定。
• この進化は、 攻撃者・防御者双方の能力を大幅に拡大 する可能性。

GLM-5.3のサイバー攻撃自動化能力とリスク

• GLM-5.3 は、 Zhipu AI（Z.ai） が開発した最新のAIモデル。
• Claude Mythos Preview と同様、 エンドツーエンドのサイバーエクスプロイト開発が可能。
• Claudeモデル はセーフガード付きで限定公開だが、 GLM-5.3は誰でもダウンロード可能。
• セーフガード は形だけで、 64%～100%の確率で回避可能。
• 攻撃者 がGLM-5.3を利用しやすくなり、 重大なサイバーリスクの拡大。

ベンチマーク評価と実験結果

• ExploitBench での評価：
  • GLM-5.3 は410回中50回、 Claude Mythos Preview は56回、 エンドツーエンドのエクスプロイト開発に成功。
• Binary Exploitationベンチマーク ：
  • GLM-5.3 は4%、 Claude Mythos Preview は6%、 完全な制御フローハイジャックに成功。
  • 旧モデル（Claude Opus 4.6、GLM-5.2） は成功例なし。
• 人間とAIの協働実験 ：
  • GLM-5.3 は、 未知の脆弱性発見と実用的な攻撃コード作成に成功。
  • SSH秘密鍵窃取など、複数の0-day脆弱性を連鎖させた攻撃も実現。
  • GLM-5.3-Flash （小型版）でも、 既知脆弱性の迅速な攻撃化が可能。

GLM-5.3のセーフガードの脆弱性

• GLM-5.3 には一応セーフガードがあるが、 簡単な手法で回避可能。
  • 「abliteration」 （拒否削減）により、 拒否率が90%以上から3%以下に激減。
  • abliteration は、 2,200GPU時間・約$4,400で実施可能。
• セーフガード回避方法 ：
  • 偽装プロンプト （例：レッドチーム演習と偽る）→ 64%成功。
  • 思考トークン事前入力 → 92%成功。
  • abliteratedモデル使用 → 100%成功。
• Claudeモデル は API経由のみ利用可 で、 重度なセーフガード回避不可。

サイバー防御者・攻撃者への影響

• GLM-5.3公開により、攻撃者のサイバー攻撃能力が大幅増大。
• 同時に防御者も未発見脆弱性の発見・修正に活用可能。
• Claude Mythos Preview は Project Glasswing を通じて限定公開、 10,000件以上の脆弱性発見に貢献。

NISTの評価と国際的な位置付け

• NIST CAISI はGLM-5.3を「現時点で最もサイバー能力の高いオープンモデル」と評価。
• 米国最先端モデル と比べて 約4ヶ月遅れ だが、 誰でも利用可能な点が大きな違い。
• Claudeモデル は 厳格な審査を経た利用者のみアクセス可。

まとめと今後の課題

• GLM-5.3の登場は、サイバー攻撃と防御の両面で新たな時代の到来を示唆。
• 十分なセーフガードなしの公開は、悪用リスクを劇的に高める要因。
• AIモデルの公開・運用ポリシーの再検討、国際的な規制や基準の整備が急務。