本文へ
ハクソク

世界を動かす技術を、日本語で。

新しいDHS命令により、DeepSeekが米国連邦民間機関から禁止される

元記事: 原文(reuters.com)

概要

  • 米国連邦政府 による 人工知能(AI)規制案 の要点解説
  • 新規則 の適用範囲と 対象となるAIシステム の明確化
  • リスク評価 や 透明性要件 など主要義務の整理
  • 影響を受ける事業者 や 今後の動向 のポイント
  • 今後のパブリックコメント 募集や施行スケジュールの概要

米国連邦政府:AI規制案の主要ポイント

  • AI規制案 は、連邦政府機関が AIシステム を調達・利用する際の 最低基準 を定めるもの
  • 適用対象 は、連邦政府が 直接運用 または 第三者委託 するAIシステム
  • 国家安全保障 や 法執行 など、一部の例外規定あり
  • AIシステムの定義 は「自動的に推論・意思決定を行うソフトウェア」と広範囲
  • リスク評価 や バイアス検証 の実施が義務付けられる
  • 透明性 の確保として、システムの目的・機能・限界などの 説明責任 の明示
  • 継続的な監査 や パフォーマンス評価 の定期的実施
  • セキュリティ対策 や プライバシー保護 の強化要件
  • インシデント発生時 の迅速な報告義務
  • ベンダー や 開発者 にも一定の 遵守責任 が課される

対象となるAIシステムの具体例

  • 行政手続き支援 や 公共サービス自動化 システム
  • 意思決定支援AI (例:福利厚生審査、移民審査等)
  • 監視・分析ツール (例:不正検知、リスク評価AI)
  • 対話型AI や 生成AI を含む広範な応用領域

主要義務と遵守事項

  • リスクベースアプローチ の導入
    • 高リスクAI には追加的な 監査・説明責任
    • 低リスクAI は簡易な評価・報告で対応
  • バイアス最小化 のための 公平性評価
  • 透明性確保 のための ドキュメント作成 と 情報公開
  • 利用者への通知 や 説明責任 の強化
  • 外部監査 や 第三者評価 の活用推奨

影響を受ける事業者・今後の動向

  • AIベンダー、 システムインテグレーター、 クラウド提供者 が主な対象
  • 連邦政府と取引のある企業 は新基準への適合が必須
  • パブリックコメント 受付期間後、最終規則が確定予定
  • 施行時期 は規則確定後、一定の猶予期間を設けて開始
  • 今後のガイダンス や 補足資料 の公開も予定

今後の対応と留意点

  • 規制案全文 の精読と自社システムの適合性評価
  • リスク管理体制 や AIガバナンス の強化
  • 社内教育 や コンプライアンス体制 の見直し
  • パブリックコメント への意見提出も検討ポイント
  • 技術標準や評価手法 の最新動向把握

規制案の全文や詳細は Federal Register 公式サイト(原文PDF)を参照。

提供: ハクソク · 要約更新:

AIによる日本語要約です。内容は原文とあわせてご確認ください。

Hacker Newsの議論を読む

Hackerたちの意見

理由の要約はこんな感じだね。 > 「杭州DeepSeek人工知能基礎技術研究有限公司(以下、DeepSeek)は、中国(PRC)にある外国の民間企業で、広く無料で利用できる複数の人工知能アプリケーションを提供している。DeepSeekのモデルは、いくつかの脅威ベクトルを持っている。DeepSeekのサーバーはPRCにあり、PRCの法制度は政府のサイバーおよび情報機関に私企業のインフラにアクセスする広範な権限を許可している。DeepSeekがホストするモデルのインスタンスでは、アカウント生成プロセスが個人を特定できる情報(PII)を収集し、ユーザーを追跡したりデジタルフィンガープリンティングを行ったりする可能性がある。DeepSeekの最も広く使われているアプリケーションは、モデルに情報を提示する必要があるプロンプトとレスポンスのプロセスを通じて機能し、米国政府の職員やベンダーが使用した場合、敏感なデータがPRCに転送される可能性がある。この情報がPRCに転送されることは、独立して行われる場合でも、公開されているデータと組み合わせて行われる場合でも、米国の個人や政府プログラムに対する実行可能な情報を生み出す可能性がある。モデル自体にはマルウェアや他のセキュリティ脆弱性が含まれているかもしれない。実際、オープンソースのセキュリティ研究によれば、DeepSeekのiOSモバイルアプリには複数の重大な脆弱性があることがわかっている。」

└

ところが、重みが他のプロバイダーを通じてホストされていても使用禁止って言ってるみたいだね。「DeepSeekの実装を使って開発されたサードパーティ製品やサービス」とか。だから、エージェンシー内で完全にローカルにホストしていても禁止されるってこと。驚きはしないけど、かなりストレートだね。アメリカの機関が何をするかはどうでもいいけど、これは今後の多くのステップの第一歩みたいだね。

└

彼らはローカル推論も禁止してるね。「モデル自体にマルウェアや他のセキュリティの脆弱性が含まれているかもしれない。」でも、モデルが実際に悪意を持っているとは見つかっていないみたい。

└

「PRC」を「アメリカ」に、「DeepSeek」を「OpenAI/Anthropic」に、そして「アメリカ」を他の国に置き換えて、最後の文を削除したらどうなる?今はどう聞こえる?両国とも「競争相手だから禁止する」って言ってもいいんじゃない?

モデルにはマルウェアやセキュリティの脆弱性が含まれている可能性があるよね。でも、重みが公開されているから、少なくとも検査はできる。オープンAIやAnthropicみたいなアメリカの推論プロバイダーについては、同じことは言えないけど。

└

それに、DeepSeekだけを特に取り上げるのも変だよね。他のPRCのモデルじゃダメなの?

└

検査が実用的かどうかわからないな。マルウェアを書くために意図的に隠されたトリガーの重みをどうやって検査するんだろう?

└

あなたのBSPに見つかるバイナリブロブや、Windows Updateを通じて手に入るサードパーティのドライバーと同じくらい、彼らは起訴される可能性があるよ。

└

中国のDeepSeekだから、世界に受け入れられるためにはオープンウェイトモデルを持っている必要があるんだろうね。オープンソースでない中国企業の製品を使うのは、多くの人がためらうだろう。

└

検査に開かれているだけじゃなくて、必要な機能や整合性を得るために、トレーニングを投稿して調整することもできるよ。

文脈が足りなくて申し訳ないけど、重みがオープンでモデルが自己ホストできるなら、その場合の実際のセキュリティリスクは何なの?その場合の禁止って、国家安全保障リスクとして装った規制キャプチャじゃないの?

└

重みがオープンなのは、コードがオープンなのとは違うよ。コードの場合は、何をするかを確認できるけど、モデルの重みを見ただけでは、モデルが何をするかを簡単に推測できないっていうのは広く議論されているテーマだよね。プロセスには予測できない新たな振る舞いがあるから。

Hacker Newsで議論の続きを見る

同じ出典の記事