ハクソク

世界を動かす技術を、日本語で。

ダリオ・アモデイ、OpenAIの軍事契約に関するメッセージを「完全な嘘」と呼ぶ

49日前原文(techcrunch.com)

概要

  • AnthropicのCEO、Dario AmodeiがOpenAIのSam Altmanを批判
  • **DoD（米国防総省）**とのAI契約を巡り対立
  • Anthropicは悪用防止を重視、OpenAIは「安全対策」を強調
  • 世論やユーザーはAnthropic支持の傾向
  • OpenAIの契約後、ChatGPTアンインストール数急増

AnthropicとOpenAIのAI軍事契約を巡る対立

  • Anthropic共同創業者兼CEOのDario AmodeiによるOpenAI批判

    • 社内メモでOpenAIのDoD対応を「safety theater（見せかけの安全対策）」と表現
    • 「OpenAIは社員の懐柔を重視、AnthropicはAI悪用防止を重視」と主張

  • **DoD（米国防総省）**との契約交渉の経緯

    • Anthropicは既に2億ドル契約をDoDと締結済み
    • DoDが「AIをあらゆる合法目的で使用可能」にすることを要求
    • Anthropicは「国内大規模監視や自律兵器への利用禁止」を明確に要求
    • DoDはAnthropicと合意できず、OpenAIと契約

  • OpenAIの対応と主張

    • OpenAIは「全ての合法的用途」でAI利用を許可
    • ブログで「大規模監視は違法であり、契約で明示的に禁止」と説明
    • Amodeiは「Altmanは平和主義者を装っているが虚偽」と非難

  • 法解釈と将来的リスク

    • 法律は変更される可能性
    • 現時点で違法でも、将来合法化されるリスクを指摘する批判の声

  • 世論の動向とユーザーの反応

    • OpenAIのDoD契約後、ChatGPTのアンインストール率が295%増加
    • Amodeiは「世論やメディアはAnthropicを支持、OpenAIの契約を疑問視」とコメント
    • 「Twitter上の一部の反応は気にしないが、OpenAI社員への影響を懸念」

Amanda Silberlingのプロフィール

  • TechCrunchのシニアライター、技術と文化の交差点を担当
  • Polygon、MTV、NPR、Business Insider等にも寄稿歴
  • ポッドキャスト「Wow If True」共同ホスト
  • University of Pennsylvania英文学学士、Princeton in Asia Fellow（ラオス）
  • 連絡先: amanda@techcrunch.com または Signal: @amanda.100

まとめ

  • AI軍事利用を巡る倫理観と安全性の違いが浮き彫り
  • Anthropicは厳格な悪用防止策を主張、OpenAIは柔軟な契約対応
  • 世論はAnthropic支持の傾向、今後のAIと軍事の関係性に注目

Hackerたちの意見

自律型武器は置いといて、Anthropicが監視会社のPalantirと契約した理由をどう説明するの？ それで今、国防総省の監視について懸念を示してるのは矛盾してると思うんだけど。
└
それが合致するかもしれないね。赤線は国内監視だったし。彼らがどんな取引をしたかは分からないけど、Anthropicに好意的に考えるなら、Palantirが「取引成立、国内では君たちのツールを使わないよ」って言った可能性もある。
└
彼らの発表された価値観と本当に一致するかどうかは別として、Palantirとの提携（ClaudeをAIプラットフォーム内で利用可能にすること）では、彼らは一貫した制限を求めてる。>「[我々は] 政府機関のミッションや法的権限に基づいて使用制限を調整する」とAnthropicは言ってる。具体的には「機関が継続的な対話にどれだけ意欲的か」などの要素に基づくんだって。彼らの条件は、「壊滅的な誤用のリスクを大幅に増加させる」と見なすAIシステムや、「低レベルの自律機能」を持つもの、または情報操作、武器の設計や配備、検閲、国内監視、悪意のあるサイバー作戦に使われるものには適用されないと記載されてる。出典: https://techcrunch.com/2024/11/07/anthropic-teams-up-with-pa...
└
ただのマーケティングだよね。
└
> 監視会社のPalantirと契約した ちょっと指摘したいんだけど、PalantirはFlockみたいに監視をしてるわけじゃないよ。政府の契約でIBMがやるようにデータ統合をしてるだけ。いくつかのデータパイプラインには法執行機関の監視データが含まれていて、それが他のソフトウェアやデータベースと統合されて、警察が分析するのを助けてるんだ。最近の見出しにもかかわらず、彼らが自分たちで収集している証拠はないよ。これは比較的小さいけど重要な違いだと思う。 https://www.wired.com/story/palantir-what-the-company-does/
└
AnthropicとOpenAIのやり取りは、かなり演劇的に感じるね。本当に虐待を止めようとしてるなら、わざわざ話す必要はないと思う。「世間は私たちをヒーローだと思ってる」っていうのは煙幕みたいだし、一言だけ声明を出して黙って、世間に考えさせるべきだと思う。
└
アンスロピックのリーダーたちの道徳的な姿勢は関係ないよ。だって彼らは会社を所有してないから。投資家たちは、地球上で最大の機関顧客を疎外して何十億ものROIを台無しにするのを黙って見てるわけがない。
└
みんな悪いよね。
└
パランティアとの契約にも似たような条件があるって思うのはなんで？変な仮定だね。
└
これはすごく簡単に説明できるよ。アンスロピックは利用規約にいくつかの制限を示してる。パランティアはその条件を受け入れたけど、国防総省（DoD）はそうじゃなかった。OpenAIは、DoDの利用規約がアンスロピックの提案したサービス契約と同じ制限を含んでいると主張してるけど、アンスロピックはそれが真実じゃないと言ってる。で、（a）DoDがアンスロピックとの契約を終了したこと、（b）アンスロピックが利用規約を修正することを拒否したから終了したと述べたこと、（c）その後OpenAIと契約を結んだことを考えると、アンスロピックとOpenAIが提供する利用規約には実際にかなりの違いがあると信じたくなるよね。
何を話すことがあるの？ OAIは政府からの助けを求めて、自分たちの立場を守ろうとしてるだけだよ。サムと経営陣は、状況が厳しいのを理解してて、助けが必要なんだ。
└
これだね。OpenAIのグリフトは、自分たちを失敗できないほど大きくすることだよ。彼らは選挙のサーカスの前にチキンゲームをしてる。トランプは11月まで市場を生かしておかなきゃならない。Nvidia、Micron、Oracle、Microsoftは、いつ弾けるか分からないけど、そのときには終わりだね。
いいね、DeepSeekはほとんどの利用に対して無料だし、アメリカ軍を助けることはないだろうね。君たちが彼らにお金を払ってないなら、彼らが将来的にやるかもしれない悪いことを支持してるわけじゃないから。
アンスロピックには良いことだね。今のAIでもかなり怖い監視能力があるから。
サム・アルトマンが嘘をつく？まさか！
@samaが数時間以内にOAIがアンスロピックを「同じ条件」で置き換えるって発表したとき、DoWかOAI（もしくは両方）がごまかしてるのは明らかだった。DoWはアンスロピックの条件に難色を示したから、OAIの契約は「条件」をほぼ実行不可能にしたはず。実際、私が読んだ限りでは、OAIの条件は「DoWが自分で設定したルールに違反しないこと」って印象だった。
└
> DoWかOAI（またはその両方）がごまかしているのは明らかだった。これが私の最初の考えでもある。あまりにも明白すぎる。発表の前にChatGPTに相談すべきだったね。
└
> OAIの条件は基本的に「DoWは自分が設定したルールに違反することはしない」ってことだったと思う。この理解は正しいと思う。最近、多くの人がDept. of Warやトランプ政権に抱いている問題は、法律に対する敬意があまりないことだよね。彼らは自分たちが好きな法律だけを守って、不都合なものは公然と無視する。もし彼らが誠実な仲介者なら、Anthropicが示した2つの条件に同意するのに何の問題もないはず。でも、ほとんどの人が彼らがそうじゃないことを知っていると思う。彼らを不誠実な仲介者と呼ぶのは、かなり優しい表現だね。
└
ダリオの物語がどう終わるかは分かってるよね。オッペンハイマー、チューリング、ラヴォワジエ、ガリレオ、ソクラテスなどを見れば。権力は知識や富を持つ人の手にはない。ほとんどの技術者は政治哲学の授業や哲学の授業を受けたことがないしね。ギュゲスの指輪の話は4000年前のものだよ。
└
OpenAIが「すべての合法的な使用」というフレーズの裏に隠れて、高いレベルの保護を主張してると思う。彼は、DoDが使うモデルにルールを組み込んで、悪用を防ぐとも言ってた。つまり、OpenAIはすぐにアラインメントを解決して、それを組み込むってこと...。息を止めて待つつもりはないけど。
彼はこれが漏れることを知っているはずで、すごく悪い印象を与えるよね。これは意味のある、避けられないミスになるだろうね。
└
誰、アモデイ？これで彼は逆にすごく良く見えるよね。
└
....なんでこれが彼を悪く見せるの？みんなが知ってる明らかなことを指摘しただけじゃん？
@pgが@samaに言ったこと: 「彼を人食い人種がいる島にパラシュートで降ろして、5年後に戻ってきたら、彼が王になってるだろう。」振り返ってみると、この言葉は彼の野望のスケールや、権力を得るために現実を曲げたり嘘をついたりする意欲を考えると、かなり不吉に感じるね。一方でダリオは、この時代には特に珍しい誠実さを持っているように見える。彼が体制に対して強くあり続けることを願ってるよ。
└
振り返ってみて？
└
騙されないで。ダリオの「いや、僕なんて」っていう態度や「でも、でも、でも」ってのは、表面上の見た目とは全然違うから。
└
pgのサムへの称賛には驚かされる。彼が話してるのは別のサム・アルトマンのことなのかな？ > グレアムはアルトマンにすぐに感銘を受けたと言っていて、19歳の時にビル・ゲイツと話した時のような感覚だったと振り返ってる。彼は初期のやり取りからアルトマンの強い「意志の力」を感じ取ったそうだ。彼の公のインタビューにはゲイツのような「存在感」や「意志の力」が見られるのかな？
└
非アメリカ市民に対する大規模監視が誠実さを持ってるってこと？
└
自分はHNの読者よりちょっとアイコノクラストだと思うけど、このコミュニティがYCのトップだった時の彼に夢中になってたのを見て、正直言ってそれは全然価値がないって印象を受けた。彼のことをあまり知らないのにね。無思慮な称賛にはすぐに疑いを持っちゃうから。誰もそんな称賛を受けるべきじゃないと思う。あの引用を読んでもポジティブな解釈は見当たらないし、いつもネガティブな描写だった。もう少し自然な階層への懐疑心が必要なんじゃないかな、このコミュニティには。
ダリオのメモ全文 - https://pasteboard.co/4Qlmsorrytlk.jpg
└
リンクを貼ってくれてありがとう。面白い内容だね、特に最後の部分が：“この試みたスピンやガスライティングは、一般の人やメディアにはあまり効果がないと思う。みんなOpenAIのDoWとの取引を怪しいと見てるし、私たちをヒーローだと思ってる...。Twitterの馬鹿には効果があるみたいだけど、それはどうでもいい。私が一番心配してるのは、OpenAIの社員に対してこの話が通じないようにすること。選択効果のせいで、彼らはちょっと騙されやすいけど、サムが社員に広めてるこれらの物語には反発することが重要だと思う。”
ダリオやAnthropicを不当に持ち上げるのはやめよう。「サムやOpenAIほど悪くはない」ってのは、あまり褒め言葉にはならないし、なるべきじゃない。