ハクソク

世界を動かす技術を、日本語で。

パランティアの社員たちは、自分たちが悪者なのではないかと疑い始めている

5時間前原文(www.wired.com)

概要

  • Palantir社の従業員が、市民の自由や倫理観に疑問を抱く事態
  • DHSやICEとの契約が社内外で大きな論争を呼ぶ
  • 社内での意見表明や内部議論の抑制傾向
  • 経営陣と従業員の価値観の乖離が顕著に
  • AIや戦争利用への懸念と、企業文化の変質

Palantir社内における倫理と市民の自由への葛藤

  • Donald Trump政権2期目で、Palantir従業員が自社の市民の自由への姿勢に疑問を持つ状況
  • **DHS（国土安全保障省）やICE（移民税関執行局）**向けに、移民の特定・追跡・強制送還を支援するソフトウェア提供
  • 従業員・元従業員の間で、「ファシズムへの転落」といった強い表現が交わされる危機感
  • 創業当初は9.11テロ後の「安全と市民の自由の両立」を掲げていたが、近年は内向きの脅威や自己認識の危機に直面
  • CIA出資・Peter Thiel共同創業の経緯、軍事や民間向けにデータ分析基盤を提供する企業体質

社内対話と反発の高まり

  • 外部からの批判や家族・友人との葛藤にも耐えてきた従業員、だがトランプ政権下での契約拡大により内部で懸念が噴出
  • 経営陣は多様な意見と内部議論を尊重と主張するも、実際にはフィロソフィー的な逸らしや議論の抑制が進行
  • **Slackでの議論やAMA（なんでも質問会）**で、ICE契約や監査ログ、悪用リスクなどに関する厳しい質問が相次ぐ
  • 経営陣の対応として、Slackの会話ログを7日間で削除するなど、内部議論の可視性制限が導入
  • ICE契約の説明Wikiやフォーラムを設置するも、根本的な懸念解消には至らず

軍事利用・AI・経営陣の発言による動揺

  • イラン小学校空爆事件でPalantirのMavenシステムが利用された疑惑、従業員の精神的限界点に
  • AIによる社会構造変化への懸念や、Karp CEOの「AIは人文学系・民主党系有権者を弱体化させる」といった発言が社内で波紋
  • Karpの著書要約を含む社内マニフェストが公開され、徴兵制復活提案などが「ファシズム的」と批判される
  • 従業員は社外へのイメージ悪化や友人からの問い合わせに困惑、Slack上で不満の声が多数

企業文化の変質と内部批判の行方

  • 社内での独立思考や批判的議論の難化、従業員は「意図的な文化変化」と感じる傾向
  • Karp CEOは「従業員離反を招かない立場は本物ではない」と発言し、批判や離職を厭わない姿勢
  • 内部告発や報道への警戒感が社内で根強い一方、従業員の間では「自分たちが悪事を防ぐ側から加担する側になった」との自省も

まとめ

  • Palantir社内では、倫理観や市民の自由、軍事利用、AIの社会的影響を巡り深刻な葛藤が続く
  • 経営陣と現場従業員の価値観の乖離が拡大し、企業文化の根本的な転換点を迎えている状況

Hackerたちの意見

パランティアの社員は、自分たちが普通の会社の普通の社員じゃないってことを理解すべきだよ。彼らはアメリカの防衛請負業者で、アメリカの防衛会社にいるんだから。パランティアの顧客も、パランティアのサービスや製品を買うことで、アメリカの防衛会社と取引しているってことを理解すべきだね。これがポジティブかネガティブかは言わないけど、関係性を明確にすることで期待値を設定することになると思う。
└
そうだね、確かに。防衛契約は、政府の政策によって良くも悪くもなるから、時間とともに変わるよね。全てが同じなら、安全で成功した社会に住みたいなら、防衛に優秀な人たちが働くことが大事だよ。政府の政策や無駄な防衛支出に対して責任を持たせるのがポイントだね。
└
防衛請負業者で武器の設計に関わったことがあるんだけど（当時は外部弾道シミュレーションの専門家だった）、パランティアで働くことの倫理についてはちょっと不安を感じるな。
└
今は「戦争会社」って呼ばれてるみたいだね。
└
> 彼らはアメリカの防衛会社の防衛請負業者だよね。「防衛」って言葉を使うのはやめた方がいい。彼らは戦争会社の戦争請負業者なんだから。国防省は実質的には戦争省だよ。名前を変えた後、すぐに他の国に対して軍事行動を始めたし。イランでの戦争も、誰も説明できない理由で起こってるけど、「国を守る」こととは全く関係ないよね。
└
あなたの説明は正しいけど、アメリカの戦争省が実際に何十万人も殺していることを考えると、その省のネガティブさについて疑問の余地はないよね。
└
これはアメリカの国内監視作戦で、防衛請負業者として偽装されてる。でも、実際には全然偽装されてないよ。この会社はトールキンのパランティーリにちなんで名付けられてるから、隠す気もない。これは、守られるべきでない抜け穴を利用するためだけに存在する会社で、実質的に第四修正を排除してるんだ。
└
ボーイングはアメリカの防衛請負業者だけど、ボーイングの社員の中には倫理を重視する人もたくさんいるよ。自分が何らかの形で公平で中立だと思ってるかもしれないけど、実際にそうなら、パランティアで良いことをしてる部分を教えてほしい。
└
> パランティアは、CIAからの初期のベンチャーキャピタル投資で設立された。これは最初から明らかだった。なんで人々が「疑問を持ち始めている」のか理解できない。私もそうは思わない。
ミサイル製造会社の社員が、自分たちのミサイルが本来の目的で使われたことに不満を持つのと似てるね。
変だな。2017年にパランティアのオフィスの近くで働いてたけど、そこで働くのは「道徳的に挑戦的」だなって思った記憶があるよ。9年経って、やっとそれが明らかになってきたの？
└
2018年にリクルーターがそこでの面接を勧めてきたんだけど、評判について聞いたら急に冷たくなったんだよね。
└
15年くらい前にパランティアのリクルーターから連絡が来たことがあったんだけど、名前が気になったし、政府との契約もあって、週に一晩オフィスに泊まることが奨励されてるって聞いて、ちょっと引いちゃったな。
└
こいつらにはメディアリテラシーも感情知能もないって感じだよね。もしあったら、ティールやカープの名付けた会社で働くことはなかったはず。おそらく、ロコのバジリスクで寝不足になった人たちと同じ層だと思う。賢いけど、頭は良くない。 https://en.wikipedia.org/wiki/Pascal%27s_wager
└
約15年前、パランティアのソフトウェアを使ってた会社で働いてたとき、私の経験ではパランティアの社員の平均年齢は20代前半だった。ほとんどの人にとって初めての仕事だったと思う。若い人たちを自分の思い通りに動かす方法を考えるのはそんなに難しくないよね。彼らが動機や仕事の道徳的な課題を疑問視しないようにするのは。
└
2013年頃にリクルートイベントへの参加オファーが郵送されてきたとき、そんな反応をしたよ。最近、アンドゥリルから「あなたは私たちのレーダーに載っています」ってメールが来たときほど不気味ではなかったけど。
この業界の全員には、サラ・ウィン・ウィリアムズの『Careless People』を読むことを義務付けるべきだと思う。これはMeta/Facebookがどれだけ悪い会社かって話じゃなくて、人々が自分たちが「いい人」だと心の中で納得するためにどれだけのことをするかが見えるから。彼女は本の中で、自分が世界を良くしているって何度も自分に言い聞かせてるし、Facebookの中には実際に倫理的でポジティブな会社があって、それを知らしめるために政治をうまく乗り越えなきゃいけなかったって言ってるけど、全然逆の証拠があるのにね。
└
特に左派の人たちが一貫して見落としている重要なことがある。それは、地域のインセンティブ、出現する企業の行動、そして「自分が正しい」と信じたい無意識の欲求が、「Xは実際に悪い」というよりもはるかに説明力があるってこと。
└
「倫理的」な会社なんて存在しないよ。彼らは合法的に解釈できる手段でお金を稼ぐ方向に進むだけ。時には違法なこともするけど、それはその行動から得られる利益と、罰金として支払う額を天秤にかけた計算された決断なんだ。倫理や法律は、俺たちみたいなチャンプにとってのもの。だって、国家に挑戦するための財政的・法的な力がないからね。
└
私の経験では、人は「普通」なことは何でも正当化できるんだよね。私はソーセージの作り方を知ってからビーガンになったんだけど、無邪気に「工場式農業はひどいけど、ベーコンが大好き」って言う人が多くて、本当に怖い。普通すぎると、人は何かが悪いって言いながらも、平気でそれをやっちゃうみたい。自分の人生を見直すきっかけになったし、同じことをしてる自分に気づいて、テック業界を辞める決断をしたんだ。
└
今この本を読んでるんだけど、同意するわ。社会の仕組みについて大きな決断を下している人たちの心理がわかる、素晴らしい読み物だよ。
└
ミッチェルとウェブのコントで十分だと思う。パランティアの場合、悪化する過程なんてなくて、PR資料だけで明らかだよね。
└
「現実歪曲フィールド」を信じている人に対して、理不尽な嫌悪感を抱いてる。ここ10年で、シリコンバレーには自己妄想タイプの人が多いって強く感じたよ。サラの本やパランティアの変な広告、CEO、そして狂ったニンビズムを見てね。アメリカのためには、権力の中心が西海岸の「テックブロ」から東海岸に戻るのが最善だと思う。シリコンバレーにはもううんざりだし。ちなみに、社会トレンドを生み出す人気のソーシャルアプリがシリコンバレーからではなく、中国から生まれたのは興味深いよね。シリコンバレーが社会トレンドを引っ張ることはないと思う（反人道的なタイプが多すぎる）。
└
彼らはそれを読んで、「うわ、どうして誰かがそんな罠にハマるんだろう？絶対に自分はそんなことしない！」って思うだろうね。
└
NPRでAI動画を作っている機械学習エンジニアにインタビューしていたところを忘れられない。エンジニアは技術がどれだけクールで、どれだけリアルに見えるかにしか集中していなかった。インタビュアーが「これが間違った人の手に渡って、恐喝のためのディープフェイクが作られることを心配してないの？」って聞いたら、エンジニアは数秒間黙ってから「そんなこと考えたこともなかった」と言った。彼女はこのモンスターを作り出したのに、技術的にどれだけ素晴らしいかしか考えてなかったんだ。
└
見たところ、いくつかの大企業に焦点を当てることが、一部の人の道徳感に逆効果をもたらすことがあるみたい。何人かの人が「少なくともFacebookがやっていることよりはマシ」と言って、倫理的でない会社での仕事を正当化しているのを聞いたことがある。業界で悪い行動が普通だと信じることを助長することで、意図した効果とは逆になることもある。ある幹部が「FacebookからGoogleまで、みんな顧客データを売っている」と言って、顧客データを売るプログラムの支持を集めようとしているのを聞いたことがある。他の人が「FacebookやGoogleは顧客データを売っていない」と説明しても、彼らは信じなかった。大企業が顧客データを集めて売ることについてたくさん読んでいたから、みんながやっていると思い込んで、それが大丈夫だと思っていたんだ。
└
最初の章は、今後の本との関係を築くのにすごく良かった。こんなことが頭に引っかかって、「彼女は本当に力を持ちたかったんだな、影響力を追い求めてたんだな」って思った。> 「サメの襲撃から生き延びた後、なんでこんなことが起きたんだろう？」もし運良く生き延びたなら、理由があるはずだよね？ [...] 弁護士になった後、世界を変える手段として外交官になりたくて、冒険を求めてた。国連に行ったのは、そこが世界の権力の中心だと本気で信じてたから。世界を変えたいときに行く場所だと思ってた。> 政治がFacebookで起こるのは明らかだったし、実際にそうなったとき、この巨大な新しい集まりの場に移行したら、Facebookとそれを運営する人たちがすべての中心になるだろうって思った。彼らがこのグローバルな会話のルールを設定することになる。私はその計り知れない可能性に驚いてた。> Facebookが集める情報の膨大さは前例がなかった。すべてに関するデータ。以前は完全にプライベートだったデータ。各国の市民に関するデータ。歴史的な量のデータで、すごく価値がある。情報は力だ。> 世界を変えるものを探し続けた数年の後、私は最大のものを見つけたと思った。まるで伝道者のように、Facebookの力が日常生活のあらゆる部分で確認できた。Facebookが何を決めるか—そこに集まる声に対して何をするか—が人間の出来事の流れを変えるだろうと確信してた。> これは革命だ。> 革命が来るのを見たら、どうする？私はそれに参加するために何でもすることに決めた。行動の中心にいたい。見てしまったら、傍観者にはなれない。私はそれに参加したくてたまらない。こんなに何かを欲しいと思ったことはない。
ここにいるパランティアの社員へ：そう、あなたたちは悪者だよ。 https://www.youtube.com/watch?v=ToKcmnrE5oY
> 「なぜこれを投稿する必要があったのか気になる。特に会社のアカウントで。実際的な観点から言うと、こういうことが投稿されるたびに、アメリカ以外でソフトウェアを売るのが難しくなる（今の政治的な気候では特に）。これがアメリカで必要だとは思えない？」と不満を持つ社員が書いた。このメッセージには50以上の「+1」絵文字がついた。 > 「認めようが認めまいが、これは私たち全員に影響を与える」と別の社員が月曜日に書いた。「すでに何人かの友達から『一体何を投稿したんだ？』って聞かれたよ。」このメッセージにはほぼ2ダースの「+1」絵文字反応があった。 > 「本の長いアイデアの短い要約は誤解を招きやすいってことがわかった。まるで自分たちの背中に『蹴ってください』のサインを貼ったみたいだ」と3人目の社員が書いた。「これを出すことに決めた人が、実際に蹴られていることに驚かないことを願ってる。」彼らが企業のSlackでの懸念を「会社のために」表現している可能性はあるけど、実際には何も疑問に思ってないみたい。ただ、これが明るみに出てきたことに不快感を抱いているだけだね。
└
なんか「NSAの瞬間」みたいだね。情報漏洩の後、近所の人や友達、普通の人たちにNSAのやってることがバレて、社員が辞めるっていう高プロファイルな話がいっぱい出てきたよね。
まだ聞いてない/読んでないなら、エズラ・クラインのアレックス・ボレス（元パランティア勤務）とのインタビューをおすすめするよ。2014年と今の違いについて話してるんだ。それに、ボレスに対抗するPACが現役のパランティア社員であるロンズデールに資金提供されてるのもすごいよね。彼に対する批判的な広告は、実際に彼がパランティアで働いてることを批判してるんだ。
https://archive.is/veTal
タイトルはスケッチを指してる可能性が高いね。https://en.wikipedia.org/wiki/Are_We_the_Baddies%3F https://www.youtube.com/watch?v=ToKcmnrE5oY ただ、意図的でない可能性もある。今やそのフレーズはメインストリームになってるし、独自に作るのも難しくないから。
そうだね、自由を可能にする革新が、同時にコントロールにも使われるってことだよね。何が新しいってわけでもないけど。