ハクソク

世界を動かす技術を、日本語で。

メタ、スマートグラスユーザーの性交を目撃した従業員の解雇後に行動を起こす

4時間前原文(www.bbc.com)

概要

  • MetaがAI訓練の契約企業Samaとの契約を突然終了
  • Samaの従業員がMetaスマートグラスの性的・プライバシー侵害映像の閲覧を証言
  • 契約終了は基準未達とMetaは主張、Samaは否定
  • 労働者の告発が契約終了の真因との疑念
  • 各国規制当局もプライバシー問題で調査開始

MetaとSamaの契約終了を巡る論争

  • MetaはAI訓練業務を委託していたSamaとの契約を突然終了
  • Samaは1,108人の従業員が解雇対象になると発表
  • Metaは「基準を満たさなかった」と理由を説明、Samaはこれを強く否定
  • ケニアの労働者団体は、従業員の内部告発が契約終了の真因と主張
    • Metaはこの疑念に直接回答せず
    • BBCへの声明で「Samaが基準を満たさなかったため」と繰り返し説明

スマートグラスのプライバシー問題

  • スウェーデンの新聞がSama従業員による内部告発を報道
    • Metaのスマートグラスで撮影された裸や私生活の映像を閲覧する業務内容
  • Metaは「ユーザーの同意を得てAI改善目的で一部人間が映像を確認」と説明
  • 報道後、英国ICOやケニアのデータ保護委員会が調査を開始

SamaとMetaの過去の関係

  • Samaは米国本社のBコープで、元は非営利団体
  • 過去にもFacebook投稿のモデレーション契約で従業員の精神的被害が問題化
  • Samaはこの時も「後悔している」と発言

労働者と専門家の声

  • Africa Tech Workers MovementのNaftali Wambaloは「秘密保持基準」が真の理由と指摘
  • Metaは利用規約で「人間による確認の可能性」を明記していると説明
  • 弁護士のMercy Mutemiは「AI産業の基盤が脆弱」とケニア政府に警鐘

今後の課題

  • スマートグラスの普及とともにプライバシー侵害リスクが拡大
  • AI訓練データの倫理と労働者保護の両立が急務
  • 国際的な規制強化と透明性向上への期待

Hackerたちの意見

メタが、スマートグラスのコンテンツを分類するために契約していたアウトソーシング会社との契約をキャンセルしたんだって。社員がその会社でプライバシーに関する深刻な問題を告発したかららしい。
└
それ、正しいと思う。もしスマートグラスを使ってる人を知ってたら、絶対にその人を許容しない方がいいよ。話したり、関わったりしない方がいい。そもそも、その人の近くにいることすらおすすめしない。
└
まあ、そうだよね。クライアントの商品を悪く言うためにいきなりメディアに行くより、まず内部で問題を解決する手助けをするべきだと思う。そうしないと、クビになるのが普通だよね。メタを擁護するつもりは全然ないし、プライバシー問題に積極的に取り組むとは思ってないけど、アウトソーシング会社にもあまり同情はできないな。裏で何が起こったのかは分からないし、記事に書いてあることだけを見てる。こういうことを告発するなら、まず内部でどんな対策を取ったかを説明するべきだと思うけど、そういうのは見当たらなかった。追記：はっきり言うと、無知な人や情報を持たない人がメタのビデオレコーダーを買って、プライベートな生活を侵害されるのは良くないと思う。メディアがそのことを思い出させてくれるのはいいことだと思うし、情報源が何かを言ったのも良いことだと思うけど、彼らが受けた結果は避けられないように見える。でも、ここで新たに学べることは特にないし、状況を改善するために何ができるかも分からない。今のところ、プライバシーを気にするならメタのハードウェアは買わない方がいいと思う。法律で助けられることもあるかもしれないけど、具体的に何が法律に必要なのかは明確じゃない。何が効果的かも分からないし。人々がこれらの製品を買う理由の一部はデータ収集だと思うし、それが敏感な情報の録画につながることもある。これに関するルールはどうあるべきで、誰が決めるべきなのか、正直分からない。
└
> 彼らが分類するために支払われたコンテンツ ケニアの労働者団体は、メタの決定はスタッフが声を上げたことによるものだと主張している。メタは、サマが基準を満たさなかったからだと言っていて、サマはそれを否定している…
└
「面白い」ボーナス情報：サマ（アウトソーシング会社）がこういう問題を抱えたのはこれが初めてじゃないんだ。OpenAIがCSAMの分類を依頼したから、サマは2022年にクライアントを切ったんだよ。 https://time.com/6247678/openai-chatgpt-kenya-workers/ もう4年経って、あの報告から3年経ったけど、テック企業の運営方法が改善されたことは一つもないね。
└
マーク・ザッカーバーグとユーザーのプライバシーを軽視する姿勢。もっと象徴的なコンビを挙げてみて。
└
告発者の保護は、働く社会にとって重要だよ。独裁政権や寡頭制だけが犯罪者を守って、告発者を恥じるんだから。アウトソーシング会社がどの国にあろうと関係ない。犯罪がグローバルになるなら、告発者の保護もグローバルにしなきゃね。
どっちが悪いのか分からないな。メタが顧客のスマートグラスから動画を録画してることなのか、それについて話す人をクビにしてることなのか。
└
メタに関するすべて、名前からして最初から悪いことばかりだよね。
└
後者は、偶然だとか「バグだった」なんて言い訳もできないからね。
└
ちょっとだけ聞いていい？なんで裸でいる時やセックス中にインターネットカメラをつけてるの？ … それに、明らかにMetaに監視されることになるインターネット接続カメラをつける理由も気になる。
メタは契約が「メタの基準を満たさなかった」と言ってるけど、たぶんそれは本当だよ。メタの「基準」は、メタがやっている違法で不道徳なことを明らかにしないことだからね。どんな害があっても。そんな基準の会社には、私たちのビジネスを渡すべきじゃないかも。あ、待って、もしかしてフリードマンのドクトリンの基準のことを言ってるのかな？そうだとしたら、利益を上げるために何でもやっていいってことだね。どんな害があっても。
└
これは違法なのか、不道徳なのか？メタがこの素材をレビューするには、ユーザーの承認と同意が必要だよ。記事には、ユーザーがメガネを外した後に、妻をずっと録画し続けた例があった。それは悪いけど、ユーザーの責任であって、フェイスブックのせいじゃない。誰かが無断でヌードを撮って、それを印刷するためにラボに送るのと似てるね。ラボは「これは合法ですか？」とユーザーに聞いて、ユーザーが「はい」と答えたら、印刷すること自体は違法でも倫理的でもないよ。もし写真プリンターがヌードを印刷するのを止めさせたいなら、責任はユーザーにあると思う。
└
なんでMetaが人の動画を見てるんだろうね？プライバシー侵害してまで、わざわざ会社にお金払って動画を見せるなんて、ほんとに変だよ。
└
俺、以前Metaで働いてたんだけど、会社に対するイライラが募って辞めたんだ。Metaはたくさんのミスを犯して、被害を見過ごして、短絡的で自己中心的な選択をしてきた。Metaの選択のせいで、世の中がもっと良くなったはずのことが悪化してるんだよ。だから、彼らがユーザーのプライバシーを侵害するために内部システムを使う人に対して本当にゼロトレランスの方針を持ってるって言うのは、彼らを擁護したいからじゃない。ただの事実なんだ（少なくとも、俺がいた時はそうだった）。仕事をするために必要なものにアクセスできるようにするための内部システムがあって、他には絶対に何もできないようになってる。内部ツールを通じてやり取りするコンテンツはすべて監視されて記録される。仕事以外の目的でアクセスを使おうとしたら、すぐにセキュリティに連れ出される。これが新入社員には早い段階から徹底される。Metaが間違えることは多いけど、これに関しては本気で取り組んでるよ。
└
残念ながら、今の世界では、組織が多くの国のGDPよりも大きくなってしまって、彼らが責任を感じるのは株主に対してだけ。利益を最大化することが、彼らが通常気にしていることなんだ。
└
> 発表当時、Metaは外注の労働者が、ユーザーがMeta AIと共有した際にスマートグラスで撮影されたコンテンツをレビューすることがあると認めていた。彼らは「ベールを破った」ことで解雇された。プライバシー侵害に注目を集めた罪を犯したんだ。
> 「私たちはすべてを見ている - リビングルームから裸の体まで」と、ある労働者が言ったらしい。 > メタは、これは顧客体験を向上させるためのもので、他の会社でも一般的な慣行だと言ってる。これ、正しく読んでるの？これが20年間でインターネットで読んだ中で一番変な発言かも。
└
これが変だと思うの？人々はずっと小さな便利さのためにプライバシーを手放してきたんだよ。
└
> メタは、これは顧客体験を向上させるためのもので、他の企業でも一般的な慣行だと言ってた。 > これって正しく読んでるの？これは、20年間インターネットで見た中で一番変な発言かもしれない。完全にファンタジーだよ。大手テックで働いてたけど、会社や契約者が非公開の親密な写真や人の家の内部の写真を「顧客体験を向上させるために」アップロードしてアクセスを提供するなんて、どこでもプライバシーやデータ保護のレビューを通過することはないよ。メタは自分たちが言ってることをちゃんと読んでるの？
└
以前、小型の床掃除ロボット（Ecovacs Deebot U2 pro）のマニュアルを読んだことがあって、基本的にそれを使うことで、写真を撮ってリモートサーバーに送る権利を与えるって書いてあったよ（問題を分析するためとかそんな感じで）。
└
メタは防衛請負業者なんだ。彼らは他の人たちとは少し違った視点で世界を見ているよ。
ビッグテックと倫理の底辺を目指す競争。まだまだ下に行けるぜ！
眼鏡からの映像がどんな状況でアップロードされるのか気になるな。多分、人々が眼鏡に見たことについて質問して、その映像を分類のためにアップロードして答えを得るって感じなんだろうね。みんな「ただのAI」だと思ってるから、プライバシーについてあまり心配してないのかも。
スマートグラスの商業的なニッチの一つはPOVポルノの撮影だから、そういうコンテンツがモデレーションキューに入るのは驚くことじゃないよね。このプロジェクトはその用途を考慮して計画すべきだった。
└
メタがその利用ケースが存在することを認めるのがどれだけ気まずいかは理解できるよ。オキュラスゴーの時代でも、「私たちのデバイスには、みんながポルノを見るためにブラウザを搭載しなきゃいけない」って言わないように、社内ではいろんな丁寧な言い回しがあったからね。
└
そもそも「モデレーションキュー」って何？これって人のプライベートな録画じゃないの？
スマートグラス（や他の「個人」テクノロジー）に関する厄介なプライバシーとセキュリティの問題は、思慮深く、勤勉で、反応の良い会社によってうまく対処できると思う。だから、メタの個人用デバイスには絶対手を出さないよ。彼らのDNAは、ユーザーを利益のために搾取するように書かれてるからね。私の判断では、彼らはその問題を、搾取の深さを人々に気づかれないように隠すべきものとしか考えられないし、考えることもないと思う。
メタは、他の企業と同じように、下請け業者が悪い報道をするのを望んでないと思う。だから、メタが自分たちにとってマイナスな契約を更新しなかったりキャンセルしたりするのは驚きじゃないよ。契約の条件上、理由は必要ないから、理由を議論するのは無駄だと思う（下請けが契約違反について言及しなかったから、そう推測してる）。
MetaはSamaとの契約を終了した。この規模だと、これは内部ジョークみたいな契約で、株式オプションを利用して、アドホックなニューストレーディングボットがキーワードでグリッチする可能性を利用してちょっとした儲けを出そうとしただけのように聞こえる。