ハクソク

世界を動かす技術を、日本語で。

メタとTikTokは有害なコンテンツを放置し、エンゲージメントを高めていると内部告発者が語る

45日前原文(www.bbc.com)

概要

  • TikTokの急成長により、主要SNS企業がアルゴリズム競争を激化
  • 利用者のエンゲージメント向上のため、有害コンテンツの表示が容認される傾向
  • 社内告発者が安全性軽視や政治家優遇の実態を証言
  • MetaやTikTokでの子ども・若者へのリスクや対策の不十分さが明らかに
  • 企業は公には安全対策を強調するが、現場の実態は大きく異なる

SNSアルゴリズム競争と安全性軽視

  • TikTokの爆発的成長により、Meta（Facebook・Instagram）や他のSNS企業がアルゴリズムの改良競争を加速
  • 社内告発者によると、Metaの上層部は「株価下落」を理由に、ボーダーライン上の有害コンテンツ（ミソジニー、陰謀論等）の表示を容認
  • TikTokでは、政治家関連の苦情が子どもに関する深刻な有害投稿よりも優先されるケースが発覚
  • 政治家や政府との「良好な関係維持」を優先し、規制や禁止措置回避を重視する企業姿勢

アルゴリズムの危険性と現場の証言

  • Metaの元研究者Matt Motylによると、Instagram Reelsは十分な安全対策なしにリリース
  • Reelsのコメント欄では、いじめ・ヘイトスピーチ・暴力的発言など有害コメントの発生率がInstagram本体より大幅に高い傾向
  • 安全対策チームの人員増強要望は却下され、リール推進には700人規模の人員が投入
  • Facebook内部調査で「利益最大化のためにユーザーの幸福を犠牲にしている」との認識

TikTok内部の実態と告発

  • TikTokの信頼・安全チームの内部ダッシュボードにBBCがアクセス、子ども関連の有害投稿が低優先度に分類されている事例を確認
  • 一部の投稿（テロ組織への勧誘、犯罪助長等）が最優先で扱われていない実態
  • 社内で懸念を上層部に伝えても、現場の実態に触れていないため問題視されず
  • 告発者からは「子どもをTikTokから遠ざけるべき」との強い警告

アルゴリズムのブラックボックス性と技術的限界

  • TikTok元エンジニアRuofan Dingによると、ディープラーニングアルゴリズム自体の動作制御は困難
  • エンジニアは投稿内容の中身よりIDでしか認識しておらず、実際の有害性確認は安全チーム任せ
  • アルゴリズム改良の度に「ボーダーライン」コンテンツが増加する傾向

若者への影響と社会的懸念

  • ティーンエイジャーの証言で「暴力的・ヘイト的な投稿」が推奨され続ける現状
  • アルゴリズムによる「過激化」やラディカリゼーションの被害事例
  • 英国の対テロ警察専門家によると、SNS上での反ユダヤ主義・人種差別・暴力的投稿の「常態化」が進行

企業の公式見解と現実のギャップ

  • Meta・TikTokともに「有害コンテンツを意図的に拡散していない」「安全対策に投資している」と公式声明
  • TikTokは「政治家関連の優先は事実でない」「青少年保護機能を多数搭載」と主張
  • 実際にはAI導入や人員削減の影響で、現場の安全対策能力が低下

SNS企業の競争と倫理的課題

  • Instagram Reels導入時、Metaは「安全よりもスピード重視」の姿勢
  • 有害コンテンツの方がエンゲージメントを生みやすく、リール担当チームは安全対策導入に消極的
  • Crowdtangle創設者Brandon Silvermanによると、CEO Mark Zuckerbergは競合への危機感から「際限ない投資」を実施
  • 安全チームの人員増強は後回しにされ、事業拡大が優先される企業文化

まとめ：SNSと社会の今後

  • SNS企業はユーザー獲得競争の中で、安全性や倫理よりも成長・利益を優先する傾向
  • アルゴリズムのブラックボックス化と現場のリソース不足が、有害コンテンツ拡散の温床
  • 若年層や社会全体への悪影響が深刻化する中、企業の説明責任と規制強化の必要性が高まる

Hackerたちの意見

これってここ5年くらいの一般常識だと思うけど、実際の問題は「どう対処するか」だよね。個人的には、オンラインで怒ってる時間を無駄にしないように頑張ってるけど、これは自分一人ではどうにもならない社会の問題だよね…
└
「薬をあまり良くないものにする」ってのは多分解決策じゃないし、禁止するのもそう。ジェネレーションZがミレニアル世代よりもお酒を飲まなくなった理由は何だろう？もしかしたら、ジェネレーションZがその答えを持ってるかも。
└
お酒を飲むのをどうやってやめさせるかって聞いてるようなもんだよ。健康への影響を認めない人がいる限り、存在し続けるよね。もしそれがあなたの人口の大多数なら、あなたがそれが悪いと思っているグループにいる場合、根本的な人口問題があるってことだよ。つまり、あらゆる問題における少数派と多数派の分裂だね。だから答えは、科学に基づいた社会に住むこと。残念ながら、そんな社会は存在しないけど。
└
規制するべきだよ。法律とか、罰則とか。
└
>「どうしたらいいの？」何もしないよ。違法じゃないなら、違法じゃない。過去の神経質な世代は、今では何とも思わないようなことに反対してたけど、最後にサタニックな音楽や暴力的なゲーム、ハードコアポルノに反対するキャンペーンを見たのはいつ？
└
「どうしたらいいの？」行動を規制で抑えるか、企業を潰すかだね。MetaやTikTokは、社会にとってマイナスなら存在する権利なんてないよ。
└
世界中で（アメリカだけじゃなくて）何とかしようと選ばれた人たちが、同じプラットフォームでゴミを投稿してドーパミンを得ることに夢中になってる。ほんとにひどい時代だよ。
└
オンライン広告に税金をかけて、厳しく規制すべきだね。問題の根本は、エンゲージメントを高めるのが非常に儲かることにある。お金のインセンティブを取り除かない限り、問題は決して解決しないよ。
これは避けられないのかな？だって、クリックやビュー、ユーザーのエンゲージメントを生むわけだし、もし一つのプラットフォームがやってるなら、他もやらざるを得ないってことじゃない？そうしないと市場シェアをどんどん失っていくし。
└
自分のフィードをキュレーションして、そういうコンテンツを避ける責任は今やユーザーにあると思う。プラットフォームに頼ることはできないよね。
└
> だって、クリックやビュー、ユーザーのエンゲージメントを生むわけだし、もし一つのプラットフォームがやってるなら、他もやらざるを得ないってことじゃない？そうしないと市場シェアをどんどん失っていくし。なんで？ユーザーのエンゲージメントと市場シェアは同じじゃないよ。マクドナルドが注文を取るときに店員にあなたを侮辱させるように訓練したら、エンゲージメントは上がるけど、市場シェアは下がるよ。
驚いてるとは言えないし、ほとんどの人も驚かないと思う。でも、証拠があるのはいつも良いことだよね。
もちろん、彼らはやるよ。法律で許されていて、利益を得られる限り、続けるだろうね。
ダブってる？ https://news.ycombinator.com/item?id=47403929
FacebookやTikTok、Xを使ってる人を見ると、喫煙者やアルコール依存症者を見るのと同じ気持ちになる。悲しみと哀れみを感じるよ。子供たちがこれを使うのを許しているのは受け入れがたい。ハッカーやエンジニア、特に優秀な人たちがこれに関わっているのは本当に残念だ。恥を知れ。
└
カニのバケツの比喩は本当に的を射てるね。知性に関係なく、人間は仲間を引きずり下ろす傾向がある。子供たちが幼少期から実質的に薬漬けにされているのは狂ってる。このことを、限界まで追い詰められた無知な社会のせいにするつもりはない。デジタルドラッグを提供して、社会の中毒を加速させた社会病質者や卑怯者を責めるよ。恥は彼らに全てかかっている。サディスティックな高給取りのソフトウェアエンジニアや悪意のあるマネージャーが、こういう「エンジニアリング」の報いを受けるように、輪廻転生があることを願うよ。
このモラルハザードのフィードバックループは遅いけど、止められないんだよね。時代の精神をゴミ捨て場みたいに扱えるのも限界があって、でかくなりすぎると、もはや理想的な無限の物質みたいには扱えなくなる。
もっといいコンテンツが欲しいなら、kagiの小さなウェブを探してみるか、もっといいアルゴリズムを見つけて、自分の好みに最適化されたものを使った方がいいよ。俺はインスタとXを、偽のプロフィールを使ったロックダウンブラウザのコンテナで運用してるんだ。LLMが特定のユーザーの投稿を見つけて、毎晩地元の重要な情報（またはお前が気にすること）をまとめてくれるから、FOMOに駆られるようなTikTokやインスタ、Xのゴミみたいな場所には近づかずに済む。これが俺が作った中で一番のLLMの投資対効果だね。
BBCには有害なコンテンツがたくさんあるけど、それが政府からお金をもらってる理由なんだよね。
「Meta」と「Facebook」を聞くと、真っ先に思い浮かぶのは以下の10個だね。1.「監視」 2.「広告」 3.「詐欺」 4.「AIのゴミ」 5.「操作された体験」 6.「子供への害」 7.「誤情報キャンペーン」 8.「偽情報キャンペーン」 9.「ドゥームスクロール後悔」 10.「ザッカーバーグ愛好症」 でも、俺は「正しい」意見を持ってるとは思ってないし、他の人がこのブランドにどう反応するのか興味があるんだ。みんながそれぞれの体験に基づいて、その連想を順番に再リストしてくれたら、結果をまとめて、思いつく限りの場所に投稿するよ。俺の好奇心や、ネットで読んだことを繰り返すのが好きな記者たちの好奇心を満たすのに役立つと思うんだ。