ハクソク

世界を動かす技術を、日本語で。

デッドインターネット理論

91日前原文(kudmitry.com)

概要

  • HackerNewsでの体験を通じて、AI生成コンテンツの増加を実感
  • オープンソースプロジェクトやコメント欄でAI利用疑惑が頻発
  • インターネット上の「人間らしさ」や信頼性への疑問
  • Dead Internet Theoryの現実味とAIによる情報の氾濫
  • テクノロジーの未来や人間同士の交流の価値への懸念

HackerNewsでのAI生成疑惑体験

  • HackerNewsは技術系ニュースや議論の場として利用、他のSNSとは一線を画す存在
  • オープンソースプロジェクトの投稿に対し、AI生成疑惑がコメント欄で噴出
  • コミット履歴やコードのコメントからAI利用を疑われるケース
  • 投稿者は「AI未使用」と主張し続けるも、疑念は払拭されず
  • コメント表現（emダッシュや定型句）からもAI生成を疑う声
  • AI利用の透明性や開示の必要性を感じる現状

インターネットの「死」とAIコンテンツの氾濫

  • Dead Internet Theory：2016年頃からインターネットの大半がボットやAI生成コンテンツで占められているという説
  • 過去はIRCやphpBBなどでリアルな人間同士の交流が主流
  • 現在はコメントやコード、画像までAI生成が疑われ、現実感が希薄化
  • LinkedInの「オフィス写真」やSNS投稿もAI生成の痕跡（不自然な文字や手など）
  • Facebook、Xitter、TikTokなどでのAIデマや偽情報の蔓延

テクノロジーと人間らしさの未来への懸念

  • AI技術の普及で、コメントやコード、画像など大量のAIコンテンツが生成可能に
  • 人間が直接書いたかどうかが分かりにくくなり、信頼性が低下
  • かつてのような知識共有やコミュニティ形成の価値が薄れる危機感
  • テクノロジーが本当に人間のためになるのか、もしくはボット同士の会話が主流になる未来への不安
  • 人間の知識や経験が「10ステップで解決」などのAI生成コンテンツに再パッケージ化される現象

まとめ

  • AI生成コンテンツの急増により、インターネットの信頼性や人間同士の交流が大きく揺らいでいる現状
  • オープンソースやSNSでの透明性と信頼構築の重要性
  • テクノロジーの進化と人間らしさのバランスを問う時代

Hackerたちの意見

>「ソーシャルネットワークではないけど、これについてオンラインで人と議論するのに疲れた。これはちょっとした親のコメントだったけど、100%同意するよ。『ソーシャルメディア』の意味が『現実で知っている人と交流するためのインターネットベースのメディア』から、redditみたいなオンラインフォーラムの総称に変わったのはいつからなんだろう。でも、この意味の変化の結果として、前者の形態はほぼ消え去ってしまったってことに目を向けるべきだと思う。」
└
ソーシャルネットワークはみんな公共メディアとアルゴリズムを追加してるよね。友達が十分なコンテンツを生み出さないから、公共フィードを追加したって説明を読んだ。プライベートなBlueskyやMastodonがないのは残念だな。フォローしている人が最後にチェックしてから投稿したベストなものを見せてくれるアルゴリズムも欲しい。そうすれば、ついていけるのに。
└
>「前者の形態はほぼ消え去ってしまった。」Discordはこの形態のソーシャルメディアの9000ポンドのゴリラで、実際にはインターネット上で最大のソーシャルプラットフォームの一つなんだよね。こういうスペースに対する需要は明らかで、Discordがそれを満たしているみたい。大企業に管理されているのは残念だけど、コミュニティがデフォルトで招待制で、実際の人間によって主にモデレートされているのはいいところだよね。共有の公共のソーシャルスペースがないから、ハマるような共有のフィードもないし。私の元IRC/フォーラム仲間はほとんど全員がDiscordに移行していて、サイトがダメになった時（いつかはそうなるだろうし、みんなこの話の結末は知ってる）、私たちはMatrixのような、非常に似た代替手段を使うことになると思ってる。
└
それよりひどいのは、TikTokやInstagramが「ソーシャルメディア」って呼ばれてること。たぶん、ほとんどのユーザーはもう何も投稿してないと思う。短い動画プラットフォームで誰も社交的になってないし、YouTubeと同じくらい。結局、ただのメディアだよね。フォーラムは一応社交的だけど。
└
>「リアルで知ってる人と交流するためのインターネットベースのメディア」って、「ソーシャルメディア」は本来そういう意味じゃなかったよね。もう忘れちゃったけど、元々の用語は「ソーシャルネットワーク」で、その頃のサイトはみんながそれぞれオリジナルのコンテンツを提供してた。そしたら、それが自動的に友達のネットワークにシェアされる仕組みだった。テキストメッセージを送るような感じで、連絡先リストに自動的に配信される感じ。で、Facebookとかが「リシェア」にシフトしてからは、「友達が何してるか」ってよりも「ランダムなメディアを見たい」って方向になっちゃって、友達がシェアするのは人気アルゴリズムへの入力になった。そこで「ソーシャルメディア」になったんだよね。HNはそれに当たらない、だって友達を作ったりコメントを広めたりする方法がないから。ただのフォーラムで、ほとんどのスレッドはリンクみたいなもんだし、Redditみたいな感じ。
└
メタって、ユーザーが実際に知ってる人と交流する時間が10%未満だって言ってたよね？「ソーシャルメディア」って、今や「スクロールエンタメ、怒りを煽るコンテンツ、猫」みたいな意味になっちゃってて、実際の「社交」とは関係ないよね。そういう意味では、現代のredditとfacebookに違いはないよ。（古いredditを使ってるユーザーは5%未満で、ほとんどの人はアルゴリズムの影響を受けてる。）
AIが実質的に禁止されているソーシャルメディアサイトってある？簡単な問題じゃないのは分かってるけど、まだそういうサイトを見たことがない。ボットを難しくするためにできることはたくさんあるよね。例えば、画像のメタデータを分析したり、ユーザーのキーボードやマウスの動きをチェックしたりとか。
└
具体的には知らないけど、雑なコンテンツを避けるための戦略は、特にブログで長文コンテンツをもっと読むことだね。RSSで購読すれば、その著者が自分の好きな書き手だと確認できるから、たぶんAIの雑なものは投稿しないはず。もし雑なものを見つけたら、購読解除すればいいだけ。プラットフォームにコンテンツをモデレートしてもらう必要はない…自分でニュースフィードの内容をコントロールできるから。
└
実際、bskyのような広く反AIのコミュニティは、普遍的な嫌悪感の力で成功してると思う。テクノロジーなしでも、社会的な監視はかなり効果があるよね。
└
AIが明示的に禁止されているマストドンのコミュニティもあるよ。
この前、親が「人種差別的な警官」が悪いことをして怒っているという偽のYouTube動画に騙されちゃった。動画の一部を見たけど、なんかおかしいなと思ったけど、すぐには本物かどうか分からなかった。それでも、名前や詳細をググってみたけど、動画の再投稿しか見つからなかった。YouTubeチャンネルの情報を見たら、「一部の動画にはAIを使って『本物の』イベントを再現しています」って書いてあった。正直、疑わしいな…全部偽物に見える。こういうのがどれだけ分断を生むのか心配だよ。誰かがYouTubeの広告で利益を得るためだけに…悲しいね。
└
次のステップは、指摘したらYouTubeが削除するかどうかを調べること。答えは？たぶん「もちろんしない」だろうね。彼らは動画の収益化を無効にしたり、著作権侵害をガンガンやったり、ショート動画を推進したりで忙しいから。
└
AI動画の音声は、ほとんどの場合、すぐにわかるよね。声がみんな低ビットレートのMP3みたいに聞こえるから。それは最終的には対策されるだろうし、バックグラウンドトラックをつけるだけで簡単にごまかせる。
└
AI生成動画の信頼できる見分け方は、そのアカウントの投稿履歴をちょっと見ることだよ。動画は頻繁で、繰り返しが多く、一貫したテーマや背景がないから。それはAI動画が良くなっても消えないものだよ。
└
GoogleがAIコンテンツを検出したら、その動画にフラグを立ててほしいな。
└
問題は、Googleも同じことについて偽ニュース記事で溢れかえった時だね。何が本物かどうかを知る方法がほとんどないから。
└
言われてるように、レイシズムの需要は供給をはるかに上回ってるよね。現実に頼ってると、一日中怒ってるのは難しい。
└
それにはAIは必要ないよ。
「誰もエムダッシュを使わない」って考えはちょっと誤解されてると思う。個人的には、覚えている限りずっとテキストで使ってきたよ。「あなたは絶対に正しい」ってフレーズも、友達とよく使う。ちょっと皮肉っぽく、誰かが明らかに言うことを言った時に使うけど、それでも使うんだよね。「まあ、間違ってはいないけど」っていうのも、明らかに分かることに対して皮肉的に使うことが多い。で、私たちは英語を話さない国から来たわけじゃないよ（親の中にはそういう人もいるけど）、みんなイギリスで育ったんだ。エムダッシュがすぐに「AIが書いたに違いない」ってなるのはちょっと極端だなと思って付け加えたかっただけ。
└
それに、イギリスで生まれたり育ったりした私たちは、「あなたは正しいけど…」とか「あなたに同意するけど…」って言うのが結構得意なんだよね。イギリスの礼儀正しさってやつかな。
└
それに、エムダッシュを一つずつ編集している人を見たことがあるよ。そして、全体のLLM出力をコピー＆ペーストして、AIっぽく見えないようにしようとしてるみたい。
└
エムダッシュはノートパソコンで打つのが難しいかもしれないけど、iOSではめっちゃ簡単だよ。"-"キーを押し続けるだけで、他の特殊文字と同じように使えるから、そのプラットフォームで結構頻繁に使ってる。
└
私の意見だけど、私たちの書店のニュースレターではエムダッシュを使ってるよ。セミコロンより視覚的に魅力的だし、句の両端をブロックするのにも使えるから、より多用途だと思う。範囲の数字の間にエンダッシュを使うこともあるけど、私はちょっと変わり者かもね。
└
イギリス人として言うと、「エンダッシュ」を使うことが多いかな。ちょっと短めのやつで、ハイフンに近いから、スペースを挟んで打つことが多い。エムダッシュ—スペースなしの長いバージョン—は、出版された本や今のAI以外では見たことないな。
└
ほんとイライラするよね。いいタイポグラフィを使っただけで、LLMを使ったって思われるのが。ChatGPTが出る前から、ずっとenダッシュを使ってたし（emダッシュも時々）。私の書き方は私のものなのに、なんで変えなきゃいけないの？もしコンポーズキー[1]が有効なら、キーボードの入力は簡単だよ：`Compose - - -`（enダッシュの場合は`Compose - - .`）。この2つが私の一番使うコンボかな。[1]: https://en.wikipedia.org/wiki/Compose_key
└
その通りだね。すごく賢い人たちがemダッシュを使ってる。指摘してくれてありがとう！
└
OPがこのスレッドについて話してるのは間違いないと思う。私も参加したから、すごくイライラしたのを覚えてる。AIの雑な部分だけじゃなくて、著者が明らかにAIを使ってるのに使ってないって主張してたのが特にね。興味があれば自分で読んでみて： https://news.ycombinator.com/item?id=46589386 エムダッシュや「絶対に正しい！」だけじゃなくて、コメントの最後にあったロボットみたいな確認質問も含めて、全体的にそうだった。
これの大半はインセンティブが原因だよね。YouTubeや他のプラットフォームはクリックや視聴回数にお金を払うから、当然、質の低いコンテンツをたくさん作ることで最大化できる。LinkedInは、企業にサービスや商品を売ったり、将来の雇用主に自分を売ったりする場所だよね。やっぱり、より少ない労力で多くのコンテンツを生み出すインセンティブがある。HNも人々のスタートアップを推進するインセンティブがあるし。人と人とのインタラクション以外にインセンティブがないソーシャルネットワーク（または「ディスカッションコミュニティ」）を作ることって可能かな？AIが禁止されている場所ではなく、AIが役に立たない場所、つまり人々が気にしない場所が理想だと思う。最も近いのはプライベートな友達グループだろうけど、それはテキストメッセージや対面の集まりで十分に対応されてるだろうし。他に可能性はあるかな？
└
インセンティブについて考えるのが正しいと思う。オーセンティックなやり取りはマネタイズされてないから。じゃあ、誰が報酬を期待せずにオンラインで書いてるの？ブログは広告が入ることもあるけど、RSSフィードのあるブログはマネタイズが難しいから、より安全な選択だね。ブログは、ただ書きたいから書いてる人を見つけるのに最適な場所だと思う。ソーシャルメディアでAIの雑なコンテンツが増えてくると、フィードリーダーで過ごす時間が増えるんだよね。
└
>インセンティブ、まさにその通り。半分のコメントがその不正確さを指摘してるような、ひどい動画に出くわすことが多い。結局、YouTube（または他のプラットフォーム）とクリエイターはお金をもらうんだよね。動画に対するネガティブな反応は、エンゲージメントとしてカウントされるか、次のワカモレのバリエーションに進むだけになる。UGCを含む大手テックプラットフォームは、スケールすることを目的にしてなかった。彼らは責任を持たない存在だよ。
└
その通り。人々はここで働いている根本的な構造について考える時間が減ってるよね。表面をちょっと掻いてみると、問題は常にインターネットの広告モデルに行き着く。これが壊れるか、経済的に意味がなくなるまで、既存の問題は続くよ。イーロン・マスクは、そういうことを気にする人たちにとってTwitterの劣化についてたくさん叩かれてるけど、彼も確かに一因だよ。でも、実際の問題は収益化の部分で、信号対雑音比の観点から見ると、すべての雑音を生み出す原因になってる。物理的な世界の問題をデジタルの世界に持ち込んでる感じだね。高い家賃（商業用でも住居用でも）が、ある場所の人々や商業の多様性を制限するのと同じように、特定のものしか機能しないか、経済的に成り立たないから。人々は常にいろんなもののミックスを求めてるけど、構造（この場合は家賃）が一種類のものしか許さないなら、それしか得られないってことだよね。
すべてのオンラインコンテンツが完全にAI生成になったとき、人類がスマホを置いて現実を再発見することを願ってる。ソーシャルネットワークが完全に無価値になったことに気づくから。
└
いい考えだね :)
└
ある意味、こういうことは起こってるよね。「写真がないなら起こらなかった」という古い言葉は、若者が何でもスマホを取り出さなきゃいけないって意味だったけど、今はどんな写真でも偽造できるから、撮るべき写真は自分の思い出のためのものだけになったね。
└
笑、今スマホを置かないなら、AIが生成したコンテンツが人を引き留めるために最適化されてるのが、どう良くなるっていうの？
> 「あなたは絶対に正しい」という言葉、これは生きている人間が使ったことがない、少なくとも私の知る限りでは。 > 文の最後にある「もし[そのこと]をしたいなら、または[別のこと]を探りたいなら教えてね」というのも有名だよね。最近は「wired」っていう新しいのも出てきた。「Xにこれを“wired”した」とか「Yに“wires”を入れた」とか。コルテックスがこれをやってて、最近ますます目立つようになった。だって、誰がプログラムのX部分がYに“wires”するなんて言ったの？
└
「あなたは絶対に正しい」というのは、英語のいくつかのバリエーションでよく使われる表現だよね。ちょっとイラッとするかもしれないけど、私にとっては「正しい」という言葉よりはマシ。あれは「私は何が正しいか間違っているかを決める」という傲慢さの象徴だから。誰かが裁定者や教師の文脈以外でそれを聞くと、もう興味を失っちゃう。でも、「あなたは絶対に正しい」については、あなたが間違ってるよ。ちょっとダサいけど、機械が作ったサインではないからね。
私は「絶対に正しい」とかそのバリエーションをよく使うよ。リアルな人たちがAIと宣言される日が来るのも、死んだインターネットに出くわすのも同じくらいあり得ると思ってる。
「あなたは絶対に正しい」は、デイヴィッド・ミッチェルの「The Unbelievable Truth」の主要なキャッチフレーズの一つだよね。これってイギリス特有のものかな？このBBCラジオ（今はBBCオーディオ）シリーズが大好き。これは「代替事実」が膨れ上がる前から始まったし、過去19年間でこの番組がどう発展していったかを追うのは価値があるし、すごく面白いよ。
> ほとんどのキーボードでは、特別なキーの組み合わせが必要で、多くの人はそれを知らない。 エムダッシュの中傷にはうんざりだよ、私は prolific なエムダッシュユーザーだから :( 確かに一般的にはほとんどの人が知らないかもしれないけど、この記事は特にハッカーニュースについてだから、みんなが以下のどれかを覚えていると思うよ： - Compose、ハイフン、ハイフン、ハイフン - Option + Shift + ハイフン（WindowsのAltコードは言及されてないけど、WinComposeもあるしね） https://github.com/ell1010/wincompose