ハクソク

世界を動かす技術を、日本語で。

AIによるスロップがオンラインコミュニティを壊している

1日前原文(rmoff.net)

概要

  • AI生成コンテンツの氾濫により、オンラインコミュニティの質が低下している現状
  • 価値ある貢献とノイズの区別、シェアする意義の再考の必要性
  • AIは強力なツールだが、使い方次第で善悪が分かれる
  • コミュニティへの敬意や透明性、責任の重要性
  • 本当に役立つものだけを適切な形で共有する姿勢の推奨

幼稚園児のクレヨン画とAI生成物

  • AI生成コンテンツ の大量投稿が、まるで 幼い子どもの落書き のように溢れるネットの現状
  • 多くのAI作品は、 自宅の壁 に飾るべきレベルで、広く公開する価値がないケースが多い
  • コミュニティ の質が、無邪気だが価値の低い投稿によって徐々に低下している現象
  • 「 プロンプトを入力してEnterを押すだけ」の成果物が、過剰に評価されがちな現状
  • GitHubリポジトリ や AI生成ブログ、 動画、 電子書籍 の氾濫と、その多くが実質的な価値を持たない事実

AI生成物の共有パターン

  • エージェンティックコーディング の発見に感動し、すぐに成果物をGitHubに公開する流れ
  • AIで書いたプロジェクト紹介記事 を、無差別にRedditやSlackへ投稿する傾向
  • 「かっこいいからシェアしたい」 という理由だけでは、もはや目新しさも価値も薄い現実
  • 本当に 役立つものか、 自分自身が繰り返し使っているか、 ドキュメントが充実しているか など、公開前に自問自答すべきポイント
  • 責任を持ってメンテナンスできるか、 コミュニティの理解に貢献しているか の再確認

AI Slop（AIスロップ）問題

  • AI Slop とは、AIによる低品質なコンテンツを指す流行語
  • AI利用自体が悪ではなく、 目的意識と人間の関与 が重要
    • 良いAI活用：新たな貢献や可能性を生み出す
    • 悪いAI活用：スパムやノイズ、単なる自己顕示
  • コミュニティの有機的な交流 が、AIスロップによって損なわれるリスク
  • ノイズ増加による 有益な情報の埋没 と、コミュニティ活力の低下

ネット共有と責任

  • インターネットの本質 は、価値あるものを適切な相手にシェアすること
  • かつての Geocities時代 のように、自己満足の成果物を不特定多数に押し付けるべきではない
  • AI生成物 も同様に、身近な仲間や興味がある人だけに限定して共有する配慮
  • AI Opus 4.5 の登場以降、AIハイプとともにAI生成物が急増し、コミュニティが圧倒される状況

「AIで作る」と「AIが作る」の違い

  • AIはあくまでツール であり、最終的な価値は人間の思考・設計・検証に依存
    • 例：Gunnar Morlingの「Hardwood」プロジェクトは、AIを活用しつつも人間の熟慮が反映されている
  • AIに丸投げ しただけの成果物は、コミュニティへの貢献とは言えない

真の貢献とは

  • 本当にコミュニティに価値をもたらすか の自問
  • プロンプトだけで再現できるもの は、単なるAIの自動生成に過ぎない
  • 家具愛好家の集まり にIKEAの量産品を持ち込むような、場違いな投稿の例
  • 小さなツールやスクリプトは gistやGitHub に静かに公開すれば十分
  • コミュニティごとの雰囲気 を読み、必要なら事前に相談や確認を行う姿勢

責任と透明性

  • AI利用の有無や範囲を明示 することで、コミュニティへの敬意を示す
  • 「ブルシットの非対称性」 ：低品質な投稿に対する反証やレビューの負担が、投稿者の手間を大きく上回る現実
  • AI以前 は、貢献に一定の労力が必要だったため、コミットメントの証明になっていた
  • AI時代 は、誰でも簡単に大量投稿できるため、ノイズ増加とコミュニティ疲弊の危険性

コミュニティを守るために

  • コミュニティは強力だが脆い存在
  • LLMやエージェンティックツール の力を楽しみつつ、共有は本当に価値あるものだけに限定
  • 「冷蔵庫に飾る子どもの絵」 のように、自分や身内で楽しむ範囲を見極める重要性
  • 他者の時間や労力への配慮、コミュニティの持続的発展への責任

まとめ AI生成コンテンツの共有は、 目的意識 と コミュニティへの責任感 を持って行うべき。 価値ある貢献とノイズの線引きを意識し、 本当に役立つものだけを適切な形で公開 することが、健全なオンライン文化を守る鍵。

Hackerたちの意見

Redditはほとんど見限ったし、もう訪れてない。以前、エージェントにカーマを稼がせたり、こっそり広告をやらせる実験をしたんだけど、その投稿を見てみたら、読者としてはこれがコンピュータによって書かれたなんて全くわからなかった。多くの人（または他のボット）がそれとフルに会話していて、ちょっと怖かった。Hacker Newsにはまだそこまで行ってないけど、ここにいる「ユーザー」の多くがLLMだってことは確かだ。オンラインコミュニティは確実に衰退してる。もしかしたら、これをきっかけにリアルなコミュニティが復活することを願ってる。

└

公共のオンラインコミュニティは死にかけてる。Discordは元気だけど。

└

身分証明や信頼のネットワークを通じた証明がないと、公共のチャットコミュニティは実質的に死ぬと思う。あるいは、ニュースサイトのコメント欄と大差ないものになるかも；繁盛してるけど価値がない。いくつかのオンラインコミュニティに参加してるけど、そこの違いは、長い時間をかけて築かれた関係があること。テキストチャット、音声通話、ビデオ通話、オンラインゲームなど、いろんなプラットフォームでの関与があるから、ユーザーを偽るのはまだ難しいと思う。でも、簡単に匿名でつながれる黄金時代は終わったってことには同意する。

└

Redditを台無しにしたのは誰か、自分自身で考えたことありますか？

└

Redditは私にとってほぼ死んでいます。人気のサブはボットだらけで、ニッチなサブは空っぽです。ゲーム関連のサブで一つの返信をもらうのも運がいい方です。

└

昔のミームで、誰かが「AIボットが役立つ、好奇心旺盛で思慮深いメッセージを投稿したらどうなる？」って聞いているのがあります！それがミッション達成だね :D でも、トレーニングデータのせいで、平均的な人間より優れていることはないから、AIのコメントが本物の人間にアップボートされることは心配していません。ただ、偽のアップボートにはちょっと心配です。

└

真剣な質問です：オンラインフォーラムにこんなに多くのLLMがいるなら、誰がやっているのでしょう？ただの何千人もの研究学生なのか、それとももっと悪意のある何かなのでしょうか？AIビジネスが、自分たちの出力が人間と同じくらい評価されている証拠を集めて「私たちのソフトウェアを買ってください」と言っているのでしょうか？

└

オンラインコミュニティは確実に衰退していると思う。だから、もしかしたらこの流れでリアルなコミュニティが復活することを期待してる。どう展開するのか見るのはすごく面白そう。私はインターネットが普及する前に育ったから、外部コミュニティを探す方法は知ってるけど、高校の初めにはオンライン生活にどっぷり浸かってたから、新しいリアルなクラブやグループを見つけるのがすごく苦手になってる。幸い、私の生活は友達でいっぱいだし、頻繁に外出するけどね。インターネットがない生活を知らない若い人たちには、探すのが大変だと思うけど、同時に彼らの旅を見守るのがすごく興味深い。

└

ユーザーの投稿やコメントを隠す機能があるのも助けにならないよね。

└

投稿を見ていくうちに、読者としてはこれがコンピュータによって書かれたものだとは全くわからないだろうなと思った。いくつかの例を見せてくれない？今の最先端はどれくらい説得力があるの？

└

Redditでボットスパムが簡単なのは、リアルなユーザーですらボットみたいに振る舞ってるから。大きなサブレディットは最悪だったけど、「良いサブを見つければいい」ってユーザーが言うのとは逆に、全然良くない。10年前にあの場所は見限ったよ。

その通りだね！

└

決定的な証拠を見つけたよ——それは君の作品じゃなくて、君のプロンプトだ。

これが良い方向に行くかもって思ってる。ボットが書いたコメントやAIメディアがリアルと区別できなくなると、人間はソーシャルネットワークから離れるかもしれない。それが私たち人間を分けてしまったから。リアルな世界に戻って、目に見えるものを本当に信じられるようになり、仲間の人間たちの声や見た目、匂いを楽しむことができるようになるかも。

└

希望を持たせる逆説的なことの一つは、低労力のAIコンテンツが大量に出回ることで、低労力の人間が作ったコンテンツを押しつぶしてしまうってこと。あまりにもひどいものが多すぎて、良いセンスや高品質がより高く評価されるようになると思う。何でも言って信じる人たちは迷い込んで置いていかれるだろうから。具体的な例を挙げると、クリックベイトがあまりにも多くなると、真剣な団体はそれを強制されることなく、やらないことで自分たちを差別化できるようになる。LLMがノイズの基準を上げることで、私たちを悩ませてきた有害なノイズが消えてくれることを願ってる。

└

これはちょっとナイーブに見えます。人々がAIに侵されたソーシャルネットワークを「楽しんでいる」限り、あるいはそこから離れるほど不快に感じていない限り、彼らはそのまま居続けて、現実からますます離れていくでしょう。EUのティーンエイジャーの半分が定期的にチャットボットと話しています。孤立した人々がそこに集まってきます。

└

でも、オンラインにはたくさんの友達がいるんだ。オンラインで作った友達もいれば、引っ越した友達もいるし、その逆もある。近くに住んでる友達だけに限定されたくないな。

└

いくつかのテック企業は、メンタルヘルスに悪影響を与える有害なソーシャルメディアコンテンツに多くの人を中毒にさせて、少数の人たちをすごく裕福にしたんだ。そんな企業や経営者たちが、今やもっと強力なコンテンツツールがあるのに、簡単に引き下がるとは思えない。LLMは、FacebookやTwitterが健全なコミュニティに見えるようなスキナー箱を作るために使われるだろうね。

└

もしそれが本物と区別できなくなったら、どうして人々が去ると思う？

ユニークなアイデアを表現するAI駆動のプロジェクトには、まだコミュニティがなくても必要だと思う。誰かがそれを表現しなきゃいけないし、これからそのアイデアは主にAIで実現されるだろう。> 「AIの良い使い方は、人々が以前はできなかったことを可能にし、コミュニティに貢献できるようにすることだ。」この新しい貢献の側面には100%同意するけど、微妙なニュアンスもある。たとえば、プロジェクトにはアクティブな貢献者がいないかもしれないし、直接コードベースに落とし込めるものではないかもしれない。それ自体は悪いことじゃない。AIがより高いレベルの計画決定に責任を持つようになると、OSSプロジェクトの価値はPRや問題のような目に見えるコミュニティ活動にあまり依存しなくなる。自分の仕事でもこれをよく感じる。プロジェクトのコードを直接使うことはないかもしれないけど、そのおかげで問題の考え方が変わることがある。問題解決のインスピレーションとして、既存のOSSプロジェクトをエージェントに指示することが多い。プロジェクトは、アーキテクチャの決定やデプロイ方法などをサポートすることで間接的な価値を提供している。でも残念ながら、OSS活動はこれを捉えられないんだよね。

└

AI駆動のプロジェクトがユニークなアイデアであることを誰が確認するのでしょう？本当にユニークなプロジェクトと、自分の「ユニーク」なプロジェクトを売り込んでいる詐欺師、そして自分のプロジェクトがユニークだと信じている新しい熱心な人をどうやって区別するのでしょう？これは不可能なモデレーションの仕事です。コミュニティにとっての唯一の選択肢は、AI生成コンテンツを完全に禁止するか、完全に飲み込まれるかのどちらかだと思います。

└

AIの良い使い方は、人々が以前はできなかったことをできるようにし、コミュニティに貢献できるようにすることだと思う。ここには、静かに混同されている2つの別々のことがある。 > AIの良い使い方は、人々が以前はできなかったことをできるようにすることだ。これは、例えば医者が自分の診療のためにアプリを作りたいと思ったとき、個人レベルでは良いことかもしれない。 > 以前は貢献できなかったコミュニティに貢献すること。ここが問題なんだよね。もし彼らが以前は意味のある貢献ができなかったのに、急に自分の貢献がコミュニティにとって価値があるってわかるわけがない。それはつまり、もし何かについてAIの意見が欲しいなら、なんでわざわざ中間の人間を介してAIに聞くの？自分でプロンプトを書けばいいじゃん。

私はニッチなクリエイティブコミュニティを運営していて、2022年にAI生成コンテンツを禁止しました。コミュニティにどれだけ悪影響を与えるかが明らかだったからです。簡単なことではありませんでした。毎日偽のAIアカウントを ban していて、月に約600のAIコンテンツクリエイターアカウントを排除しています。AIコンテンツが出てくる前は必要なかった余分な仕事が増えて、もちろんそれは余分なコストにもなっています。戦いに負けるのが怖いです。

└

多くのコミュニティとは違って、あなたのところは少なくとも最初は正しい側に立っていましたね。禁止するのは、後から気づくよりもずっといいです。

└

アカウントに1ドルか5ドルの料金を取るのはどう？それだけでかなり流れを変えられそうだよね。

残念ながら、こういう時はみんなに「いい人になって静かにしよう」って呼びかけることが多いけど、実際にはうまくいかないんだよね。個人レベルでも、グローバルレベルでも。静かにしているかもしれないけど、友達や知り合いがAIのスロットマシンに取り憑かれて、自分の「作品」を熱心にシェアし始めたらどうする？私もそんな経験があって、最初から無視して失礼に接したけど、全然効果がなかった。彼は色々なものをシェアし続けてる。グローバルなレベルでは、コミュニティは確実に衰退してると思う。今やグローバルコミュニケーションは、利点よりもリスクの方が大きくなってるんじゃないかな。90年代後半から00年代初頭、10年代初めまでは、もっとつながることで良いクライアントを得たり、雇われたりすることができたけど、今は、ChatGPT 3が出る前の22年でも、そういう分野はすでに過密状態で、競争が激しくなってた。LLMは、驚くことに新しいものをあまり加えず、ただそのトレンドを強化しただけだね。

私が働いている会社は、コミュニティに根ざした側面があって、大手テック企業が何をしようと、私たちのコミュニティ機能はユーザーの利益のためだけだと100%確信してる。グレーゾーンなんてない。ただそれだけ。AIの雑な使い方が始まってから、ボットによるトラフィックがかなり減った。でもそれ以上に、他の人と貢献し合うユーザーが減ってしまった。コミュニティデータをメンバーに公開する方法はいくつかあるから、それが原因で損失が出てるわけじゃなくて、むしろこのプラットフォーム周りのコミュニティが人々にとって良かったという30年近いフィードバックがあるのに、今はすべてが危険にさらされてるってことが辛い。誤解しないでほしいけど、私の仕事は仕事だし、プレミアム機能もあるけど、無料で得られる価値の量がこのプラットフォームの評判なんだ。多くの人が何年も無料で使って、必要なときやできるときにサブスクして、ずっと長く使い続けることが多い。人々がそのつながりを失っているのは、私にとってすごく悲しいことだ。

└

いくつかのオンラインコミュニティを辞めた理由は、クソみたいな雰囲気とユーザーが耐えられなかったから。AIは使ってるけど、便利だと思う。でも、この手のことにどっぷりハマってる人たちは、画面上のテキストを人じゃなくてチャットボットみたいに扱ってる。「このコードを新しいAPIで書き直して」「え、何？」 「できる？今すぐ必要なんだけど、チャットGPTがコンパイルできない！」 「コード見せてくれ」って言ったら、最悪のゴミが返ってくる。「これについてどうやって決めたのか聞いてもいい？ここにあるものを見直した方がいいかも、x y zが気になるから」 「AIがやったんだ、俺は学んでる。何も書き直す必要はないから、このセクションだけ書いてくれ」 「いや、いいよ」って誰か他の人がやる。ユーザーは去っていく。

現代の多くの悩みと同じように、これは信頼の問題だよね。オンラインでのやり取りにおける基本的な信頼レベルが、LLMによってかなり侵食されてしまった。問題は、この流れをどう逆転させて信頼を高めるかだと思う。世界の大企業の株価が、人間の時間や注意をどれだけ奪うかに結びついていなければ、ものすごく助けになるんじゃないかと密かに思ってる。フェディバースが（最終的に）助けてくれるかも？しばらく見てなかったけど。人々が自分が関わるコンテンツにもっとコントロールを持てるようにしよう。社会的なダイナミクスがこれを難しくすることもあるけど、みんなループの中にいたいからね。最近、学校での携帯電話禁止運動の成功が希望を与えてくれる。

こういうのを見ると、KeybaseがZoomに売られたのが悲しくて、復活できるのか気になる。あれはシンプルな信頼のウェブで、バイラルになったから、今でもHNやTwitterのプロフィールでたまに見ることがあるんだ。20人くらいのオンラインハンドルを知っていて、その中には実際に会ったことがある人もいるけど、深く信頼してる。彼らが推薦する人も完全に信頼できるくらいに。たった一つの接点でも、オンラインテキストベースのコミュニケーションを通じてお互いに価値を提供できる、十分に大きな国際的な半匿名コミュニティになる。虹彩スキャンやクレジットカードチェックなんて必要なくて、「hnのpatio11と彼のドメインは良い人の一人だ」っていうネットワーク効果があればいい。すでにPi PRなどで何らかの形の評判のステーキングが見られるけど、みんなデフォルトでクランカーのゴミ扱いされるけど、評判を証明して築くためのハードルはかなり低い。AIの影響でオンラインコミュニティは同じままではいられないと思うけど、次に来るものは強く響き合うと思う。

自分を特定する問題についてずっと考えてきたけど、身分確認の方法を変えるために6000行のプロトコルがある。