ハクソク

世界を動かす技術を、日本語で。

編み物のくだらない話

11時間前原文(katedaviesdesigns.com)

概要

  • Harry Frankfurt の「On Bullshit」に基づく「bullshit（でたらめ）」の定義紹介
  • AI生成コンテンツによる 編み物分野 でのbullshit事例分析
  • 人間の創造性や歴史的背景を無視した AIの表層的な内容 への批判
  • 感情的な承認や快感演出にすり替えられる 実質のないAIコンテンツ
  • 慎重に作られたbullshit と機械的なbullshitの違いについての考察

編み物における「Bullshit」とは何か

  • bullshit とは、 真実への関心や現実への接続 が欠如した発言や内容
  • Harry Frankfurt によると、嘘とは異なり、「bullshit」は 偽物 であり、真実かどうかに無関心
  • 嘘つきは真実を意識的に歪めるが、bullshitterは真実自体に無関心で パフォーマンスやシミュレーション が主眼
  • 現代社会は bullshitの時代 であり、特にAIによる自動生成コンテンツで顕著

AIポッドキャストと編み物Bullshitの実態

  • Inception Point AI はわずか8人で毎週約 3000本のAI生成ポッドキャスト を公開
    • 編集や内容チェックは一切なし
    • Anne McHealy曰く「ガーデニングや編み物など、間違っても大した問題にならない分野」
  • 実際の「編み物」エピソードは、 古代エジプトの靴下 と Ravelry だけで歴史を語るなど、内容が極端に貧弱
  • 15分間、 マーケティング資料のような表面的な言葉 が続き、実質的な情報は皆無
  • 本来語られるべき、女性の見えざる労働や創造性、産業化、連帯などの歴史や社会的側面は完全に無視

AIによる「編み物デザイン」コンテンツの問題点

  • 「The Art of Knitting Pattern Design」は、 著名な編み物デザイナー の知見を紹介すると謳う
    • しかし、 Michael Lee、Elizabeth Brown など、全員が架空のAIキャラクター
    • 実在するデザイナーの具体的な手法や歴史的背景は一切なし
    • 「プロセスを楽しもう」「自信を持とう」など、 中身のない感情的な言葉 のみ
  • 編み物デザインの創造的労働 が、「喜び」や「可能性」といった空虚な約束に置き換えられている

感情的承認と現実のすり替え

  • AIポッドキャストは、 実際の編み物知識や技術 を伝えることなく、 「編み物をしている自分は素晴らしい」と承認 し続ける
  • 「高度な編み物テクニック」エピソードでも、具体的な技術説明は皆無
    • ただ「編んでいる喜び」や「包まれる満足感」を想像させるだけ
  • 現実の知識や経験 が、 感情的な快感の演出 にすり替えられる現象

「慎重に作られたbullshit」とAIアニメーション

  • AI生成アニメーションも 編み物の歴史や実態には触れず、感情的な満足感 だけを与える
  • YouTubeで10万回以上再生、500以上の肯定的コメント を獲得
    • 視聴者やコメント投稿者への批判は意図せず、むしろ「気持ちよくさせる」ことが目的
  • Frankfurt によると、「ただ垂れ流されるbullshit」と「慎重に作られたbullshit」が存在
    • このAIアニメは後者に該当し、 感情的な誠実さを装いながら中身のない内容 を提供

AI時代の編み物コンテンツに対する懸念

  • AIコンテンツ は、 現実の人間の知識・経験・歴史 を空虚な表現や感情的承認で置き換える危険性
  • 創造的労働やコミュニティの価値 が軽視され、消費されるだけの「bullshit」へと変質
  • 本質的な知識や文化的背景を守るためには、 AI生成コンテンツの批判的受容と人間の創造性の再評価 が必要

Hackerたちの意見

700K以上のダウンロードがオーガニックなトラフィックだって信じるべきなの？誰がこんなものを聞いてるんだろう？

└

人々を誤解させるには、主に2つの戦略があるよ：特定の不足を利用して制限することと、超一般的な過剰で希釈すること。間違えないでほしいけど、両方を組み合わせたり、時には重なることもある。誰も聞いてなくても関係ない。すべてのチャンネル、メトリクス、指標を均等に飽和させるだけで、重要な情報が意味のある時間内に広がるのを妨げる障害を作り出せるんだ。注意を引くことが全てだから、与えられるのはただの気を散らすものだけだよ。

└

それとも、マクヒーリーさんが単に嘘をついてたのかも。

└

マクヒーリーの論理では、それについて心配する必要はないってことだね。結局、低リスクのコンテンツだし。

└

ちょっと前にポッドキャストを聞いたんだけど（多分人間が作ったやつ）、低品質のゴミみたいなストリーマーコンテンツについてで、アズモンゴールドみたいなパーソナリティや、さらにひどい模倣者たちのことを話してた。このコンテンツは人間が作ってるけど、無意味で愚かすぎるフィラーに、明らかにパフォーマンス的な攻撃性がスパイスとして加わってる。完全に負け犬（あるいは負け犬のふりをしてる人）が自分の鼻くそについて話して、レイシストになって、6時間ゲームをしてるのを聞いてる感じ。でも、これがめちゃくちゃ人気なんだ。何百万もの人が毎日何時間もこんなクソみたいなことをストリーミングしてる。脳を麻痺させたい人がたくさんいて、底がないみたい。どんどんバカになっていける。人々がインターネットでストリーミング（そしてドゥームスクロール）してるものは、1980年代の昼ドラマを失われた黄金時代の高尚なアートのように見せる。だから、何百万もの人が低品質でキュレーションされてないAIのクソポッドキャストを聞いてるのは全然驚くことじゃない。実際、私が聞いたポッドキャストは購読をやめた。こういうクソについてのメタディスカッションは、コンテンツ自体よりもあまり良くない。運転を続けて。車の事故を見ないで。去年、そんな感じの啓示を得たんだ。情報時代は情報が無料ってことを意味する。0ドルで無限に生産される。それは、何も逃してないってこと。あなたの注意は100%あなたのもので、車の事故を無視することを選んでも大丈夫。事故は無限にあるから。すべてが無限にある。運転を続けて。

└

他のボット？デッドインターネット理論。AIが生成し、AIがダウンロードする。人間は介在しない。

└

ポッドキャストアプリがダウンロードするエピソードの数が、実際に聞く数よりも圧倒的に多いんだよね。

└

HNはAIが良い理由や悪い理由についてのAI生成記事に何万回もビューを送ってる。こういう記事は毎日フロントページに上がってくるけど、面白いことは何も言ってない。でも、私たちの多くは、自分の信念を繰り返してもらうのが好きなんだよね。だから、あなたの質問に答えると、みんなそうだと思う。ただ、異なるオーディエンスには、警戒を解くトピックがそれぞれ違うってこと。考えずに賢く感じさせて、仕事をしなくても忙しくさせるコンテンツには大きな市場がある。これが本質的に悪いとは言わないけど、通勤中に音楽を聴いてるのも同じで、他のドライバーにイライラするのを避けるための楽しい埋め草なんだよね。インターネットはその公式を武器化したし、今やAIは核兵器に相当するのかな。

こういう雑なものは、みんながどれだけ手を抜いてるか気づくにつれて、いつかは消えていくんじゃないかって思う。悪魔が本当にいるなら、大きなことは彼がやって、小さな悪魔たちが編み物の無監視自動ポッドキャストを作らせるみたいなことをさせて、生活の雑な楽しみを削っていくんじゃないかって、ますます確信してる。

└

変な音楽化がコンテンツに進んでいくんじゃないかって心配してる。音楽は気分を良くさせたり、パターン認識を活性化させたりするから、引き込まれるんだよね。AIの動画や写真も似たような効果があるみたい。たとえそれが本物でなくても、良い人間の作品から十分なパターンを取り込んで、私たちの注意を引くことができるんだ。ネット上で注意を逃がす手段を提供することは、価値があるんだよ。

└

長い間、AdSenseのビジネスモデルは結局ダメになると思ってた。だって、みんなが広告を嫌うのは私と同じだと思ってたから。でも、実際にはほとんどの人が我慢できることについて、私が間違ってたみたい。

└

これは間違いなく、『グッド・オーメンズ』のクロウリーが取り組んでるようなことだね。

└

『グッド・オーメンズ』の冒頭には、悪魔たちが最近の悪行を共有するシーンがあるんだ。いくつかは殺人や憑依みたいな「クラシック」な悪魔のことを話してるけど、クロウリー（主人公の悪魔）は、渋滞を作るみたいなもっと現代的な悪行を語るんだ。https://en.wikipedia.org/wiki/Good_Omens それに関連するクリップをリンクしたいけど、君の言う通り、何か悪魔が見つけるのをすごく難しくしてるみたい。

└

そうだね、最終的には人々はその雑なコンテンツをフィルターで排除するようになるけど、その過程で価値がなくなった場所から離れていくんだ。生成AIによって生まれた特定のタイプのイノベーター・グールは、インターネット全体をクソみたいなコンテンツで埋め尽くすことを夢見てる。メディアやコンテンツのアグリゲーターは、自分たちの長期的な生存のために、彼らを積極的に排除すべきだと思う。

└

ビッグタバコが発展途上国に移ったように、ビッグスロップも特に私たちをターゲットにしてるわけじゃなく、過去10年で新たにインターネットに接続した何十億ものユーザーを狙ってるんだ。今は古いけど「イタリアン・ブレインロット」ってミームがあって、ボンバルディーロ・クロコディーロみたいな、なんとなくイタリアっぽい名前のAI生成キャラクターがいる。一人のキャラクターが際立ってるんだけど、トゥング・トゥング・トゥング・サフール。全然イタリアっぽくないし、最後の単語がピンときた。サフール（またはスフール）はラマダンの前に食べる食事のこと。調べてみたら、このカテゴリーはインドネシアから始まったことがわかった。最近、インターネットユーザーが急増して、世界中に広がるインターネット現象が生まれてるけど、西洋ではそれに気づいてる人は少ないみたい。

└

これが消えるとは思えないな。これらのAIポッドキャストの価値の多くは、リスナーの自己承認にあると思う。エジプトの靴下とレヴェリーの間に何もなくても、リスナーには関係ないんだよね。ポイントは学ぶことじゃなくて、気分が良くなることだから。でも、ニュース記事にランダムなストックフッテージが含まれるのがずっと気に障ってるんだよね。特定の船について話してるときに、全く関係ない船の写真を使っても人間が許されるなら、AIが正確である必要はないんじゃない？

ガリー・ラーソンの「ファーサイド」漫画「Bullknitters」がまだ投稿されてないのはスキャンダルだよね。

└

関連: Four Yorkshiremen: https://www.youtube.com/watch?v=ue7wM0QC5LE。

└

個人的には、今のトップコメントがタイトルに関係ないオフトピックのリファレンスになってるのはスキャンダラスだと思う。この記事はニットについてのものじゃなくて、著者がAIポッドキャストの世界に引き込まれたきっかけに過ぎないし、その結果、コンテンツがかなり乏しいと感じたんだよね。「ニット」という言葉をほぼどんな趣味にでも置き換えられるし、記事の内容はほとんど同じになると思う。これは、魂のないコンテンツフリーなAIポッドキャスティングの世界についての記事で、AIの出力がリスナーの感情を検証することに重点を置いていて、意味のあるコンテンツではないってことだよ。

この特定のタイプのクソの一番厄介なところは、批判的な検証をすることが感覚の大失敗として扱われることだよね。素晴らしい表現だと思う。多分、非常に巧妙なクソを言う人やマスターマニピュレーターがこの手法を使ってるのに気づくと思うけど、厳密さや検証を求めると、上品な見下しで返されるんだ。まるでマナー違反を犯したかのように扱われるから、その手法が強力なんだよね。恥ずかしくなって、引き下がってしまうことが多い。

うわ、ケイト・デイヴィスがハッカーニュースに登場するなんて思わなかった！彼女が「編み物は生死に関わる」と話すとき、彼女のバックグラウンドを少し理解することが大事だと思う。彼女は若い頃に脳卒中を患う前は18世紀文学の学者だったんだ。回復の手段として編み物に集中し、それ以降は振り返らなかった。ビジネスとコミュニティを築いて、身体的・精神的健康の多くを編み物に帰属させている。だから、この投稿がクリエイティブな分野にいる誰かに響くことを願ってるけど、彼女は雑なコンテンツが彼女の存在にとって本当にリスクになる特定のタイプの人を体現してるんだ。仕事じゃなくて、彼女の全人格に関わること。雑なものが物事の人間性を追い出し、クソ機械がすべてのコンテンツを埋め尽くす世界で、彼女のような人が前の人生よりも良い第二の人生を築ける可能性はどれくらいあるんだろう？

└

すごいね。この種のエンパワーメントと長い努力は、私たちが共有すべきストーリーだと思う。こんな素晴らしいキャラクターを持っていて、正直言って人間の知的発展に対して賭けをしたことで、世界が彼女に反対してしまったのが心配だ。

エッセイを通して、写真がどんどんスロポリフィックになっていくのが面白い。重要なグループが被害を受けていることには触れてないけど、質の高い、真剣なニットについてのポッドキャストを作っているクリエイターたちだよね。彼らの本物のコンテンツは、スロップの山の下に埋もれちゃってる。理論的には、推薦アルゴリズムが最高のものを表に出すはずなんだけど、どうもインセンティブと合ってないみたい。悲しいね。

└

それどころか、AIのスロップマシンに再投入されちゃうのがさらに悪い。

└

うん、私もそのスロポリフィック（いい言葉だね！）な感じに気づいて、感謝してる :) 途中でちょっと止まってイメージを考えようとしたけど、結局彼らがわざともっと意味不明になっていくのに気づいた。

画像の代替キャプションは、丁寧で徹底しているけど、最も重要な側面を捉えてない気がする。

「On Bullshit」って本、めっちゃおすすめだよ。小さい本だし、プレゼントにもぴったり。ケイトの記事がうまくまとめてるね。 https://en.wikipedia.org/wiki/On_Bullshit このredditのコメントが完璧に言い表してるよ: 「何についての本なの？フランクフルトは（成功裏に）バカなことを定義しようとしてるんだ。要するに、バカなアーティストは説得や印象を作ることにしか集中してなくて、真実には興味がない。逆説的に言うと、バカなことは真実であることもある。バカなことを作るのは、いい加減に、急いで、細かい作業を無視して作られるからバカなことなんだ。天才的な嘘つきは、真実が見つからないように慎重にやるけど、バカなアーティストはただそれを投げ出して、ボリュームで懐疑心を圧倒して、観客に何かが引っかかるまで続ける。」 https://www.reddit.com/r/books/comments/1pidpb2/on_bullshit_... 1980年代の視点で、2020年代のデジタル空間を支配しているものについての話だね。

AI生成コンテンツに対する反応は、どんなタイプでも、ただ深い悲しみを感じるようになってきた。AIの成長は、まるで手足を失うような感覚だよ。最初は悲しみのショックがあって、何かを失った感覚があって、何が奪われたのかを感じる。でも、その後数ヶ月、数年と続く日常の中で、他の普通の経験があって、出会った瞬間に「そうだ、これも永遠に変わったんだ」と思う。まるで暗い井戸の深さを探るようで、毎日ロープを少しずつ下ろしていくけど、毎日感じるのは無意味な揺れだけ、大きくて計り知れない空虚さの中で。

└

ブラックミラーの「ジョーンはひどい」がここにあるみたいだけど、量子コンピュータがパーソナライズされたコンテンツを生成する代わりに、ただ意味のないスロップの無限の行列があるだけだね。

経済学者としてすぐに思うのは、これをやるための金銭的インセンティブはどこにあるのかってこと。プログラマーがスタックは何かって聞くのと同じだね。いくつかの可能性: 1) マネーロンダリング - 大きなコンテンツファームが、収益を隠すためにxyzを稼いでると主張できる。 2) 広告詐欺 - ポッドキャストのチャートやSEO結果を上げて、クリックを集めて広告を売る。ボットファームも広告を売るふりをしてクリックを稼いでるかも。 3) 編み物製品の販売ニッチを支配しようとしている。あるいは、後でビジネスを高い倍率で売るために支配しているふりをしている。 4) 選挙や他のもっと利益のある分野でやる前に、1-3を無害な隠れたテーマで試してみる。規制の水域も見て、何が許されるかを探っている。こんなことをするためのインセンティブをもっと考えてみて。

└

あなたの質問がよくわからないんだけど、AIが毎週何千ものポッドキャストを生成することの金銭的インセンティブを聞いてるの？ストリームや広告からの収入が明らかにあるんじゃないの？

└

記事読んだ？人数が300から8に減って、1日のポッドキャストの数は増えて、リスナー数も増えたみたいだよ。