すべての未来は嘘だと思う：これから私たちはどこへ行くのか？

1日前原文(aphyr.com)

概要

本記事は、機械学習（ML）や大規模言語モデル（LLM）が社会や都市、個人に与える影響を論じる内容
自動車が都市や生活様式を変えたように、AIも社会構造を大きく変える可能性を指摘
MLの普及による負の側面や不安、著者自身の体験と葛藤を詳述
AI利用の拒否や規制推進など、具体的な行動提案
技術の進歩と倫理・社会的責任のバランスについて問題提起

AIと都市・社会の形

自動車が都市の構造や人々の生活を大きく変えた歴史的経緯
- 都市の分散化・郊外化、公共交通の衰退、社会的接触の減少
- 高速道路建設によるコミュニティ破壊や健康被害の発生
- 車依存社会の問題点：運転しない人の割合が多い現実
**AI（特にLLM）**も、同様に社会構造や日常生活を変える可能性
- 仕事や暮らしの自動化による雇用や生活の不安
- 都市や社会の形が大きく変容する未来への懸念

機械学習の普及とその負の影響

ML/LLMの普及による日常生活への影響
- 検索結果やカスタマーサービスの質低下
- LLMスパムや偽情報の拡散
- 料金値上げやサービス低下の責任転嫁
AIの悪用例の増加
- 合成動画や偽情報による社会的混乱
- LLM生成のCSAM（児童性的虐待資料）や詐欺のリスク拡大
人間の仕事やスキルの喪失への危機感
- 読解・思考・執筆など、著者のコアスキルも脅威に晒される
- 他分野（建築など）もMLの影響下に置かれる可能性

著者の姿勢と行動提案

ML/LLMの利用を拒否する個人的な理由
- 自らの能力維持や深い思考・理論構築の重要性
- James C. Scottの「metis」（経験知）の価値
AI利用の最小化を推奨
- 人間によるコンテンツの選択
- 友人や専門家との直接対話の重視
社会的な行動提案
- MLの危険性の指摘やスパムの告発
- AIサービスへの支払い停止、企業や議員への働きかけ
- 労働組合結成や企業のAI導入への反対
- ML企業の従業員への退職勧告とその倫理的意義
MLの進歩を遅らせることの価値
- 社会・産業・行政が適応するための時間稼ぎ
- 新たなリスクや技術的負債への対策期間の確保
- 良心の呵責を和らげる自己防衛策

葛藤と今後の展望

ML/LLMの有用性への認識と誘惑
- 個人的な小規模利用（例：プロトコル解析など）は合理的
- 限定的・安全な用途での利用は否定しきれない現実
技術進歩と倫理のバランスに悩む著者の姿勢
- 今後もML利用を慎重に検討する決意
- 社会全体の適応と規制の必要性を強調

本記事の執筆プロセス

全て手作業で執筆（Vim、Markdown、Pandocなど使用）
複数回の推敲と友人からのフィードバックによる品質向上
誤りや異論があれば著者の責任であることを明記

Hackerたちの意見

一般的な意見には賛成だけど、社会の構造が変わるって言われても、満足できる解決策が何かは分からないな。参加しないってのは、長い目で見たらうまくいかない気がするし、経済的にも厳しいと思う。

└

同意だね。俺はレッドチームのセキュリティエンジニアの中でAIに懐疑的な立場だけど、限られたケースでは使ってる。AIのガードレールの扱いには反対だけど、自分の分野で relevancy を保つためには使わざるを得ないし、クビになりたくないからね。

└

その通りだね。この人は市場の強制的な競争を理解していない。新しい技術を使わなければ、それを使っている人に負けてしまう。どのHR部門も、採用している部門が実際には使っていなくても、AIの経験を求めるだろう。もし著者が提案する解決策に個人的な悪影響があるなら、なんでそれをやるの？優しさのため？

エピローグが一番心に響くな。LLMを使った作業は、同じようなアプローチを取ってる。Gitリポジトリにリンクすることはないし、具体的で整った変更をお願いするだけで、彼らがやめたところから続けられるようにしてる。一般的には、LLMが俺が嫌いな面倒な作業を楽にしてくれると思ってる。プロジェクトのセットアップとか、テーマの統合、リソースの準備やパッケージ化、基本的な依存関係の準備（JS/TSのためのViteとか、C#のUIライブラリとか）、UIレイアウトの骨組み（メインパネル、メニューパネル、テーマ変数）、自動更新の取得と実行ループとかね。UIの細かい作業もできるのは分かってるけど、彼らなしでも同じくらい、もしくはそれ以上の速さで作業できる気がする。彼らを使うと「いや、それじゃない、変えすぎ/変えなさすぎ/間違ったことを変えた」ってなるけど、彼らなしだと自分が得意な領域だからそのまま実行できる。だから、俺の中では彼らは「90%マシン」って感じ。初期設定や大規模な構造のリファクタリング（機能は変わらないけど、準備だけするやつ）をやってくれるのはありがたいけど、最後の10%を自分の思い通りにするにはあまり役に立たないし、必要ないことが多い。もちろん、良いPMなら90%のコードが書かれてもプロジェクトが50%しか終わってないってことを知ってるから、なんか虚しい勝利に感じる。だから、最後の段落と同じように考えることが多い。初期設定の楽さが、これらのツールなしでプロジェクトを設定する能力を低下させてるのかな？プロジェクトのセットアップやリファクタリングは一度きりの、プロジェクト特有で設定特有の泥沼だから、細かいテキストマッチングを考えない方がいいのかな？これらを使っても、うまく使える（アーキテクチャや構造を指示できる）のか？良い質問だと思う。

これは絶対に読むべき記事シリーズだと思うし、カイルの言うことは正しいと思う。自動車の採用に関する比較は的を射てるし、俺も前に考えたことがある。技術が役に立つからって、社会に良い影響を与えるとは限らないよね。とはいえ、制約のあるシナリオでLLMを使うことにはもっとオープンになってる。適切なツールとして使える場合や、デメリットを合理的に軽減できる場合に限るけど。1920年の時点での同等の立場は、「車を運転しないで」と言うことじゃなくて、社会的・環境的な悪影響（多くは予測可能だった）について批判的に考えて、政策で最悪の結果を防ぐことだと思う。でも、これには技術の実際の限界と可能性を理解する必要がある。俺の意見では、デメリットを実際に見ている技術者が意識を持ち続けて、関与し続け、専門家やリーダーになることが重要だと思う。信頼できる権威の立場から、AIの最悪の過剰に「ノー」と言えるようになりたい。

└

> 技術が役に立つからって、社会に良い影響を与えるとは限らない。君の言い方だと、自動車が良い影響を与えないように聞こえるけど、俺はそう思わない。確かに悪影響もあるけど、全体としてはみんなにとって大きなプラスの影響を与えてると思う。

└

残念ながら、イギリスでは全部ブロックされてる。

最近これについてよく考えてるんだけど、止めることができるか分からない。最も影響力があるのは、オープンソースモデルの上にエージェントを構築しやすくするオープンソースツールを作ることだと思ってる。今はオープンソースモデルがいくつかあるけど、ジェミニほど良くはないかもしれない。でも、エージェントが十分に良ければ、それで補えるかな？それが権力の民主化につながると思う。ただ、最近の人類にはあまり感心してないから、その民主化が本当に良いことになるのか疑問に思ってる。この数年で、多くの人が世界が燃えるのを見たいと思っていることに気づいた。想像以上にね。作るより壊す方がずっと簡単だし。もし人々がエージェントを作りやすくなったら、それは全体的にプラスになるのかな？

└

> 人々がエージェントを作りやすくしたら、それは全体的にプラスになるのかな？人々が運転しやすくなったら、それも全体的にプラスじゃない？Xをやりやすくしたら、それは良いことじゃない？いや、必ずしもそうじゃない。それがこのエッセイシリーズのポイントなんだ。摩擦は場合によっては良いことだよ！摩擦なしでは学べないし、摩擦なしではセックスもできない。

世界的な大戦争やバトラーの聖戦みたいなカタストロフィがない限り、このジーニーはもう瓶の中には戻らないと思う。これらの技術は、所有している0.001%の人たちの目標と100%一致してるし、カイルや同じような考えを持つ人たちが指摘するネガティブな点は、実際には彼らにとっては「無駄な食い物」を排除するための大規模な人口削減や、残った「NPC」たちに対する技術的な社会制御の文脈ではポジティブな要素なんだよね。だから、どうするかは、未来の世代に対して責任があるかどうかにかかってる。もし「ない」と思うなら、どうするかは個人的な関心に限られるけど、「ある」と思うなら、革命が必要で、それはグローバルなものでなきゃいけない。

└

このドラムを壊れるまで叩き続けるつもりだ：ゼネストと銀行の引き出し。経済システムを崩壊させるためじゃなくて、AI開発が依存している経済システムが崩壊するという信頼できる脅威を示すために。彼らがパニックになったら、交渉を呼びかける。これがうまくいくのは、「安定した」生活を持つ人たちが参加するだけでなく、その努力を推進する場合だ。年収が六桁以上で解雇の心配がない職にいる？それなら、5月1日（またはこの時が来たとき）に最初にドアを出る人になって、銀行のカウンターで最大限の引き出しをリクエストするべきだ。

└

> この技術は、所有しコントロールしている0.001%の目標と100%一致している。もしAIが99.999%を置き換えられるほど賢いなら、0.001%も置き換えられるだけの賢さを持っているはず。

└

未来の世代に責任を感じることがすでに数十年前にテーブルから外れたことを（苦々しく）指摘したくなる。私たちがエコロジカルフットプリントを無視することに決めたときにね。

└

> 「無駄な食い物を排除する」それは無理だよ。メールフォルダをランダムに削除することすらできないんだから。[1] 決定を下したり人間を置き換えたりできるって言うのは、ランダムな数生成器が決定を下せるって言ってるのと同じ。これはただの自動化ツールで、過去の自動化ツールと同じように、破壊するよりも多くの仕事を生み出すよ。CEOたちの労働置き換えについての話は、ただの騒ぎで、解雇や悪化する財政状況を正当化するための嘘の山だ。

この記事で述べられている理由が、AIの使い方やその見返りを共有することがどれだけ重要かを示してる。大手AI企業が人道的な問題を解決するためにどれだけ役立っているかを追跡することで、ポジティブな結果に貢献しようとしてるんだ。この記事の提案のほとんどは実行できないけど、進歩を遅らせる方法に見える。AIの進歩を遅らせたくないし、今ある技術を有益で役立つことに活用してほしい。

> MLの支援は私たちのパフォーマンスや持続力を低下させ、手作業でタスクをこなすことで得られる筋肉記憶や深い理論構築を奪う。ジェームズ・C・スコットが呼ぶところの想像してみて、今大学を始めることを… エンジニアリングスクールで学んだことを、プロジェクトやエラーに費やした時間がなければ想像できない。締切や試験が迫っているときに、コースプロジェクト（またはサイドプロジェクト）でLLMを使わない精神的な強さを持っていたとは思えないし、友達と過ごしてその時期を楽しみたいとも思っていた。

└

これが一番心配なところだよ。個々の自制心の問題じゃなくて、問題を苦労して解決しようとする人が、そうしない仲間に対して明らかに不利になってしまってるってことなんだ。深い理解を生む行動が、逆に罰せられるようなインセンティブの仕組みになってるのが問題だね。

これ、ちょっと「In the Beginning Was the Command Line」の結末を思い出させる。 > このオペレーティングシステムを提供した人たちは、私たちが自分のデザインを始めるための出発点として使えるいくつかのデフォルトのライフを提供するテンプレートやウィザードを用意しなければならない。おそらく、これらのデフォルトのライフはほとんどの人にとってかなり良く見えるだろうし、十分に良いので、開けていじるのをためらうかもしれない。だから、数回のリリースの後、ソフトウェアはさらにシンプルに見えるようになるだろう。立ち上げると、中央に「LIVE」と書かれた大きなボタンがあるダイアログボックスが表示される。ボタンをクリックすると、あなたの人生が始まる。もし何かがうまくいかなかったり、期待に応えなかったりしたら、マイクロソフトのカスタマーサポートに文句を言うことができる。もし担当者が出たら、彼または彼女はあなたの人生は実際には問題ないし、次のアップグレードが行われればもっと良くなると言うだろう。でも、もしあなたがしつこくて、自分を「アドバンスド」と名乗ったら、実際のエンジニアに繋がるかもしれない。 > あなたが問題を説明し、人生の不満を挙げた後、エンジニアは何と言うだろう？おそらく、人生は非常に難しくて複雑なもので、どんなインターフェースもそれを変えることはできないし、そう信じる人はバカだと言うだろう。そして、もし選択を自分でしたくないなら、自分で選択を始めるべきだとも。

これが正しい見解だとは思わない。車の例えを使うと、車の使い方が重要だ。車自体は、歩いて行くのに使う時間とエネルギーを節約するために使える。それらの余分な時間とエネルギーは、うまく使うこともできれば、無駄にすることもできる。 - 通勤が長くなって無駄にすることもある - ソファに座ってNetflixやTikTokを消費するだけで無駄にすることもある - 友達とチームスポーツをしたり、公園で子供を追いかけたり、裏庭に鶏小屋を作ったりするなど、生産的に使うこともできる。賢く使うことが大事なんだ。確かに、自分の体を壊したり、時間や注意を無駄にする手段として使うこともできるけど、楽しくて社交的な身体活動にリソースをうまく活用する道具として使うこともできる。LLMも同じだと思う。マネージャーやエグゼクティブは常にエンジニアリングの仕事を委任してきたし、リサーチやレポート作成もそうだ。私たちが認知を挑戦し続けたり、LLMにすべてを委任してTikTokをスクロールしながら待つのか、どちらが重要かってことだ。

└

原則的には同意だけど、人間が実際に賢く使うかどうかは、どれだけ信じていいのかわからないな。

└

「メディアはメッセージである」っていうのが当てはまる…もしくはそのアイデアに似たアナロジーだね。確かに個人には選択肢がある。でも集団になると、ダイナミクスが生まれて、そのダイナミクスは通常、個人では克服できない。ソーシャルメディアは違う使い方ができるかもしれないけど、実際に存在する形は、メディアの性質や経済構造、個人のコントロール外の他の要因によって決まってる。

2年前、妻とその友達、非常に高い地位の女性VCパートナー、そして別の友達と一緒に飲んでたんだけど、なんだかAIについて深く話してたんだ。そのVCがある時、AIについてこう言ったんだ。「子供たちが何の仕事をするのか、全然わからない。どんな仕事が残るのかもわからない。」そのVCはAI企業に投資してて、聞いたところによるとすごく成功してるみたい。あのやり取りをずっと考えてる。自分の子供たちのことを心配しながら、彼らの利益に反する行動をとってる。なんか不安になったし、カイルの素晴らしい記事がその思いを再燃させた。編集: are->our

└

みんなが、なんで俺ができる限りのことをして、二度と自分の居場所を見つけようとしない世界を確保しようとしてるのか不思議がってる。

└

VCって、賢くて知的だっていうイメージはあんまりないよね。

└

「すごく成功してる」っていうのがそのままの意味なら、彼女がもっと正確に「あなたの子供たちが何の仕事をするのかわからない」って言ってたら、会話はもっとリアルになっただろうね。

└

> 自分の子供のことを心配してるけど、彼らの利益に反する行動をとってる。馬鹿げてる。君がいなくても実現する技術から富を得ることで、彼らの利益に反してるわけじゃないよ。

ハクソク