本文へ
ハクソク

世界を動かす技術を、日本語で。

みんなの頭がおかしくなった

元記事: 原文(netmeister.org)

概要

  • AI業界 の現状や問題点についての辛辣な批評
  • AI導入 による情報セキュリティ業界の非効率化と本質的な課題の無視
  • 環境負荷 や倫理問題、AI企業の偽善的な姿勢への批判
  • 人間のスキル低下 とAI依存の危険性
  • 根本的な改善策 の提案と現状への諦観

2026年9月16日:AI業界とセキュリティの現状批判

  • エンジニアリング経験のない人々 が「業界を変える」ソリューションを提案する現状

  • LinkedIn風のキャッチーなメール や記事が増加し、質の低下を招く状況

  • AIとの関わり が仕事の楽しさを奪う現実

  • Twilight Zone的な疎外感 を感じる日常

  • AI企業の倫理無視 と犯罪的行為が黙認される現実

  • 知的財産の搾取 とごく少数の米国企業・オリガルヒへの権力集中

  • AIモデル が児童性的虐待コンテンツ生成や軍事利用に加担する危険性

  • 企業の倫理無視 とROIを問わないAIチャットボット導入の現状

    • 「Project Sisyphus」や「Frontier Models」 によるAI脆弱性発見プロジェクトの効果に疑問
    • AnthropicやOpenAI による危険性アピール合戦とFOMOによるリソース投入
    • 数千件の脆弱性発見 にもかかわらず、根本的な安全性向上はなし
    • 情報セキュリティのボトルネック はパッチ適用の困難さにあり
  • 本来投資すべきは基礎的な運用改善

    • 資産管理の徹底 や 自動アップデート基盤の構築
    • 攻撃面の網羅的把握 や 定期的なシステム再起動
    • パッチ適用の自動化 など、基本的防御策の徹底不足
  • AI導入によるリソース分散 とチームワーク不全

AI規制と環境負荷への皮肉

  • AI企業自身による規制要請 の欺瞞
  • 本当に危険なら開発停止すべき という論理
  • 環境負荷の増大 とデータセンターによる水資源・大気汚染
  • グリーンウォッシュの消失 と規制緩和

AI依存による人間のスキル低下と将来への危機感

  • AIによる「超人的知能」 の2つの道筋
    • 理論的な自己改良型AI
    • 現実は人間の依存・思考停止 によるスキル低下
  • AIによる脆弱性発見→AIによるパッチ生成→AIによるレビュー という悪循環
  • 人間の理解喪失 とブラックボックス化
  • 複雑なシステムの障害時対応の困難さ
  • 倫理を無視して自己犠牲するつもりはない という決意

総括と皮肉

  • Claudeは意識を持たない という断言
  • AI導入の現実的なROIの低さ とLLMの限界
  • 「パッチ適用は難しい」 という根本問題の再指摘

参考リンク・脚注

  • パッチ適用の難しさ、 何をパッチすべきかの把握の困難さ に関する議論(HackerNews, Lobstersへのリンク)
  • LLMはGarbage-In/Garbage-Out であり、元のドキュメントが悪ければAIも無意味
  • カジノモデル としてのトークン消費の危険性

要点:AIの過剰導入や倫理無視、環境負荷増大、現場の本質的課題放置、そして人間のスキル低下への強い危機感と皮肉な諦観。

提供: ハクソク · 要約更新:

AIによる日本語要約です。内容は原文とあわせてご確認ください。

Hacker Newsの議論を読む

Hackerたちの意見

ずっと考えてることがあって、社会ってだいたい10年ごとにおかしくなる気がするんだよね。最初はいい理由があるんだけど、結局はみんなバカになって、忘れちゃって新しいサイクルが始まる。テロとの戦い、金融危機、暗号通貨、コロナ、今はAIだね。サイクルが短くなってる気もする。あと、歴史から学ぶのがほんとに下手くそで、10歳年上の人たちからも学ぼうとしないから、同じことを繰り返しちゃうんだろうね。だから「新しいバカが毎分生まれる」って言葉があるのかも。

└

もっと同情的な見方をしてるんだけど、コロナはもっとひどくなってたかもしれないと思ってる。もちろん、トイレットペーパーの不足でパニックになったようなバカな瞬間もあったけど、大多数の人は責任を持って行動してたと思う。おかげで問題を解決する革命的なワクチンも開発されたしね。社会的なPTSDも残ってるけど、コロナの後の課題のほとんどは、コロナ以前からあった潜在的な問題が浮き彫りになっただけだと思う。数十年後の世界は、コロナがなかった宇宙よりも強くなってると思うし、次のコロナレベルの脅威に対処するチャンスも実際に高くなってると思う。ある意味、これがそのことかもしれない。コロナは、見た目が健康な社会が必ずしも健康ではないことを証明したし、逆もまた然りだと思う。次の選挙の結果が、私たちがどれだけ進まなきゃいけないかを教えてくれるだろうね。

└

ジャーナリストたちが恐怖を煽って、一般人が自分たちの無力さを理解させるのはいつものこと。彼らは自分たちが何をしているか分かってるし、資金を出してる人たちもそれを知ってる。半分頭の働く人は、いつか私みたいなことを聞いて「なるほど、そういうことか」って思うんだよね。神話的なサイクルよりずっとシンプルで、「大衆の愚かさ」は意図的に作られた選択なんだ。昔は宗教団体、次は新聞、今はSNS。何千年も同じプレイブックが使われてきたし、何も変わってない。みんなの時間を節約するために言うけど、プレイブックは「お前は家畜、俺は羊飼い」ってこと。俺が主人で、お前は奴隷。もっと複雑じゃないよ。教育を受けた人たちが見落とすのは、ほとんどの人が主人になりたいってこと(自由って呼ぶ?アメリカのダブルスピークだね)。奴隷でいるのが嫌なだけで、奴隷制度そのものが嫌なわけじゃない。まあ、そんな感じ。

└

あなたのコメントは全く馬鹿げてるよ。共有した例はすべて、社会が対応するために進化してきた問題の例であって、何も「正気を失った」わけじゃない。あなたが挙げた概念はすべて生きているし、元気だよ。恐竜のような考え方は、変わりゆく社会に適応するのがいつも難しいんだ。

└

あなたに同意するけど、これは10年ごとじゃなくて4年ごとに起こると思う。90年代にこれに気づき始めたんだけど、コンピュータサイエンスの卒業生が業界に入ってきても、ソフトウェアの作り方が全く分からなかったんだよね。(もちろん、それ以降はもっと悪化したけど、90年代に気づき始めた。)古いものはすべて時代遅れだと捨てられ、新しいクールなものだけが重要視されてた。でも、誰も新しいクールなものをちゃんと使ったことがなかったから、すべては古いものの上で動いてた。(Unixは衰退して、みんなは「それが未来だ」と言ってMicrosoftの技術だけを学んでた…でも、結局そうじゃなかった。今では、ほとんどの人が21世紀のUnixワークステーションを使ってる。しかも、それを提供してくれたのはAppleという、意外にも簡単には死ななかった会社だ。)人々は、コンピュータ化を通じて世界を良くしたいから市場に入ったわけじゃなくて、「情報技術」という当時の新しい用語から得られるライフスタイルを求めてただけなんだ。それは単に「物質主義者のためのキャリアパス」を意味してた。問題は、コンピュータでは物質主義的でいることはできないってこと。コンピュータはほぼ完全に精神的なデバイスで、その価値は人間の価値判断によってのみ決まる。結局、すべての物理的ハードウェアの真の価値を決めるのは人間なんだ。私はこのサイクル的な忘却は物質主義的消費主義によって引き起こされていると思う。技術に対してあまり物質的でないアプローチを取る人たちは、長持ちするものを作る傾向がある。4年ごとに起こる理由は、誰かが学問のサイクルに入って、仕事に就いて大きなことを成し遂げる準備が整うまでの平均的な時間だからだと思う。あるいは…そうじゃないかも。

人事はまだゼロサムゲームで、みんなが自分の仕事に忙しくしてるけど、結局はクロスファンクショナルなコラボレーションやチームワークが必要なプロジェクトを解決するのには役立たないんだよね。これ、ほんとにその通りだと思う。

この投稿、めっちゃ共感する。エージェントを「指示」するのに疲れたって感じ。実際は幼児をまとめるみたいなもんだよね。確かに彼らは幼児よりはマシなコード書けるけど、常にちょっとした注意を促したり、リマインドしたり、一度きりのスクリプトのために会社全体の予算を使わせないようにしたりするのが疲れる。やってると頭がどんどん疲れていく気がする。早く終わるかもしれないけど、爆発的な下痢も早くクソを出す方法だしね。

└

AIは95%くらい作ってくれて、残りの5%をいじって遊ぶ感じ。特定のことに関してはまだAIの方が速いけど、なんか変な感じ。変なバグにイライラするのではなく、すべてをこなせるLLMが変な問題でつまずくのにイライラしてる。変な感じだけど、やっぱり速さは関連してるのかな?

└

主な問題は目的の対立だと思う。AI企業はもっとトークンを使わせたいから、改善するつもりはないんだよね。人々が使わなくなるギリギリのところまでモデルを最適化してるけど、そのラインを越えないようにしてる。これの証拠は、Claudeが必要のないタスクをたくさんやってることだよ。私たちが頼んだタスクをちゃんとやらない言い訳みたいなもんだね。

└

マネジメントへようこそ。

└

もしかしたら早いかもしれないけど、爆発的な下痢も早く糞を生産する方法だよね。今、約24のERP統合を含む新しいシステムの大規模なグローバル展開の真っ最中なんだ。私のチームのシステムは、別のシステムが先にオンラインになるのに依存してる。それから私たちが行って、統合がオンラインになって、大量のデータ移行があって、最後にすべてのテストがある。だから、依存関係がめちゃくちゃ多くて、私はその中で2番目なんだ。今日、最初のシステムがベンダーとの問題で予定通りにオンラインにならないって連絡が来た(私たちのドライランの展開は明日で、各依存関係が順番に進むから来週いっぱいかかる)。再来週が本番。私たちはその最初のシステムに深く統合されてはいないけど、いくつかの部分では関わってるから、先に行く理由があるんだ。あのシステムの周りで書くのは可能だけど、約5000行になる見込みで、そんなに多くはないけど、まだテストと承認が必要なんだ。オフショアのチームは寝てるし、彼らもオンショアも他の仕事があるから、引っ張ると他のことが遅れちゃう。ニュースを聞いたらすぐにエージェントに変更を頼んだら、ほぼ正しくやってくれた。オフショアのテスターと二回の修正を経て、PRが通ってマージされた。さっき(まさに5分前)ターゲットシステムに対してバリデーションを行ったら、明日の準備が整った。テスターには寝るように言って、その後HNを開いてコーラを開けた。あの時、私たちが持っていたコーディングエージェントがいなかったら、絶対にこんなことは起こらなかった。だから、AIがコードに取り組むスピードにはすごく価値を感じてる。完璧じゃない時もあるけどね。

└

私はすべてのエージェントコードをレビューして、自分でコミットしてる。特に、失敗しないように本当に気をつけたいときは、いくつかの機能を手動で書くこともある。例えば、認証や可観測性のためにね。また、開発を意図的に少し遅くするのが役立つこともわかった。新しいアイデアを実装するのに急がず、少なくとも数日間考える時間を自分に与えてあげて。

Hacker Newsで議論の続きを見る