ハクソク

世界を動かす技術を、日本語で。

問題はAIコードではなく、システムアーキテクチャや意図を理解していないことです。

2026年9月29日原文(ssp.sh)

概要

  • AIによるコード生成 が普及する中で、 システム設計意図の喪失 が問題視される現状。
  • エンジニアリング現場 ではAI任せの開発が進行し、 人間の理解や主体性が低下。
  • Data Engineering は例外的に知識重視の傾向が残るが、AIの影響も拡大中。
  • プロダクトマネージャー がAIで何でも作れる時代だが、 基礎知識の重要性 は依然として高い。
  • 最終的な課題は保守性 であり、AIは自己駆動できないため 人間の指揮が不可欠。

コードを書く時代の終焉とAI開発の課題

  • AIがコードベースを生成 する現場が増加、設計意図や全体像の理解が薄れる傾向。
  • AIによるコード品質 は平均的で、既存の低品質コードベースはAIで改善可能。
  • 本質的な問題 はAIコードではなく、 人間がシステムを理解しなくなること。
  • 計画性の喪失 や「とりあえずAIに聞く」文化の蔓延。
  • ClaudeなどLLM依存 が進み、誰も全体像や意図を把握しない状況。

スタートアップや大企業での現状

  • スピード重視の現場 では、 AIによる仕様・実装・テスト・チケット管理 が主流。
  • エンジニア全員が同じようにAIと対話 し、独自の意思決定やバグ修正が減少。
  • 成果物の出荷が最優先 で、 コードレビューや理解の時間が与えられない。
  • モチベーション低下 や「勝利感の消失」、 思考停止状態 が蔓延。

Data Engineeringの特殊性

  • Hoyt Emersonの指摘 通り、 Data Engineering はプロダクト全体やビジネス知識が必須。
  • AIは摩擦を減らすが、知識の蓄積が薄れるリスク。
  • AI時代に新規参入する人 は、従来必要だった知識を持たずに進める傾向。

プロダクトマネージャーとAI

  • Sean Behanの意見 ： プロダクトマネージャー はAIを活用して自分のアイデアを形にできる時代。
  • 設計・言語・アーキテクチャの選定ミス が致命的な問題を引き起こす可能性。
  • 基礎知識や設計力の重要性 は依然として変わらない。

最後に立ちはだかる「保守性」

  • システム思考や設計意図の重要性 が増大。
  • AIによる手書きコードの終焉 が叫ばれるが、 人間の「センス」や「設計力」 が不可欠。
  • 保守性の確保 が最終的な課題であり、 知識の継承がなければ破綻。

AIによる自律開発の限界

  • AIは自分自身をプロンプトできない ため、 人間の指揮・設計・意図付与が必要。
  • 設計意図やアーキテクチャ、センスの欠如 はリスクを増大させる。
  • ジュニア人材の採用不足 が問題の一因とも指摘。

参考・関連リソース

  • Kris Jenkins による「Danger of AI or LLMs」
  • If Consumed by a Human, Should Be Written by Human
  • What I Learned Writing with AI
  • the primagen video and Limitations of LLMs and AI

Hackerたちの意見

毎日これを見てるんだよね。問題は、コードが私たちのやってる仕事に対して間違った抽象化だってこと。LLMはコーディングを解決したけど、システムやコラボレーション、システムメンテナンスはまだ解決してない。追記：なんか神経に触れたみたいだから言っとくけど、これを解決するプロジェクトに取り組んでるんだ。興味があれば、私の考えをここで見てみて：https://www.archme.io

└

「コーディングを解決した」って言うけど、それってどういう意味？どんな感じなの？比喩的に聞こえるから、強く反対したい。まるで「ライティングも解決した」って言ってるみたい。

└

もっと広く言うと、LLMは根本的に「理解していない」。理解をシミュレートしてテキストやコードを生成することはできるけど、何かに全体的に関与したり「所有」する意志は持っていない。

└

無限の安価なジュニア開発者によって何が解決されているか、または解決されていないかを想像するのが役立つと思う。ただし、少し悪化している。彼らは図書館で一人で育てられ、ほとんど同じように行動し、個人的な成長には厳しい制限があるから。

└

たとえ彼らがそれを「解決」したとしても、問題はそれを「知っている」のがチームではなくLLMだってこと。これがコーディングの問題と本質的に同じなんだ。すべてを引き受けてやってしまうエージェントモデルは、効果的な長期チームワークにとって有害だ。彼らが生み出す仕事の質の問題を超えて、彼らが人間の実践にどのように統合されるか（あるいは統合されないか）が重要なんだ。

└

「問題は、コードが私たちの仕事にとって間違った抽象化だということ」 私のチームは最近、TensorFlow Liteが意味不明なOpenCLカーネルを生成している理由を探るのに2週間も無駄にしたんだ。結局、LLVMに私たちのプラットフォーム用のRISC-Vアセンブリにいくつかバグがあって、それがサイレントゴミにつながっていたことが判明した。アセンブリダンプやヘックスダンプを徹底的に調べたり、苦労してデバッグしたり、TensorFlow Liteのソースコードを確認したりして、これを追跡するのに時間がかかった。あなたの意見では、コードが間違った抽象化であるなら、このシナリオにはどうアプローチする？

└

アウトソーシングはずっと前にコーディングの問題を解決したよ。Fiverrに行けば、リアルな人間の開発者を時給2ドルで頼むことができる。LLMよりも安いよ！

土曜日にぼんやり考えてたんだけど、職場での決定の系譜を辿ろうとしてたんだ。コードの変更自体は特に重要じゃないけど、要するに、私たちの製品のAI機能についてのことだった。コードは、プロンプトに基づいてClaudeによって作られたものだった。プロンプトは、AtlassianのAI統合で生成されたチケット用だった。AtlassianはAIで作成されたドキュメントを処理してた。そのドキュメントは、私が90%確信してるのは、Claudeが完全に書いた戦略メモから来てる。戦略は経営陣がエグゼクティブリーダーシップの要請で選んだものだ。今、エグゼクティブたちは主にAIが書いたメモでコミュニケーションを取ってる。彼らがどうやって決定を下しているのかは分からないけど、テクノロジーのインフルエンサーや市場の状況、顧客の期待を参照している。これには考えさせられた。じゃあ、実際に誰が決定を下したの？人間のレビューは何層かあったかもしれないけど、実際の決定の源を特定するのは難しかった。私たちはその機能を作りたかったからではなく、他の人が期待していると思ったから作ってた。市場の状況を反映することが、実際に誰がコントロールしているのかを示すかもしれないと思った。2026年の投資家や顧客の期待はどこから来るのか？テクノロジーの分野では非常に曖昧だ。ハイプがあるように見える。信者からのハイプもあれば、シニカルな人たちからのものもある。でも、どちらも市場のインセンティブに反応していて、ますます大きな主張をすることに報酬が与えられている。市場の「アクション」はどこから来るの？何が原動力なの？投資家はテクノロジーが何であるか、またその限界を本当に理解しているようには見えない。中には受動的なオペレーターもいるし、他は市場の全体的な熱気や投機に反応しているだけで、それがフィードバックサイクルを引き起こしている。これには迷ってしまった。このエコシステムの中で、実際に誰もコントロールしていないんじゃないかと思った。誰も実際の具体的な目標に向けて仕事や行動を方向付けていない。すべてが未来への投機や不安に基づいている。だから、コードが何をするのかを理解している人がいないだけじゃなくて、動機を説明することもできない。ここには「意図」の形が存在しないように思える。すべてが空洞になっていて、理解できない機械や理解できないインセンティブに置き換えられてしまった。皮肉なことに、私たちが避けるべき「ミスマッチ」なスーパーインテリジェンスに似ている。

└

この会社では、新しいバリュープロポジションを開発するのに苦労しているけど、残念ながらみんなAIを露骨に使ってるんだよね。経営陣や管理職が急いで進めるようにプレッシャーをかけてくると、さらに悪化する。プレゼンやドキュメント、モックアップも全部AIを使って、文脈を与えては繰り返すけど、何も進んでない。結局、静止したままなんだよね。

└

anecdotalだけど、業界の人たちが「今の仕事はすごく簡単」って言ってるのを知ってる。だって、彼らがやることは、クラウドのための肉の代理人になって給料をもらうだけだから。AIで書かれた質問？それにAIで答えて返すだけ。実際には何についてだったのか - 誰が気にする？バグが入った？クラウドにJIRAのリンクをポストして、他のことを促すことすらしない。何か重大な問題が起きたら - まあ、その時に対処すればいいや。早期退職（FIRE）、解雇は避けられないという予測、そして実際に働くことから逃れるために積極的に投資することが、同時に語られることが多い。みんな、壁を叩いて銅線をできるだけ引き出そうとしてる感じで、最終的には解雇されるか、会社全体が失敗するまで続く。今の業界には多くのニヒリズムとシニシズムがあって、LLMがそれを助長しているように感じる。以前は中途半端な仕事をしていたところが、今はチェックなしのAIの仕事をするようになってる。

└

今、役員たちはほとんどAIが書いたメモでコミュニケーションをとってる 役員チームや同僚からAIが書いた返事をもらうと、ほんとにイライラする。

└

一言で言うと、デイヴィッド・ヒュームの「あるべきか、ある」という問題。データは存在するものを説明できるけど、あなたが何を大切に思っているかは教えてくれない。あなたが説明しているのは、違いが分からず、機械（データ）に価値判断を任せている人たちだよ。

Hacker Newsで議論の続きを見る