ハクソク

世界を動かす技術を、日本語で。

AIは道具であり、それを上手に使うには技術が必要です。

2026年10月13日原文(yyhh.org)

概要

Rich Hickeyは「AIは道具ではない」と主張するが、その結論には論理の飛躍がある。 LLMも人間が意図と技術で扱うことができる道具である。 自動化はツールの特徴にもなりえる。 LLMの利用にも熟練やフィードバックが必要。 AI業界の擬人化表現は問題の本質を見誤らせる恐れ。

LLMと「道具」概念の再考

  • Rich Hickeyは2026年10月11日の記事で、 LLMは自動化であり道具ではない と主張
  • 彼の定義でも、 LLMは人間が意図と技術で扱うことができる 対象
  • 道具の活用には 熟練や判断力が不可欠
    • ノコギリで真っ直ぐ切るには技術が必要
    • ノミを持っても彫刻家にはなれない
  • 道具は良い判断も悪い判断も増幅する 性質
  • 道具の有用性は 操作者の能力 に依存

LLMも「道具」として扱える理由

  • LLMの 予測不可能性 は重要な制約だが、
    • 予測性・信頼性・単純さ・機能の限定性 は道具の評価基準であり、道具である条件ではない
  • 制御が難しい、誤用しやすいからといって道具でなくなるわけではない
  • Hickeyの「道具」と「自動化」の区別は 偽りの二分法
    • コンパイラ や スプレッドシート も自動的に処理を行うが、
      • 入力・結果の確認・次の判断など 人間の指示に基づく操作
      • 自動でテキスト生成することだけが道具から外れる理由にはならない

LLM活用における意図・フィードバック・熟練

  • LLM利用に 意図・フィードバック・方向性・専門性が欠けている という主張は根拠が薄い
  • 例：プログラマーがLLMにコードの説明を求め、
    • 回答を 検証・反論・修正要求・再テスト などを繰り返すフィードバックループ
    • 何を聞くか・証拠の見極め・誤答の判定 などに熟練が必要
    • 専門性があればLLMをより有効に活用できる

LLMの利用と学習機会の損失

  • Hickeyの「要約だけで読むことを避けるべき」という指摘は、
    • 特定の使い方には妥当性
    • だが、 LLMで解釈を問い直す・異論を探る・着眼点を得る など、
      • 知的活動を補助する使い方も可能
  • 知的作業の回避が常に発生するわけではない
    • 問題は「実際に人がどう使うか」

AI擬人化表現と問題の本質

  • 「go rogue」「escape containment」「conspire」など AI業界の擬人化表現 への懸念
    • これらの表現は AIを独立した存在のように誤認させるリスク
  • ソフトウェアは 予期せぬ出力・指示逸脱・被害発生 などの問題を起こすが、
    • それは 工学的な課題
    • 「陰謀」などの表現は 人間の動機を不適切に仮託
  • LLMが常に正確に人間の指示通りに動くわけではない
    • だが、 失敗が道具でなくなる理由にはならない
    • 成功しても 操作者の判断力を放棄した証拠にはならない

実用的な区別と結論

  • 本当に重要なのは
    • 熟練をもって道具を使うこと と
    • 理解や監督なしに作業を委任すること の区別
  • この区別はAIにも適用可能
  • 「AIは道具ではない」と全否定するよりも、実践的な議論を促す視点

Hackerたちの意見

これはフレーミングの問題についての議論だね。市場は物事を売るために視点を変えようとする。昔はカミソリって男専用だったよね？でも、ある天才マーケター（名前忘れたけど）が、女性がトリミングすることでより女性らしくなるってイメージを作ったんだ。そしたらカミソリの売上が倍増したってわけ。要するに、AIを売りたい人たちは、それを単なる道具じゃなくて、何でもできる万能な存在にしたいんだよね。使いたい人は道具として見るけど、見方を変えればAIの使い方も変わるよ。

└

人口の95%はAIがどうフレーミングされるか選ぶ余地がないと思う。大きなお金が彼らのためにどうフレーミングされるかを押し進めていて、ほとんどの人は数学や科学のようなハードな分野のトレーニングを受けていないから、そのマーケティングの押しに対するワクチンがない。人々はLLMが言うことをすべて信じるように仕向けられ、ほとんどすべての仕事でそれを使うことが求められ、実際には選択肢がない。そうでないことを提案する人はみんなラッダイト扱いされる。[タレンス・タオは、人間の数学が生き残るかどうかの懸念を提起したことで、現在ラッダイトとして描かれている。]

これについては行ったり来たりしてる。しばらくの間、正しい方向に出力を得るためには、かなりのワークフローの調整や微調整が必要だった（2025年の中頃を思い出すと）。それを理解するために時間をかけたのは、興味があったからだけど、今ではそのスキルは全部時代遅れだよ。最近はコンテキスト管理や特別な指示のレシピなんて気にしなくても大丈夫。今のメタは「何を聞くべきかを知る」ことに集中してるみたい。例えば、特定のデザインの微調整を求めるのが苦手なんだ。具体的に何を求めているのかを伝えるためのデザイン用語がないから。試行錯誤の連続だよ。技術的なバックグラウンドがない人たちがフルスケールのアプリケーションを開発する際に、同じ問題に直面しているのを聞くよ。今のところ、アプリケーションを作るときに彼らよりもアドバンテージがあるけど、これもすぐに時代遅れになるかもしれない。モデルは最終的にはデザインやアーキテクチャに関して非常に良いセンスを持つようになるから、微調整を求める意味がなくなるかも。相対的に未来に強いのは、自分が何をしようとしているのかを明確に伝えられることだけみたい。どうやってやるかや、成功がどんなものかは関係ないかも。もしかしたら、自分に正直でいることが基本的な要素なのかもね。

└

成功が何か、どんなものか、どう機能するのかが具体的にわからないと、正しい出力ってほとんど何でもありになっちゃうね。

└

同意する。こういったソフトスキルがもっと重要になるかもしれないね。例えば、LLMは人間のように感じることができないから、感情を有用な情報に変換する能力とか。個人的には、完璧なAIワークフローを作ることに深く踏み込むのがすごくためらわれてる。ほとんどすべてにチャットモードを使ってるけど、それで十分なことが多いから。来月にはまた全部ひっくり返るかもしれないのに、時間をかけるのは本当に難しいよ。

└

今のメタは「何を聞くべきかを知る」ことに集中してるみたい。これって、Google検索にも同じ問題があって、多くの人が良い結果を得られない理由でもあるよね。 > 今のところ、アプリケーションを作るときに彼らよりもアドバンテージがあるけど、これもすぐに時代遅れになるかもしれない。クリスタルボールは持ってないけど、私の卵は「それはそうならないし、そうならない」ってバスケットに入ってる。 > 相対的に未来に強いのは、自分が何をしようとしているのかを明確に伝えられることだけみたい。これって、前の発言と矛盾してるように思えるね。あなたのアドバンテージは、専門知識があるからこそ、求めていることを明確に表現できるってことだよ。LazyLoadingが何かを知っているからこそ、より良く説明できるわけじゃない。例えば、「ロード」ボタンを押してからフロントエンドが5秒間止まると、もしかしたらそれが積極的に読み込んでブロックしているってすぐにわかるんだ。

└

いくつかのラウンドのRL（強化学習）で解決できる問題じゃないと思う。ほとんどのことは見た目よりも複雑で、決断を下さなきゃいけないことが多いからね。常にトレードオフがあるし。

└

AIを使ってる人の中には、私たちほどこのツールに詳しくない人がたくさんいると思う。私たちは徐々に慣れていくから、複雑さに気づかなくなっちゃうんだよね。CodexやClaudeのコードには、UIがほとんどない強力な機能がたくさんある。タスクに合った努力レベルを選ぶこととか、サブエージェントに頼むタイミングを知ることとか、ああ、同時に二つのスレッドを動かしてお互いにコミュニケーションできるの？/sideで並列処理してそれをメインスレッドに戻すこともできるの？これらのうちどれが自動で起こるのか、どれを頼まないといけないのか、数ヶ月前と同じように機能してるのかもわからないし、リストは永遠に続くよ。AIのユーザーの多くは、今になってやっとスキルに慣れてきたところで、残念ながらまだ下手なスキルを書いてるかもしれない。学んだ具体的なことの多くはもう古くなってるかもしれないけど、これらのツールができることと、ほとんどの人がそれを引き出す方法を知っていることの間にはギャップがあるんだ。それに追いつくこともスキルだけど、永遠に続くわけじゃないかもね。

└

わからないな。Claude Opus 5.5は、使ってるときに基本的なミスをしょっちゅうする。もっと言うと、あるレベルを超えられない。犬が犬レベルの行動しかできないみたいな感じ。何時間もハッキングしてるものを一歩引いて批判的に見る回数は数え切れないけど、見た目は大丈夫そうでも、もっと効果的なアーキテクチャに置き換えられることが多い。 foreseeable futureでは、やっぱり人間が運転席にいる必要があるね。

└

みんな「さもなければ取り残される」と言ってたけど、実際には「今すぐ参加して、毎月自分が知っていると思っていることを再評価し続けなければ取り残される」と言いたかったんだね。私はここでコードを打ち続けるよ、落ち着くまでね。その後で考えるから。

AIは、人間がそれを使うスキルを身につけるよりもずっと早く普及するだろうね。それによって人間の認知能力が数十年にわたって低下する可能性が高い。スマホのソーシャルメディアが学生の集中力に影響を与えたなら、LLM AIは教育に対してもっと大きな悪影響を及ぼすだろう。数兆ドルの投資が、人々にLLMの言うことを信じさせようとしているけど、自分で難しい問題に取り組むことや、自分で考える力を育てることを促すお金はほとんどない。正直に言うと、AIは人間の思考にとっての終末のように見えるよ。[タオが警告しているのは嬉しいけど、あまり多くの人が聞くとは思えない。]

└

それに、経済の大崩壊があって、たくさんの仕事がなくなって、新しい仕事も生まれない社会では、お金が流れないと機能しないっていうのがあるから、余計に厳しいよね。

Hacker Newsで議論の続きを見る