ハクソク

世界を動かす技術を、日本語で。

なぜ私たちはこんなことをしているのか？

2026年10月16日原文(terrytao.wordpress.com)

概要

  • OpenAIによる数学・物理分野へのAI導入の風刺的考察
  • Borgesの「バベルの図書館」と現代AIの比較
  • 研究成果の質より量が重視される現状への皮肉
  • 創造性や理解力の外部化による人間性の変容
  • 科学・数学の本質的意義についての再考促し

AIと現代アカデミアの皮肉

  • OpenAI が数学者の夢を叶えると称し、AIによる大量の事実生成を実現
  • 著者自身は数学者でなく理論物理学者 であると自己紹介
  • 子供の憧れが「企業ロボットが熱帯雨林を燃やし、真偽不明の事実リストを作ること」と皮肉
  • Jorge Luis Borges の「バベルの図書館」を引用し、無限の知識データベースの概念を紹介
  • その図書館には正しい証明や理論だけでなく、誤った証明や誤解を招く情報も無数に含まれる
  • OpenAI は全ての論文を生成する代わりに、見た目が正しそうなものを効率的に生成する方法を発見
  • 論文の正確性や理解の確認作業を 数学コミュニティに外注 することで効率化
  • 論文が人間にとって理解しやすいかどうかは二の次とされる風潮への批判
  • 研究成果の質や美しさよりも、「知識のフロンティアを広げる」ことが最優先とされる現状
  • 著者自身も、宇宙や自然の美しさを学ぶためでなく、 「知識フロンティアへの奉仕」 を目的に物理学者になったと述懐

研究・創造性の効率化と人間性の喪失

  • 数学や科学は「冷徹な答えを出すこと」が目的とされ、芸術や文学も「消費されるコンテンツ」として扱われる
  • 創造や学び、感動といった非効率的要素 は排除されつつあるという指摘
  • LLM（大規模言語モデル）はこれらの「非効率性」に縛られず、単なる生産性向上ツールとして機能
  • AIが人間の「好奇心・創造性・理解力」を肩代わりし、人間はより 生産性や価値創出 に集中できると皮肉
  • 未来にはChatGPTが「夕日や美味しい食事を代わりに楽しむ」ことで人間の時間を節約する世界観を提示

新しい人間像と科学の目的

  • AIによる問題解決後、人間は「定量分析」「スポーツベッティングアプリ開発」「AI生成コンテンツ消費」「SNSでの議論」などに専念
  • これは単なる数学や物理の話ではなく、「人間とは何か」の再定義に関わる問題
  • 好奇心・創造性・理解力の外部化 によって、人間は「価値創出」「生産性最大化」「進歩加速」へと特化
  • その究極のゴールは「誰も読まないバベルの図書館的知識リポジトリ」の完成
  • 科学・数学の本質的意義 を再考する重要性を強調

謝辞とメッセージ

  • Rikab Gambhir （@finitephysicist）による寄稿
  • Terry Tao、Rachel Ward、Radha Mastandrea、Benoit Assi、Manuel Szewc、Jure Zupan、Jesse Thalerへの謝辞
  • 最後に「なぜ科学や数学の道を選んだのか、原点を思い出してほしい」と読者に呼びかけ

Hackerたちの意見

AIがすべての問題を解決した今、私たちはもっと重要な仕事に専念できるようになった。量的金融に進出したり、スポーツベッティングアプリを作ったり、AI生成のTikTokショートを楽しんだり、Twitterで政治的なボットと議論したりすることだ。暗い話だけど、これが社会の進むべき方向なんだよね。

└

芸術的な追求やサブカルチャー、ピックアップリーグなど、楽しむ自由はたくさんあるよ。定番の道から外れれば、AIに汚染されていない様々な方法で人生を楽しんでいる人たちが見つかるはず。

└

誰かがストレスを発散したかったのは分かるけど、これって単に「未来には自由意志がなくなって、SNS企業が強制的にオンラインにさせる」っていう古典的な話に行き着いてるだけだよね。中毒性のあるアルゴリズムはフェンタニルとは違うし、アプリは5秒でアンインストールできて、再インストールには最低でも2分かかるから、実際にそれに時間を使いたいか再考する時間があるんだ。TikTokみたいなアプリの有害さは、コンテンツの質じゃなくて、筋肉の記憶から来てる。親指はアプリアイコンの位置を知ってるし、アプリを開くのは考えるよりも早い（文字通り）。だから、オフロードやアンインストールはこれを非常に効果的に壊す。プラットフォームに留まる唯一の理由は、ソーシャルコネクションだよ。誰かがInstagramやSnapchatをアンインストールしたことで不快になるなら、その人は良い友達じゃない。

└

彼は一つ忘れてる、「誰もプレイしないAIのスロップゲームを作ること」。その通りだ。

└

AIがすべての問題を解決した今、AIがまだ解決していない問題を見つけるのを自分の問題にしなよ。問題解決！

この記事の感情にはあまり共感できないし、伝え方もかなり皮肉っぽいけど、バベルの図書館の話はこの面白いサイトを思い出させた。 https://libraryofbabel.info

すごくいい風刺だね。まだ人間らしさを持った人がいるのが嬉しい。NYTにはこれを再掲載してほしいな。

すごくよく書けてるし、深いし、面白いし、悲しい。 > 星を見上げて驚いたり、複雑なパズルゲームを楽しんだり、励ましてくれる先生に感動したり、いつか無感情な企業ロボットが熱帯雨林を焼いて、700個のほとんど読めない事実のリストを作る夢を見たりする。これらはIPOのためのマーケティングギミックとして盛り上げるためのものだ。 でも、批判するならこの部分かな。 > 人類の知識をできるだけ早く進めることを追求する中で、多くの学者は結果を人間に理解できるようにするために時間を使う価値があるという提案に怒りを覚えるだろう。結果を説明したり確認したりするのは非効率的で、そのリソースを使って別の結果を生成した方がいいから。明らかに馬鹿げてるけど、これだけじゃ足りないと思う。問題は、人々が気にしないことでも、AIの結果を人間に説明するためにリソースを使うべきじゃないことでもない。問題は、AIがすぐに自分自身を人間よりも上手に説明できるようになることだ。そうなると、パズルは「AIが証明を正式に検証して説明できるか」から「人間はその証明を信頼するか」に変わる。私たちはその証明が正しいと信じるのか、それとも私たちの理解を超えたトリックを使ったAIの幻覚なのか。信頼するためには、正式な検証だけでは不十分で、人間が理解できるものでなければならない。実際、人間の理解可能性だけが重要なんだ。それはAIが独自にできることじゃない。

└

信頼するためには、形式的な検証だけでは不十分で、人間が理解できるものでなければならない。形式的な検証の本質は、ほとんどの作業を理解する必要を取り除くことだ。問題の定義、証明の検証者、結果の形式化を信頼すればいい。人間が高いレベルで理解できる証明の検証者はすでに存在していて、問題の定義と結果の形式化は完全な証明よりもずっと簡単だ。ナビエ-ストークス方程式が破綻する可能性があると自信を持って言えるのは、Leanが正しく動作することに自信があるからだし、数学者たちが問題の定義と結果を正しく検証したことにも自信があるからだ。実際の証明がまだ人間によって検証されていない（私の知る限りでは）にもかかわらず、「人間が読める」バージョンが形式的な証明に実際には対応していないにもかかわらず、形式的な手法は機能した。

└

数学を理解することは「良い説明を用意する」だけじゃない。人々は数学の本質を根本的に誤解している。数学は、一般の人々の日常の追求のように「平坦」ではなく、以前の概念の上に積み上げていくものだ。つまり、AIは神託のようなもので、いろんなことを教えてくれるけど、たぶん理解できないから、正しく行動できないんだよね。

└

人間の理解を進めることには賛成だけど、機械の理解が遅れてもいいと思う。でも、機械が私たちが理解できない何かを理解していることを証明する方法がある。それは、私たちができない機能的なものを作らせることだ。もし仮に未来に癌を治す治療光線を機械に作らせて、それがうまくいったら、それ自体が勝利だと思う。そしたら、どうやってそれが機能するのか理解するのにどれだけ時間がかかってもいい。ちょっと落ち込むし無力感もあるけど、全体的にはその未来に満足できると思う。

└

あなたの最後の文、「それはAIが自分だけでできることではない。」は、決して「決して」とは言わない方がいいよ…。

Hacker Newsで議論の続きを見る