もっと多くの数学者が必要になるでしょう

確かに人間はそういうものを探求するのを楽しめるけど、本当に必要とされるのかな？

AIが私たちの知的生活に作り出す表面積は無限大だというのは同意するけど、このブレイブ・ニュー・ワールドは一部の人にはすごくワクワクするし、他の人にはディストピアに感じると思う。前者には、経済的報酬や地位よりも知的プロセスを重視する人たちが含まれるかもしれない。逆に、特にテクノロジーの分野では、自分の専門分野が消えてしまった人たちが多い。以前はレシピに従って技術的な仕事ができたけど、AIはそれを人間よりも遥かに得意としている。リンクされた記事では、人間の数学モデルの理解がいかに重要かを説明していて、ソフトウェアにも同じことが当てはまると思う。批判的に考えることができるソフトウェアエンジニアがもっと必要だね。

ちょっとした指摘だけど、テレンス・タオがこの記事を書いたわけじゃなくて、ゲスト投稿だよ。

電卓が初めて5の平方根を計算したときのことを想像してみて。回路が計算した結果が正しいか、何度も確認しただろうね。それが80年代になると、ボタンを2つ押すだけで、教室で考えずに結果が出るようになった。今の[現行世代] ANNがそんな風になったら、どんなにクレイジーな世界になるんだろう！素晴らしい考えだね。

1万個目は？「核融合プラント」がモデルが絶対に間違えないものになるのかな？参考までに言うと、1万のテラワット核融合プラントは、エネルギー生産の強度が気候に大きな影響を与えるレベルに近づくかもしれない（地球全体の太陽からの入力の約5%に相当する）。すべてのエネルギー源は、あるポイントを超えると汚くなる。十分なエネルギーを生産して地球を焼く方法を見つけるよりも、限られたエネルギー予算内でユートピアを築く方法を学ぶ方が賢明だと思うけど、私が何を言ってるんだ、私たちはこれを100万個も作るつもりだよ。

テレンス・タオは、研究における人間の関与が重要だと主張しているけど、なぜそうなのかはあまり説得力がないと思う。彼は「人間の行動は基本的に重要な価値だ」と言っていて、「AIのアイデアを一緒に理解できる繁栄する人間のコミュニティを築く必要がある」とも言ってる。これは正しさのためではなく、AIが私たちを超えるかもしれないから、私たちの意味や目的を取り戻す可能性のためだと思う。これには全く同意するけど、これは議論ではなく、価値観の表明だよね。残念ながら、厳しい現実は、もしAIが人間を超えたら、彼らを検証したり、再確認したりせずに、ただ言われたことをやるのが経済的に優位な戦略になるってことだと思う。ここには根本的な誤解があると思うし、これは分野内では自明のことのように思えるから、あまり説明されていないんだ。要するに、コードを書くことは目的のための手段であって、数学の研究はそうではなく、それ自体が目的なんだ。人間の関与が重要なのは、数学の研究の全目的が人間の数学の理解を深めることだから。興味があるから追求されるのであって、経済的に役立つからではない。この意味では、これは人文学にずっと近い。真偽を教えてくれるブラックボックスのオラクルは数学の目標ではなく、分野にとって特に面白くはないだろう（人間の理解を深めるために活用できる場合を除いて）。コーディングはこれとは全く異なり、基本的には常に目的のために行われる。製薬研究や材料科学など、実用的な目的のために問題を解決することを目指す多くの他の分野も同様だ。純粋数学は大体そんな感じじゃないんだよね。

AIがテラワットの核融合プラントを設計するなら、もちろん私たちはその詳細を徹底的に調べるだろう。でも、将来の聖杯AIがそれ以上のことができるとしたらどうだろう。癌の治療法を見つけたり、気候を修正したり、核融合プラントやダイソン球を作ったりできるとしたら。だけど、もう誰もそれがどう機能するのか理解できなくなる。私たちはただ頼んで、AIが提供してくれるのを信じる（いつもそうしてきたように）。そのシナリオでの生活がどうなるか想像するのは楽しくない？私たちはおそらく、コードやエンジニアリング、さらには物理学や数学にさえ関心を持たなくなるだろう。

LLMは新しいものを生み出さない。もしプログラマーがコードを読むのをやめたら、技術は2022年で凍結されたままになる。新しいプログラミング言語やオペレーティングシステム、並行処理のプリミティブ、データベース、ネットワークプロトコル、UIフレームワークなど、すべてがトレーニングデータに基づくことになり、未来の世代は今私たちが当たり前に思っているプリミティブを忘れてしまうだろう。もし誰かが新しいプログラミング言語やフレームワーク、あるいは新しいより良い非同期処理の方法を作ったとしても、トレーニングデータに含まれていないから誰も使わないし、LLMを使っているみんながいるから普及もしないだろう。まるで同じレゴのパーツを何度も使うようなものだ。

人間の意味や目的を取り戻す可能性があると思う。あなたが非常にうまく説明したように、人間は主に問題ではなく解決策に興味がある。車がどう動くかを理解しなくても、最大限に活用することはできる。ますます、コードのすべての行をレビューしなくても、それが正しいと自信を持てるようになってきている。でも、問題を理解することには本質的な価値がある。その努力は成長のための表面積を提供する。おそらく、それが私たちに実際に利用可能な唯一のものだ。解決策を提供する者はコントロールの中心を持ち、他の解決策提供者がいるときにのみバランスが取れる。私たちは確かに、その中に人間も含まれることを望んでいる。

2026年には、非常に少ない人がアセンブリを scrutinise する。コンパイラ生成コードは「十分良い」からだ。LLMは高水準言語でも同じことを始めている。特定のOSベンダーのデスクトップアプリは、過去10年ほど「十分良い」状態で出荷されてきたが、多くの場合、パフォーマンスはひどい。私たちは、エンドユーザーが受け取る完成したアプリの「十分良い」ルビコンを数年前に越えた。LLMが最終的に、動作するだけでなく効率的な高水準コードを生成する際の最後の効率のギャップを埋めてくれることを願っている。もしかしたら、コンパイラを呼び出すことなく最終的なバイナリを生成する未来があるかもしれない。