価値はあるけど、貢献に見合った報酬はもらえてないよね。同じことがピアレビューにも言える。

モデルはそれに関しても私たちよりずっと優れているだろう。これが本当かどうか気になるな。これらのモデルが生成するコードは、時間が経つにつれて本当にエレガントになっているわけじゃないし、むしろ、モデルは悪化しているように見える。時には本当にバロックなアーキテクチャを提案することもあるし。RLを使って正確さを最適化することはできるけど、雰囲気を最適化するのはもっと難しそうだね。

でも、それは短絡的だと思う。数年前にはモデルがこれを全くできなかったけど、結果を探求して洗練することが彼らの能力の外にあるという証拠はないと思う。OAIには明らかに財政的なインセンティブがあるけど、1年後にモデルからの結果に改善やより簡潔な作業が見られないと考えるのはどうかと思う。

コーディングの時みたいに、別のチャットボットに確認してもらうのはどう？

そうだね、オープンソースコミュニティと比べるのは簡単だよね。これは、限られた時間でトップの数学の天才を借りてるわけじゃないし、最大限に活用しなきゃってわけでもない。むしろ、これは新しい基準だよ。結果のアクセスがもはや希少じゃなくなった。希少性が変わって、その点に数学エコシステムも焦点を当てるべきだと思う。フロンティアコミュニティが、通常数学エコシステムが管理していたメッセージングパイプラインを占拠するのは良くないよね。「自分のレーンに留まれ」ってことじゃなくて、「一貫性が必要で、システムを壊さないように気をつけよう」ってことだと思う。基本的なレジの計算をいつでも間違えそうな人の意見だけど。

うん、確かにバランスの取れた見方だね。あの数千人の数学者たちも、自分たちのやり方がどうなるかを味わってるんだろうね。結局、機械学習や大規模言語モデルを開発したのは、特別な数学的才能を持った人たちだから、話したり書いたり教えたりして生計を立てている何億人もの人たちが将来の仕事の見通しに不安を感じてる。とはいえ、ほとんどの人は大丈夫だと思う。もしかしたら、AIが新しい予想を考え出すのも得意になるかもしれないし、数学者たちが応用数学や他の科学にシフトすることもあるかもね。

ある恣意的なベンチマーク（「Xの未解決問題を証明した」）を達成することに興味があるようだ > 数学に本当に貢献することとの違いは何？ 証明はもうゴールポストじゃないの？

冷戦の軍拡競争みたいなもんだね。素晴らしい技術が生まれたけど、実際の目標は正直言って恐ろしかった。

この議論は、近い将来にはおそらく成立しないいくつかの前提を暗黙のうちに持っている。1つは、AIが検証が難しい形で幻覚を見続けるということ。2つ目は、AIがより簡素で堅牢な出力を生み出すように強化されないこと。3つ目は、それを行うために人間が必要だということ。今、人間がやっていることはプロセスを検証し、ショートカットを提案し、検証プロセスを通じて正当性を追加することだ。それが成功すれば、将来的に数学者が必要なくなる可能性が高い。これが生産的でないという結論は数学者に焦点を当てているけど、実際には無数の時間を費やしていた優秀な頭脳たちが生み出した何百もの証明が生産されているという点では非常に生産的だよね。もちろん、これが史上最大の幻覚にならない限りだけど。

ただ数学コミュニティに証明を投げて、他の人に検証や洗練、拡張を期待するのは、分野を進めるためにはあまり生産的じゃないよね。これは移行期なんだ。数年後には、モデルのインスタンス間での検証や交換が人間が追いつけないほど早く進むようになる。人間の関与は倫理的な問題になり、生産性の問題ではなくなるだろう。なぜなら、それが科学のボトルネックになるから。