ハクソク

世界を動かす技術を、日本語で。

ハイパースケーラーはすでに多くの有名なアメリカのメガプロジェクトを上回る支出をしている

Hackerたちの意見

このツイートはアメリカのGDPに対する割合を示してるね。ちょっとドラマチックさが減るけど、鉄道がどれだけ重要だったかもわかるよね!
でも、それって逆に過大評価になってない?GDPの推定が経済全体のアウトプットを測るのにあまり良くなかった時代の投資をGDPに対する割合で語るのはどうなんだろう。近代的な金融や所得税がなかった時代、ほとんどの労働が農業だった頃の話だよね…平均的な人が鉄道のコストを負担してたのは、今の平均的な納税者がF-35のコストを負担してるのより多かったのかな?(これはポールの投稿の別のラインだね。)
兄弟コメントでも誤解を招く比較について言及されてたね。総エネルギー出力の割合で比較するのはどう? https://www.sciencedirect.com/science/article/abs/pii/S09218...
鉄道と州間高速道路は、特に第2次効果において、最大かつ最も広範な影響を与えていると言えるね(ミシシッピ川の西側は、これがなかったら経済的に全然違ってたと思う)。俺はAI推進派じゃないけど、長期的にはAIも似たような効果をもたらすんじゃないかと思う。ただ、今進行中の巨大データセンター競争がそれを実現するかはちょっと疑問だな。
これを見ると、鉄道はGDPの約9%でピークを迎えているみたいだね。これは、他の出所不明の数字よりは低いけど、俺が自分で調べた数字よりはずっと高い。現代のGDPの概念は当時は存在しなかったから、これらの数字はすごく後から計算されたもので、かなりの余地があるんだ。今は鉄道に関しては、できるだけ高い数字を報告するインセンティブがある気がする。そうしないと、データセンターへの投資が過去のものとして見られないからね。
GDPの調整は必要だけど、推定よりももっとはっきりしてるよ。前の世代のメガプロジェクトは、何十年もかけて減価償却されてたし。50年以上前の鉄道や橋、トンネル、ダムなどのインフラが、最小限のメンテナンスで今も使われてるからね。現在の支出を年ごとに amortized すると、GPUの報告された減価償却スケジュールが6年(!)なのに対して、すべてを圧倒することになるよ。
> ちょっとドラマチックさが減るね。でも、鉄道がどれだけ大事だったかもわかる!リストにあるプログラムを考えると、共通点が見えてきて、逆にもっとドラマチックになるよ。* アポロ計画。政府資金の科学プロジェクト。投資回収は必要なし。* マンハッタン計画。政府資金の軍事プロジェクト。投資回収は必要なし。* F-35プログラム。政府資金の軍事プロジェクト。投資回収は必要なし。* ISS。政府資金の科学プロジェクト。投資回収は必要なし。* インターステート高速道路システム。政府資金のインフラプロジェクト。投資回収は必要なし。* マーシャルプラン。政府資金の外交政策プロジェクト。投資回収は必要なし。これらのプロジェクトの実際の投資回収は数十年の長期にわたるもので、経済発展や国家安全保障、科学の進歩が国全体、いや世界全体に利益をもたらすんだ。特にマーシャルプランを考えてみて。これは巨大な金の無駄遣いだけど、政府プロジェクトとしての性質上、損失を出しても大きな経済リスクなしに運営できて、非常に長期的な利益を目指せたんだ。昨年の1月まで77年間、配当を出し続けてたし、その配当はいつも明らかだったわけじゃない。ヨーロッパからアメリカへの好意が、ヨーロッパがアメリカのビッグテック企業に対して中国のような行動を取るのを防いできたんだ。多くの企業が「ダンピング」に頼ってヨーロッパの競争相手を追い出してたから、もっと敵対的なヨーロッパだったら、もっと保護主義的な措置を取って、中国のように自分たちのテックジャイアンツが生まれてたかもしれない。そして、除外された2つのプログラム、鉄道とAIデータセンターがある。民間企業は、50年後に利益が出るのを待ってる余裕なんてないからね。このスレッドの他のコメントでも指摘されてるけど、アメリカとヨーロッパの鉄道バブルが崩壊したとき、大きな経済問題が続いたんだ。OpenAIは(部分的な)投資回収が今年中に必要で、そうしないとIPOが失敗するリスクがある。もしそうなら、同じような大きな経済問題が確実に起こるよ。
鉄道の建設はもっと、なんていうか、具体的だったよね。ほとんどのお金は、何百万もの人を雇って鉄を溶かしたり、線路を敷いたり、橋を作ったり、山を爆破したりするのに使われたんだ。高いGPUの貨物を数回運ぶよりも、ずっとワクワクするよ。
ブロードバンドの普及や通信ネットワークが入ってないのは意外だね。特定のイベント内でコストを定量化するのが難しいのかな?
減価償却スケジュール: チューリップ: 数週間 GPU: 6年 ファイバー: 20-50年 鉄道、道路、橋: 50-100年以上 ハイパースケーラーは他のハードインフラよりチューリップに近いね。
どういうこと?陸路で物を運ぶのに他にどうするつもりなの?
これって完全にカテゴリーエラーな気がする。鉄道は、さまざまな民間企業によって主に行われたインフラの拡張という点で、実際に比較できる唯一の例だと思う。データセンターのブームと比較する価値があるものは、工場の建設や公共事業(20世紀前半の電化、上下水道、ガス管など)だよね。
「インフラの拡張」?これらのデータセンターに投入されるものは、10年も経たないうちに価値がなくなるよ。インフラすら得られないし、ただガスタービンで動かしてるだけだよね。
もう一つのカテゴリーエラーは、アメリカの人々が鉄道に莫大な補助金を支払って仕事を進めたことだよ。私たちは彼らにほぼ10%の領土を与えたんだから。
問題は、一度建設されると鉄道はすぐに経済的価値を提供したってことだね。これらのLLMが生み出している経済的価値について聞いてみたいな。数年経てば、実際に提供される価値に数字をつけ始めるには十分な時間だと思う。
ちなみに、鉄道は歴史上のいくつかの大銀行の崩壊の原因でもあったんだ。1873年の恐慌は文字通り「大不況」と呼ばれてた(もっと大きな不況が来るまで)。20年後には1893年の恐慌があったし、どちらも過剰投資とバブルの崩壊が原因で、たくさんの銀行やビジネスが倒れた。今、AIでも同じことが起きてるよね。巨額の投資がバブルを作り出してるけど、リターンがない。ソフトウェアとハードウェアが効率的になって安くなるから、価値が時間とともに下がるのはわかってる。今のところ、この投資がAIのユーザーにとって利益を生んでる証拠はないよ。人々がそれに気づくのは時間の問題で、バブルは崩壊するだろうね。バブルが崩壊したらどうなるんだろう?ほとんどの投資は銀行じゃなくて民間資本から来てるから、どこからその資本が来てるのかもわからない。だから、崩壊したときの外部要因もわからないんだ。(一つの可能性として、ハイパースケーラーやテックユニコーンのバランスシートが崩れたら、次に倒れるのは誰か?S&P 500の半分、つまりアメリカの家庭の30%の富がそこにかかってるし、それに加えてそれらのメガコープの上に築かれたすべてのビジネスと、彼らが雇っている人々も影響を受けるよね。)銀行が倒れるわけじゃないから、救済されることもないだろうし、影響はすぐに、そして無防備にやってくるだろうね。
なんかこれ、職場の人たちが「私たちはn時間でxバズリオンのことをやった」って言って、しばらく黙って、私たちがそのすごさに驚くのを期待してるのを思い出す。だからどうしたの?適切な比較がないと、それが特別かどうか評価できないよ。俺が分子を一つ一つ物として扱って、平均して1分間にどれだけのものを食べてるかを言ったとしても、説明しても誰もそれが特別だとは思わないだろう。
まあ、AI関連の支出が歴史上最大の資本動員であるのは確かだね。
https://xcancel.com/finmoorhouse/status/2044933442236776794
「データセンターのキャペックス」って具体的に何が含まれてるか知ってる人いる?特に、関連する発電にかかる費用も含まれてるのかな?AIブームがどう転んでも、もしたくさんの発電所(特に太陽光、風力、水力など)を建てたら、それは大きな勝利だと思う。
データセンターを太陽光や風力で運営するのは無理だよ(バッテリー込みでもね)。彼らが建設しているものは、みんなガスや石炭で動いてる。マスクがxAIのために運営しているのと同じようにね。
これは適切な支出とリスクなのかな?なんか、みんながAIに夢中になってて、冷静な判断ができてない気がしてきた。
そうは思わないな。YouTubeでエド・ジトロンがそのことについて rant してるのを見るのが好きなんだ。楽しいよ。
これは実際の支出なの?実際にお金が動いてるの?それとも「Xドル投資するって言った」ってだけ?循環的な合意についてはどうなの?
参考までに、アマゾン+マイクロソフト+アルファベット+メタ+オラクルの2025年までの5年間の総収入は…約6.5兆ドルだったよ。
ジャスティン・レバー(彼はxlaコンパイラを作ってOpenAIで働いてた)がこのテーマについて素晴らしいトークをしてるよ。 https://youtu.be/cyJU32ivIlk?si=gYuHtzMJIvaSqcht
このチャートにAppleの中国投資も見てみたいな。
この比較にはかなり大きな欠落があるね:核兵器。アメリカは1940年から1996年の間に、約12兆ドルを核兵器に使ったんだけど、そのほとんどが1950年代と1960年代初頭に集中してたんだ。 https://en.wikipedia.org/wiki/Nuclear_weapons_of_the_United_...