GLM 5.3 Flashでの1ヶ月間のコーディング

うーん、言い換えた方がいいかも。最初の課題はGLM 5.3 Flashを使うことだったんだけど、ずっと非Flashバージョンでビルドしてたんだ。注意を払ってなかったし、一回のセッションが月の支出の四分の一で、予算の150%になってるなんて気づかなかった（モデル間の価格差が大きい）。

同意するけど、使用量がこんなに早く増えてるのは心配だな。2ヶ月前はトークンを10分の1しか使ってなかったし、推論に使うエネルギーも多くて5kWhくらいだった。今月は推論に約30kWh使ってる。もっと手頃になったら、また跳ね上がるのかな？ちょっと不安。

あなたが話してるのは変動する直接エネルギーだけだね。データセンターの建設、冷却の運用、チップの製造、チップが未利用の割合など、ライフサイクル全体を考慮に入れてるの？

これに関連して：中国とアメリカの違いをここで見てみて：https://aidatacenterindex.com/compare/united-states-vs-china... 中国はAIのエネルギー効率（コストも含めて）でなんだか先を行ってる気がする。結局、両者は直接競争してるし、この違いは大きいよね。もしかして、アメリカのエネルギーを大量に消費するデータセンターの「ハイパースケーリング」はバブルの一部なのかな？

「AIデータセンターの世界への影響」っていうのは大げさに言われすぎてて、ここを見ると工業化の歴史の中での新技術の中で最も影響が少ないってわかるよ。

普通の家庭用ヒートポンプ/エアコンを1時間運転するか、ゲーミングPCで8時間遊ぶのと同じくらい。そう、データセンターのリソース使用に関するプロパガンダは真実を大きく上回ってるから、裏で興味を持ってる人たちがいるんじゃないかと思う。

AIデータセンターの建設はギガワット単位だよ。1.21 GWのデータセンターは、単一ユーザーの平均負荷5.5 W（1ヶ月で4 kWh）を約2億倍にする。明らかに、広く分散された負荷は周囲の環境に与える影響がずっと少ないよ。ちなみに、記事によるとフルGLM 5.3モデルは「10倍から100倍」の範囲にあるらしい。だから、これは現実的な範囲内だね。

AIデータセンターの影響についての話があるけど、これを実現するためには10倍から100倍のエネルギーが必要だと思うよ。ここまではうまくいってたのに、これが出てきた。スケールで見ると、すべてが環境に影響を与えるから、悪影響を集中させて、良い影響を分散させることになる。これは重要なことだけど、データセンターが地域のインフラや環境に与える熱や騒音、影響の量を隠してるんだよね。

Neuralwattでの旅の中で（彼が使ってるのは多分私たちで、私がCTOだから）、メディアに出てることと実際の現場との間に大きなギャップがあることにすぐ気づいたよ。メディアはAIの話題に関して、最悪のケースを基にした未来の予測が多いけど、実際には現場で見ていることとは違う。私たちは、エネルギーの制約（パフォーマンスを維持しながらトークン/ジュールを最大化することを含む）が現在のデータセンターでどう現れているかに焦点を当てて、エネルギーをもっと有効に使う方法を提供してるんだ。だから、今は影響の問題というより技術的な制約の問題だと思うし、メディアの報道はもっと良くなるべきだと思う。純粋なエネルギーコストに対する総コストは桁違いだけど、データセンターではエネルギーが純粋な商品で、他のほとんどのコンポーネントは供給不足から大きなマージンがある。時間が経つにつれて、これが近づくかもしれない（ハードウェアの競争がマージンを下げるかも）けど、エネルギーがボトルネックになるかもしれない（エネルギー価格が上がる）。

家に5090をスマートプラグに接続してQwen3.8 27Bを使ったエージェントコーディング用のコンピュータがある。忙しい日は約5kWh使うけど、ほとんどの日は約2kWhだよ。クラウドの方が効率的だと思う。並行して多くのストリームを動かす効率があるし、モデルによっては27Bより少ないアクティブパラメータもあるから、非GPUコンポーネントの電力消費ももっと多くのGPUに分散されてる。でも、推論プロバイダーから得られるエネルギー使用量はちょっと「美化」されてると思う。結局、彼らは政治的な戦いをしていて、全然悪くないってことを示さなきゃいけないからね。とはいえ、今年のモデルの驚くべき進歩を見てると、計画されている拡張はちょっと過剰だと思う。私のゲーミングハードウェアでも、指示を出すのが足りなくなることが多いし、モデルが賢くなるほど、ハードウェアを使い切るのが難しくなる。これはAIにどんなタスクを与えられるかの創造性の欠如から来てるのかな？少しはそうかもしれないけど、今はそんなに遠くないとは思えない。