本当に、もし一人の政治家が「RAMの価格を下げる！」って言ったら、子犬を撃ったり侮辱的なことを言ったとしても、私はその人のためにドアノックしに行くよ。メモリ会社は何度も価格を固定してきたし、数億ドルの罰金も払ってる。ウィキペディアにもそのページがあるよ。 https://en.wikipedia.org/wiki/DRAM_industry_price_fixing これらの会社の財務状況を見てみて、みんな異常な利益を上げてるのに、生産を増やすつもりはないんだ。マイクロンは株の買い戻しをして株価を上げようとしてるし、マイクロンのCEOも最近これが正確な計画だって言ってた。 https://www.theregister.com/systems/2026/10/01/ram-supply-se... 制裁や関税、そして気にしない司法省がいる。これを解決しない限り、狂った状況は続くよ。スマホは手が届かない価格になるし、ノートパソコンは異常な価格になる。ゲーム機は何千ドルもすることになるし、デスクトップは死んじゃう。デビッド・リカードの方程式を待ってるなら、厳しいね、それは来ないよ。市場は法的にロックダウンされていて、私たちは人質価格モードに入ってる。で、何が問題かって？電子機器が買えないのは、ロボットを作るために使ってるから？誰も私たちを助けに来ないよ。それは私たちの仕事なんだから。

このモデルのサイズを考えると、速度以外はフラッシュよりプロに近いと思う。

BF16はないよ、元のフルクオリティの重みはすでに量子化されていて510GB。で、その重みのかなりの部分はn-gram（約200GB）で、VRAMに入れる必要はない。モデルのKVキャッシュは超軽量で、1Mトークンあたり約1GBだよ。もしHBFが成功すれば、16GBのVRAMと1TBのHBF/NANDを搭載したアクセラレーターがあれば十分かもね（？）。

ちょっと違う：これすべてがVRAMに入る必要はないよ。n-gramテーブルのセットがあって、システムRAMやNVMeからストリーミングできる。ただ、やっぱりかなり大きい！私のDGX Sparkには収まらないけど、2台あればできると思う？

この記事はローカルでの実行だけの話じゃないよ。著者は、Opencode Go（おそらくOpenRouterなども）を通じてモデルを動かすのがすごく安いって言ってる。個人的には、実際にローカルで動かせるモデルにいつもワクワクするんだけど、これらの大きなオープンソースモデルは、企業がAPI経由でモデルを呼び出したり、計算リソースを貸し出したりする競争環境を開いてくれるんだ。研究やトレーニング、世界中の優秀な人材の大規模なスタッフ、クレイジーなPRのコストを相殺するために、わざわざ料金を取る必要もないし。これは顧客にとって大きな勝利だと思うし、最前線のラボにも競争圧力をかけるよね。

ちょっと計算してみたら、価値のあるローカルモデルを試すのは完全に諦めたよ。むしろ、サブスクリプションやAPIキーの組み合わせで月15〜30ドルを何年も払った方が、すぐに古くなるかもしれないローカルセットアップを買うよりいいと思ったんだ。保証が切れたらすぐに壊れるかもしれないしね。RAMの不足が人々をリモートモデルに誘導するための共謀だとは思わないけど、驚かないよ。

データありがとう！この手のことが裏でどう動いてるのか、非常に漠然としたアイデアしか持ってない人からの質問を許してね：例えば、たくさんのLLMホスティングプロバイダーの一つを通じてこのモデルの使用をレンタルして、PiやOpenCodeみたいなもので頻繁に使って、ホスティングされたモデルをできるだけ占有して、クレジットをどんどん使ってるとするよね。そうすると、あなたが言ったようなハードウェアクラスターが私のためだけに動いてるってことになるの？FP16で、私一人が1,664 GiBのシステムを常に占有してるってこと？

DwarfStarみたいなプロジェクトは、ハードウェアのハードルをかなり下げてくれるから、Deepseek 4.1 Flashや他のエキスパートモデルが消費者向けのハードウェアで動くようになる。オープンウェイトモデルを提供してお金を稼ぐインファレンスプロバイダーもいるし、OpenRouterみたいなサービスがあれば、これらのモデルを使うのがめっちゃ簡単になる。これらのモデルにアクセスするのは難しくないよ。ハードウェアの壁はかなり越えやすくなってる。

「1070や1070 TIは、GPUが長い間ひどく高騰してたから」って言ってるけど…1070tiの発売時のMSRPは約450ドルだった。5070は去年、5xx〜6xxの範囲で簡単に手に入ったし、考慮すべきことは（インフレが約30%くらいだと仮定して）この2つのタイムラインの間で、パフォーマンスの差は300%もあって、購入した時よりもコストは安くなってる。これを「長い間ひどく高騰してたせいだ」ってのはちょっと無理があるかも。

そのモデルのウェイトにn-gram/PLEを含めてるの？ホストメモリに入るよね。計算過程を見せてくれるといいな。それに、リリースされたウェイトは事前に量子化されてて、たぶんQATもされてるから、君の言う「フルプレシジョン」やINT8は実際には存在しないモデルのバージョンだよ。編集：君のために確認してきたよ。LMのバックボーンは307.2 GB（286.1 GiB）で、DeepSeekのアップロードからそのまま。n-gramテーブルは203.1 GB（189.1 GiB）で、ホストRAMに入る。埋め込みはエキスパートテンソルよりも高精度だから、バイトの割合はパラメータよりも大きいよ。だから、>「俺を狂ってるって呼んでくれ、でも君が狂ってる。」って感じだね。 :-)