世界を動かす技術を、日本語で。

Appleの機械学習研究:Mac StudioでのMLXを使用したMuse Sparkのオープン

概要

  • MLX はApple silicon搭載Macで最新AIモデルのローカル実行を可能にするオープンソースフレームワーク
  • M5 Ultra 搭載Mac Studioは大規模言語モデルの推論性能と省電力性で優れる
  • Muse Spark Open などフロンティア級モデルも複数台のMac Studioで分散実行が可能
  • パイプライン並列化・テンソル並列化による大規模モデルの効率的な分割実行
  • Thunderbolt RDMAとMLXの新機能で高速な多台連携を実現

Apple silicon Macで動かすMLXとAIモデル

  • MLX はApple siliconの統合メモリアーキテクチャを活用した配列フレームワーク
  • 最新の推論・ファインチューニング手法を ローカル環境 で実験可能
  • M5 Ultra のGPU Neural Acceleratorにより、高速な行列演算処理を実現
  • Muse Spark Open (約1兆パラメータ)などの大規模モデルも実行可能
  • Mac Studio (最大512GBメモリ)で単体実行や複数台分散実行に対応

ベンチマークと性能比較

  • Qwen 3.8 27B や Mistral Medium 3.5 128B は512GBメモリのMac Studio単体で動作
    • それぞれ最大68GB、158GBのRAMを消費(65,536トークン時)
  • M5 Ultra は M3 Ultra よりTTFT最大4.6倍、トークン生成速度1.6倍高速
  • Muse Spark Open は4ビット量子化(NVFP4)でメモリ使用量を約493GBに削減
  • ピーク消費電力 はM3 Ultraで約200W、M5 Ultraで約300Wと家庭用電化製品並み

分散実行と並列化手法

  • パイプライン並列化 :モデルを層ごとに複数台へ分割し、逐次的に推論
    • Thunderbolt RDMA による低遅延通信で高速化
    • 大規模コンテキスト(65,536トークン)では1.8倍のTTFT高速化
  • テンソル並列化 :モデルの各層を幅方向に分割し、各台で計算を並列化
    • 通信回数が増えるため、Thunderbolt RDMAのような高速通信が必須
    • 台数が増えるほど推論速度の向上が顕著

MLXの分散実行コマンド例と特徴

  • mlx.launch コマンドで複数ノードへのジョブ展開が容易
    • --backend jacclでThunderbolt RDMAバックエンド指定
    • --env MLX_METAL_FAST_SYNCH=1でCPU-GPU同期高速化機能を有効化
  • パイプライン並列化 や テンソル並列化 の切り替えもコマンドオプションで簡単
  • Thunderbolt 5 によるダブルケーブル接続で帯域を確保

Mac StudioでのLLM実行の利点

  • 高性能 かつ 省スペース・省電力 なAIワークステーション構築が可能
  • ローカル・プライベート環境 での大規模AIモデル実験
  • Thunderbolt RDMA とMLXの組み合わせで、研究・開発用途の分散AI実行を身近に実現
  • M5 Ultra 世代のNeural Acceleratorにより、今後さらに大規模・高効率なAIワークロードへの対応が期待

まとめ

  • Apple silicon MacとMLXの進化により、 最先端AIモデルのローカル分散実行 が現実に
  • Mac Studio を活用したAI開発環境の構築が、研究者・開発者の新たな選択肢となる

Hackerたちの意見

普通の「デスク」ってわけじゃないけど、なかなかいい感じだね。この投稿では、最新のフロンティアクラスモデル「Muse Spark Open」を、今日リリースされた最新のMLXを使ってデスクから直接動かす方法を紹介するよ。4台のMac Studioのクラスターで、Muse Spark Openは1秒あたり36トークン以上を生成するんだ(図1参照)。これは平均的な人間の読書速度を大きく上回ってるよ。最初は1台のMac Studio(最大512GBのユニファイドメモリ)から始めて、Thunderbolt経由のRDMAドライバーを使って複数のMacにスケールアウトする方法を、以下で紹介するね。

└

そうだね、これをやってくれるのは嬉しいけど、2026年にはちょっと学術的な感じだね。512GBのMac Studioの価格はまだ発表されてないけど、256GB版は$9499からスタートするんだ。だから、4台買うとなるとかなりの金額になるよね。誰かがOpenRouter経由でMuse Spark Openに$40k使うのに何年かかるか計算してくれるだろうね。

メタの技術についてのプレスリリースを出すのに、コードのリファレンス以外でメタのことを全く触れないのが面白いね。

└

その特定の会社のこのモデルを先に持ってくるのは、やっぱり変だし、ブランドに反してると思う。文句が出るのも当然だね。

└

これはプレスリリースじゃないし、メタの技術についても触れてないよ。タイトル(「MLXとRDMAを使ったMac Studioでのローカルおよび分散型大規模LLM推論」)にはMuseのことすら書いてない。むしろ彼らの技術の広告みたいなもんだね。

└

プレス向けには、ここにメタからのリリースがあったよ: https://research.meta.ai/blog/muse-spark-open ... そして、ここでザッカーバーグとターナスがハイタッチしてる: https://x.com/finkd/status/2110778025629347999 「ママとパパが仲良く遊んでくれるのが楽しみだね」と、メタAIのアレクサンドル・ワンがAxiosに語ったよ: https://www.axios.com/2026/10/15/apple-and-meta-bury-the-hat...

メタのモデルを4ビットでベンチマークして、QwenをネイティブBF16だけで比較してるのは、かなり不利に見えるね。ほとんどのユーザーが選ぶような量子化じゃないと思う。これはAppleのパートナーであるメタのためのクロスブランドマーケティングだって分かるけど、正直言って、512GBのM5を持ってたら、Muse Sparkは考えるモデルのトップ10にも入らないよ。クラスタがあったとしてもね。

メタがオープンウェイトモデルを構築するのに何百万、何十億も使って、その後人々がAppleに$20,000払ってそれを動かすって、Appleにとってはいい取引だね。

└

なんでAppleがモデルのトレーニングや開発をする必要があるの?彼らはシャベルを売ってるだけじゃん。

└

彼らはビッグテック企業の中で最高の戦略を持ってるね。他の人たちが柔らかい部分を考えてる間に、彼らは最高のハードウェアを売ることに集中してる。プライバシーは多くの人や業界にとってすごく価値があるんだ。購入した瞬間に価値が上がる20万~80万円のハードウェアは、多くの中小企業にとって合理的な投資だし、Nvidiaのリグ1台よりも安い。プライバシーにはお金がかかるんだよね。

└

同じモデルを動かすために、5080の16GBカードを何枚買わなきゃいけないの?それっていくらになるの?

└

両社とも利益を上げてるし、AIは彼らの主なビジネスじゃない。これが純粋なAI企業に影響を与えるんだ。オープンウェイトモデルがフロンティアモデルに追いつくにつれて、$0への競争は、ローカルでオープンウェイトモデルを運用する支持者にとって引き続き利益をもたらすだろうね。

Hacker Newsで議論の続きを見る