ハクソク

世界を動かす技術を、日本語で。

アンスロススタジオ

概要

  • **Unsloth Studio (Beta)**は、ローカル環境でオープンモデルのトレーニング・実行・エクスポートをノーコードで実現するオープンソースWeb UI
  • 500以上のモデルを高速・省メモリで扱うことが可能
  • データインポート・可視化・エクスポートなど多彩な機能を搭載
  • 完全オフライン・高セキュリティな運用が可能
  • 現在はBETA版であり、今後も機能拡張・改善を予定

Unsloth Studio (Beta) 概要

  • **Unsloth Studio (Beta)**は、オープンソースかつノーコードのWeb UIによる統合型ローカルAI環境
  • Mac, Windows, LinuxでGGUFやsafetensor形式のモデルをローカル実行可能
  • 500種類以上のモデルを、精度を維持したまま2倍高速・70%少ないVRAMでトレーニング
  • テキスト、画像認識、TTS音声、埋め込みモデルへの対応
  • MacOSやCPUでもチャット推論が可能(MLXトレーニングは近日対応)

主な機能と特徴

  • PDF, CSV, JSON, YAML形式のドキュメントをアップロードし、即座にNVIDIA環境でトレーニング開始
  • Unsloth独自カーネルでLoRA、FP8、FFT、PT最適化対応
  • 最新LLM(Qwen3.5, NVIDIA Nemotron 3等)のファインチューニング
  • マルチGPU自動対応、今後もアップグレード予定
  • Data Recipes機能で、非構造・構造データを合成データセット化
    • NVIDIA DataDesignerを活用し、希望フォーマットへ自動変換
  • トレーニングの進捗・損失・勾配ノルム・GPU利用率をリアルタイム可視化
  • スマートフォン等他端末からも進捗確認可能
  • ファインチューニング済みモデルも含め、safetensorsやGGUF形式でエクスポート
  • トレーニング履歴の保存・再エクスポート・比較検証が可能
  • モデル比較チャット機能で、ベースモデルとファインチューン済みモデルの出力比較
  • 完全オフライン・ローカル動作、トークン認証・JWT・パスワードによる高セキュリティ

対応環境・ライセンス

  • Windows, Linux, WSL, MacOS(現時点でMacはチャットのみ)
  • CPUのみでもチャット推論可能、トレーニングはNVIDIA GPU(RTX 30, 40, 50, Blackwell, DGX Spark/Station等)対応
  • MLXトレーニング(Apple Silicon)は近日対応予定
  • マルチGPUは既に動作、今後大幅なアップグレード予定
  • 初回インストール時は5-10分程度かかる(llama.cppのバイナリコンパイルのため、今後高速化予定)
  • Dockerイメージ対応、Mac互換も開発中(unsloth/unsloth)
  • **デュアルライセンス(Apache 2.0 / AGPL-3.0)**で、コアはApache 2.0、Studio UIなど一部はAGPL-3.0

インストール・クイックスタート

  • pipインストール:
    pip install unsloth
    unsloth studio setup
    unsloth studio -H 0.0.0.0 -p 8888
    
  • Docker実行例:
    docker run -d -e JUPYTER_PASSWORD="mypassword" \
      -p 8888:8888 -p 8000:8000 -p 2222:22 \
      -v $(pwd)/work:/workspace/work \
      --gpus all \
      unsloth/unsloth
    
  • Google Colabノートブックも提供(T4 GPU推奨、22Bパラメータまで対応、llama.cppのビルドに30分以上かかる場合あり)

ワークフロー

  • ローカルファイルまたは対応する統合サービスからモデルをロード
  • PDF, CSV, JSONL等からトレーニングデータをインポート、または新規データセット作成
  • 推奨プリセットまたはカスタム設定でトレーニング開始
  • トレーニング済みモデルとベースモデルのチャット比較
  • 各機能の詳細は個別ドキュメント・NVIDIA公式動画チュートリアルを参照

よくある質問(FAQ)

  • データ収集について
    • 使用状況のテレメトリは収集せず、互換性確保のための最小限のハードウェア情報のみ取得
    • 完全オフライン・ローカル動作
  • 既存モデルの利用
    • Hugging Face等からダウンロード済みのモデル・GGUFも利用可能
  • OpenAI互換API
    • Data Recipesで対応、推論APIも近日対応予定
  • 対応モデルファミリー
    • テキスト、マルチモーダル、TTS、音声、埋め込み、BERT系など幅広く対応
  • 独自トレーニング設定
    • YAMLコンフィグのインポートで設定自動反映
  • UIのみの利用
    • トレーニング不要、GGUFやモデルのダウンロードのみでも利用可能

今後の予定・感謝

  • 公式サポート予定:マルチGPU、Apple Silicon/MLX、AMD、Intel
  • BETA版につき、今後も多数のアップデート・発表を予定
  • NVIDIAとの連携強化、最高のマルチGPU体験を目指す
  • NVIDIA, Hugging Face, llama.cpp, PyTorch, open model labsへの謝辞
  • 早期ベータテスターへの感謝

主な機能まとめ

  • モデルのローカル実行
  • ノーコードトレーニング
  • Data Recipes(データセット自動生成)
  • 可視化・オブザーバビリティ
  • モデルのエクスポート・保存
  • モデルアリーナ(比較)
  • プライバシー重視・高セキュリティ

クイックスタート・チュートリアル

  • Google Colabノートブック
  • ワークフロー動画
  • FAQ・詳細ドキュメント

インストール例

  • pip install unsloth
  • unsloth studio setup
  • unsloth studio -H 0.0.0.0 -p 8888

Hackerたちの意見

ファインチューニング用のGUI、面白そうだね。これがきっかけで新しいカスタムモデルがたくさん出てくるといいな。
ありがとう!まだ改善中だから、何か提案があれば大歓迎だよ!
macOSでpipを使ってインストールするのは、全然受け入れられない選択肢だよ。npmやgemみたいにシステムをめちゃくちゃにしちゃうからね。これ、Homebrewに入れるか、手動ダウンロード用のアプリ付きのzipファイルにするべきだよ。
同意だね。今のところ、もう少しメンテしやすい使い方は「uv」かmiseだね。俺は`uv tool install unsloth`を使ってるよ。
Linuxではvenvを使ってシステムパッケージに影響を与えないようにしてるんだけど、これは選択肢にならないの?
同意するよ。既存のバックエンド機能に基づいた、雰囲気重視のフロントエンドって感じだね。それに、今まで生産環境でUnsloth関連のソフトウェアを見たことがない。趣味のLLMウィザードには必要ないツールって印象が強いな。
まずuvをインストールすることをおすすめするよ。そうすれば、仮想環境の中で好きなPythonコードをインストールできて、システムの他の部分から隔離できるから。
ほとんどの言語のパッケージシステムがめちゃくちゃなのは知ってるけど、Pythonの場合、uvはたくさんの問題を解決してくれるよ。`uv init`、`uv add unsloth`、`uv run main.py`とか、なんでも。
まだインストールをもっと良くするために頑張ってるよ!フィードバックありがとう!主にPythonの世界から来たから、パッケージングや配布は全部新しいことなんだ。次はHomebrewに取り組む予定だよ!
pipxで解決できるかな? https://pipx.pypa.io/stable/installation/
uvが助けてくれるよ。pyproject.tomlを使ってuv syncを実行すれば、すべてがvenvの中にだけ入るから、システム全体に広がることはないよ。pyproject.tomlはビルド環境も管理できるから、特定の順番やフラグで10個のツールをインストールするsetup.shがもういらなくなる。uv syncを一回実行するだけで、仕事は完了。しかも結果は再現可能だから、今回uv syncがうまくいったら、次回も大丈夫。まだpipを使ってるなら、ぜひ試してみて!例として、未公開のgitバージョンの依存関係とグラフィックカード特有のビルドフラグを使ってunslothをrocmセットアップでインストールした時も、すべて「uv sync」一つで済んだよ。別の方法だと大量のシェルスクリプトが必要になるからね。
Unslothのビジネスや収入って何なんだろう?彼らはたくさんのものを無料で公開してるけど、明確な製品がないみたいだね。
こんにちは!今のところの主な目標は、オープンソースコミュニティにクールで役立つツールを提供することだよ。クローズドソースの方が良いツールがあるから人気があるって感じだね!これからもっともっと色々なものを用意してるよ!!
MacOSでソースからビルドしようとしたけど、こんなエラーが出たよ: (base) unsloth git:(main) unsloth studio setup ╔══════════════════════════════════════╗ ║ Unsloth Studio Setup Script ║ ╚══════════════════════════════════════╝ Node v25.8.1とnpm 11.11.0はすでに要件を満たしてるから、nvmのインストールはスキップするよ。 Node v25.8.1 | npm 11.11.0 npm run buildが失敗したよ(終了コード2): > unsloth-theme@0.0.0 build > tsc -b && vite build src/features/chat/shared-composer.tsx(366,17): エラー TS6133: 'status'が宣言されてるけど、その値は読まれてないよ。
すぐに確認して修正するね。ごめんね!
Apacheライセンスだね。仕事で試すのが待ちきれない!LMStudioの独自ライセンスは、許可を得るのが難しいんだよね。
その一部はApacheだよ。
ちなみに、開発者がいるなら、プライバシーポリシーがまだgitbookにリンクしてるよ。
確認して直すね、ありがとう!
Unslothは本当にすごいよ。自分でAIエンジンを運用してる人には超おすすめ。
ライブラリを使うときに、うざいスタートアップメッセージの絵文字を無効にするオプションがあればいいのに。
いいね!hf jobsやrunpodを使ってファインチューニングを実行する予定はあるの?
これめっちゃクールだね。プレトレーニングの実行もサポートしてくれる可能性はある?