概要
- Gemini 3.0 の噂とA/Bテストによる実際の利用体験
- Google AI Studio でのSVG生成タスクを通じたモデル評価
- SVG画像 (Xbox 360コントローラー)の品質比較
- モデルIDやレスポンス特性の観察
- Gemini 2.5 Proとの A/Bテスト結果 の簡易まとめ
Gemini 3.0のA/Bテスト体験と評価
- Gemini 3.0 はAI分野で最も注目されているリリースの一つ
- Google AI Studio のA/Bテスト経由で一部ユーザーがアクセス可能との噂
- SVG生成タスク (例:Xbox 360コントローラー)の品質がモデル評価の効率的な指標
- @simonw による「pelican riding a bicycle」テストの有用性が示唆
- 実際にA/Bテスト画面に遭遇し、 他モデルより高品質なSVG 画像を取得
- 使用プロンプト例:
- Create an SVG image of an Xbox 360 controller. Output it in a Markdown multi-line code block. Like this:
svg ...
- Create an SVG image of an Xbox 360 controller. Output it in a Markdown multi-line code block. Like this:
- Gemini 3.0 のモデルID:ecpt50a2y6mpgkcn(バージョン特定には不十分)
- Gemini 2.5 Proを選択したため、おそらく Gemini 3.0 Pro との比較と推測
- Gemini 3.0 FlashとGemini 2.5 Proの比較は非効率と考察
Gemini 3.0の出力特性とパフォーマンス
- TTFT(初回応答時間) が約24秒長い傾向
- 出力長 が約40%増加(推論トークン含むと推測)
- GPT-5 Pro のような極端な計算リソース消費は見られず
Gemini 2.5 ProとのA/Bテスト結果
- Gemini 3.0 のSVG生成能力が明らかに向上
- 出力の 質と詳細さ でGemini 2.5 Proを上回る印象
- A/Bテスト による直接比較で、ユーザー体感の違いが明確
まとめ
- Gemini 3.0 はSVG生成や推論能力で着実な進化
- Google AI Studio を活用したA/Bテストが新モデル評価の有効手段
- 出力品質や応答特性の違いから、 Gemini 3.0 の実力が実証
もう約1ヶ月続いてるけど、いつもの憶測の中でいろんなチェックポイントがあるね。今のところ、公式発表を待ってから判断した方がいいと思う。リリースプランがどうなるのか、チェックポイントがPro、Flash、Flash Liteの代わりになるのか、新しいモデルのカテゴリーなのか、全くリリースされないのか、などはわからないからね。もっと重要なのは、AIStudioのA/Bテストのやり方によって、得られる出力は単一のプロンプトに対するものだけだってこと。個人的には、スピードやレイテンシ、プロンプトの遵守について基本的な理解を得る以外は、単一のプロンプトからの出力は日常のパフォーマンスを測るには良い指標じゃないと思ってる。もちろん、マルチファイルの取り込みやツールコールの扱いについては何も教えてくれないし、ハイプはハイプだよね。単一プロンプトのA/Bテストの出力だけでパフォーマンスを評価する人がいるのは、モデルのパフォーマンスを評価する際のプロ意識の欠如を示してると思う。Gemini 3.0モデルが競争力を持つ可能性があるとは言ってないけど、過剰な期待や失望に巻き込まれないように警告したいだけ。だから、一般的に憶測的なコンテンツが嫌いなんだ。適切な文脈に置かれることが少ないから、あまり目を引かないんだよね。