概要
StarSkirmish Benchは、LLMがStarCraft: Brood War用のC++ボットを1時間で自動生成し、その強さを競うベンチマーク。 各モデルは自作ボットで複数の人間作成ボットと対戦し、勝率で評価。 v0.2ではOpenAI、Anthropic、Google、Metaの最新フラッグシップモデルを比較。 GPT-6 Astraが最高スコアで、コストパフォーマンスはGPT-6.1 Solが最良。 人間作成の最強ボットには依然として及ばず、LLMの限界も明確化。
StarSkirmish Bench概要
- StarSkirmish Bench は、LLMが StarCraft: Brood War 用の Protossボット をC++で1時間以内に自動作成し、その性能を評価するベンチマーク。
- 各LLMは 1時間 の制限時間内でボットを開発、 練習試合 を通じて学習しながら改良。
- 作成ボットは 他LLMのボット や 人間作成の競技用ボット と対戦し、 勝率 で評価。
- 長期的推論能力 や エージェント的コーディング能力 の評価を目的。
- v0.2 では、OpenAI、Anthropic、Google、Metaの 最新モデル を各社純正CLIハーネスで比較。
評価方法と実装詳細
- 各モデルは 5回の独立した1時間ラン でボットを作成し、各ボットが 13種のロスターボット(人間作成10+デモ3) と 3マップ で対戦。
- 勝率(0~100) がスコアとなり、モデルごとに5体の平均で最終スコア算出。
- 練習対戦相手 は段階的に強化(デモ、ミッドレンジ、人間トップ)。
- ボット作成には BWAPI 4.4.0、 FAP(戦闘シミュレータ)、 BWEM(マップ解析) などのライブラリ使用可。
- CLIハーネス は各社純正、最大 約25万トークン まで会話を圧縮しながら利用。
モデル別スコアとコスト
- GPT-6 Astra が最高スコア、 GPT-6.1 Sol が2位でコスト効率も最良。
- Gemini 4 Argon、 Claude Opus 5.5、 Claude Fable 5.1 は僅差で3~5位。
- Muse Wonder Full はコスト高だがスコアは中位。
- 人間作成の最強ボット (Stardust、PurpleWave、BananaBrain)には全モデルが大きく劣り、最高でも 7%の勝率。
- コスト対効果 ではGPT-6.1 Solが圧倒的な優位性。
モデル行動・学習傾向
- 強いモデル は早期からトップボットとの練習試合を多く実施し、学習効率が高い。
- Claude Fable 5.1 は弱いボットとの練習が多いにも関わらず高スコアという例外。
- Gemini 4 Argon はランごとのスコア変動が大きく、安定性に課題。
- 5回のランで 同一モデルでも結果にバラツキ がある。
ベンチマークの相関・意義
- StarSkirmish Bench のスコアは従来のAI評価指標(Artificial Analysis Intelligence IndexやTerminal-Bench 4.0)との相関が低下。
- Vals IOI や WeirdML v3 (C++プログラミング問題・難解MLタスク)との相関は維持。
- 従来ベンチマーク はモデル最適化のターゲットになりやすく、StarSkirmishのような 長期的・実践的なコーディング評価 が差別化要素。
トーナメント設定・運用ルール
- 各モデルは 1時間でボット作成、終了時点のフォルダ内容が提出物。
- インターネットアクセス不可、CLIインストール後にタイマースタート。
- スコア計算は勝率の単純平均、Eloレーティングは不採用。
- 固定ロスター により世代間比較が容易。
今後の展望・課題
- 人間ボットとの差 は依然大きく、1時間という制約下での LLMの限界 が明確。
- 練習相手の選択 や 学習戦略 がスコアに大きく影響。
- 実践的長期推論 や 動的なプログラミング能力 のさらなる向上が今後の課題。
追記 StarSkirmish Benchは、OpenAI、Anthropic、Google、Museの最新フラッグシップモデルで再評価済み。