世界を動かす技術を、日本語で。

Show HN: 「Gemini 4 Argon」がスタークラフトをプレイする

2026年10月16日原文(starskirmish.com)

概要

StarSkirmish Benchは、LLMがStarCraft: Brood War用のC++ボットを1時間で自動生成し、その強さを競うベンチマーク。 各モデルは自作ボットで複数の人間作成ボットと対戦し、勝率で評価。 v0.2ではOpenAI、Anthropic、Google、Metaの最新フラッグシップモデルを比較。 GPT-6 Astraが最高スコアで、コストパフォーマンスはGPT-6.1 Solが最良。 人間作成の最強ボットには依然として及ばず、LLMの限界も明確化。

StarSkirmish Bench概要

  • StarSkirmish Bench は、LLMが StarCraft: Brood War 用の Protossボット をC++で1時間以内に自動作成し、その性能を評価するベンチマーク。
  • 各LLMは 1時間 の制限時間内でボットを開発、 練習試合 を通じて学習しながら改良。
  • 作成ボットは 他LLMのボット や 人間作成の競技用ボット と対戦し、 勝率 で評価。
  • 長期的推論能力 や エージェント的コーディング能力 の評価を目的。
  • v0.2 では、OpenAI、Anthropic、Google、Metaの 最新モデル を各社純正CLIハーネスで比較。

評価方法と実装詳細

  • 各モデルは 5回の独立した1時間ラン でボットを作成し、各ボットが 13種のロスターボット(人間作成10+デモ3) と 3マップ で対戦。
  • 勝率(0~100) がスコアとなり、モデルごとに5体の平均で最終スコア算出。
  • 練習対戦相手 は段階的に強化(デモ、ミッドレンジ、人間トップ)。
  • ボット作成には BWAPI 4.4.0、 FAP(戦闘シミュレータ)、 BWEM(マップ解析) などのライブラリ使用可。
  • CLIハーネス は各社純正、最大 約25万トークン まで会話を圧縮しながら利用。

モデル別スコアとコスト

  • GPT-6 Astra が最高スコア、 GPT-6.1 Sol が2位でコスト効率も最良。
  • Gemini 4 Argon、 Claude Opus 5.5、 Claude Fable 5.1 は僅差で3~5位。
  • Muse Wonder Full はコスト高だがスコアは中位。
  • 人間作成の最強ボット (Stardust、PurpleWave、BananaBrain)には全モデルが大きく劣り、最高でも 7%の勝率。
  • コスト対効果 ではGPT-6.1 Solが圧倒的な優位性。

モデル行動・学習傾向

  • 強いモデル は早期からトップボットとの練習試合を多く実施し、学習効率が高い。
  • Claude Fable 5.1 は弱いボットとの練習が多いにも関わらず高スコアという例外。
  • Gemini 4 Argon はランごとのスコア変動が大きく、安定性に課題。
  • 5回のランで 同一モデルでも結果にバラツキ がある。

ベンチマークの相関・意義

  • StarSkirmish Bench のスコアは従来のAI評価指標(Artificial Analysis Intelligence IndexやTerminal-Bench 4.0)との相関が低下。
  • Vals IOI や WeirdML v3 (C++プログラミング問題・難解MLタスク)との相関は維持。
  • 従来ベンチマーク はモデル最適化のターゲットになりやすく、StarSkirmishのような 長期的・実践的なコーディング評価 が差別化要素。

トーナメント設定・運用ルール

  • 各モデルは 1時間でボット作成、終了時点のフォルダ内容が提出物。
  • インターネットアクセス不可、CLIインストール後にタイマースタート。
  • スコア計算は勝率の単純平均、Eloレーティングは不採用。
  • 固定ロスター により世代間比較が容易。

今後の展望・課題

  • 人間ボットとの差 は依然大きく、1時間という制約下での LLMの限界 が明確。
  • 練習相手の選択 や 学習戦略 がスコアに大きく影響。
  • 実践的長期推論 や 動的なプログラミング能力 のさらなる向上が今後の課題。

追記 StarSkirmish Benchは、OpenAI、Anthropic、Google、Museの最新フラッグシップモデルで再評価済み。

Hackerたちの意見

プルートを基準にすべきだね。あれは人工ニューラルネットワークのボットで、最高のブロードウォーのプレイヤーからゲームを簡単に奪えるんだ。

└

ライブストリームでアストラがプルートと対戦したんだけど、アストラは0 - 1000だったよ。 https://x.com/kaimcpheeters/status/2106782151622504911?s=20

└

プルートがシンプルなCPUで動いてるのに気づいたんだけど、そうなら未来のRTSゲームにはすごくいいね。いろんな難易度のモデルを用意して、プレイヤーが練習できるようにサーバークライアントアーキテクチャで出荷するだけで済む。特定のキャンペーンレベルに調整されたモデルも作れたりするのかな?プルートの制作にはどれくらいコストがかかったんだろう。

これは面白いベンチマークだね。時間制限があるのがいい。ほかのベンチマークではあんまりないから。逆に、各モデルがさまざまなレベルのボットに対して50%以上の勝率を得るのにどれくらい時間がかかるかを見るのも面白そう。

└

48時間のライブストリームをやったんだけど、アストラは43時間でクリアしたよ。ただ、フォーマットが伝統的なトーナメントルールよりもLLMボットに有利だったっていうのは言っておくべきかな。

このベンチマークではLLMが少し書いてスタークラフトをプレイするんだ。少し前にここでLLMがスタークラフトを直接プレイしてた投稿があった気がする。 https://broodbench.com/ と https://news.ycombinator.com/item?id=49766966

エージェントが書いたボットから何か面白いことを学べるのかな?それとも、時間制限が短すぎて最高のボットの劣化版に過ぎないのかな?人間が書いたボットのコードを基にトレーニングされてるっていう兆候はあるのかな?(例えば、実験的なフィードバックやドメイン経験が必要な機能を“魔法のように”推測したりするのかな?)ボットが毎回同じ技術を使っているのはどれくらいなのか?そういう質問の方が、単純な勝敗比よりも面白いと思う。

└

これらのゲームは実験的なフィードバックをあまり必要としないよ。目標は明確で知られているし;もしそれが問題なら、実験が最適化を促すかもしれない。レール上のコメントについては、LLMの出力の出所を知る良い方法はないけど、LLMが作ったボットは一般的に人間の対応物の非常に小さくてモジュール化された、時には機能化されたバージョンに見える。違いは、LLMがメインの中の条件付きループではなく、しばしば関数を呼び出していることだね。Astraが最初にプレビューされたときに取り組んだFactorioボットは、非常に小さな引数を受け取る機能的で自己サポート型のプログラムのディレクトリみたいなもので、範囲は非常に限られていたし、LLMがディレクトリ検索を事前に防ぐためにそのような機能が存在する場所を指示するagents.mdファイルがあった。だから、「python walk.py N 40」とかで40ユニット北に移動するようなことがあった。HPが減ったり、動きが制限されたりするのを待つ監視役もね。GPT-3の頃にLLM駆動のボット開発を始めたときは、TDDのおかげでなんとか動く巨大でメンテナンス不可能なモノリスができたけど、基本的にはスパゲッティだった。LLMはそういうパラダイムから、小さくて自己封じ込めされたプログラムへとトレンドが移っていると思う。おそらく、そうした方がコンテキスト数に優しくて、結果も良くなるからだね。

└

ダン・ガント(『パープルウェーブ』の著者)がこのことについて書いてるよ。GPT-6 AstraとClaude Opus 5.5で48時間のテストをしたら、Psionic Stormの面白い使い方が見えた。GPT-Astraの作業をオープンソースにしたんだ(下にリンク)。相手が強くなるにつれて、戦略に興味深い変化があったよ。https://github.com/llmskirmish/starskirmish-hillclimb

└

前に書いたことをアダプトしたもの: https://x.com/dgant/status/2106880240907620731 スタークラフトのあまりセクシーじゃない視点は、物流のゲームだってこと。 物を作り続けないといけないし、供給がブロックされないようにしなきゃいけない。 建物を全部配置して、ユニットが捕まらないようにして、いいタイミングで全ユニットを戦いに持っていく必要がある。 アストラとオーパスはこのハードルをかなり早くクリアして、どちらも1ベースのドラグーン+オブザーバー戦法に落ち着いて、拡張をかなり遅くして、3ゲートで進めた。この戦略はどんな相手にも有効だけど、特に強いわけじゃないから、実行力で勝てる相手には勝てる。 StarSkirmishはエージェントにFastApproximation戦闘シミュレーションライブラリへのアクセスを提供して、Bティアボットよりも良い戦闘予測を行わせ、彼らのボットがより効果的に軍を交換できるようにしている。でも、Aティアボット(LocutusとBananaBrain)はすでに実行力が強くて、アストラは彼らに対して進展がなかった。 それで、プロキシ2ゲートゼロットラッシュに切り替えた。 これは主に2人用マップのプールでうまくいった(だからゲートウェイを相手に近くに配置できる)。でも、新しいボットにとっても賢い選択だよね。だって、最初の4分以降にスタークラフトで上手くやる必要がないから! これはバリエーションを最大化する戦略としても賢い。多くのゲームでは、相手が優れている場合、できるだけ少ないイベントでゲームが決まることを望むから。 悪いコインだと、2回のフリップで1回勝つ可能性が高いけど、20回のフリップでは10回勝つのは難しい。 プロキシ2ゲートはゲームを短縮し、勝つために必要なインタラクションの数を減らす。 フォーマット的に見ても、各ティアの相手に対してシリーズを勝つために無制限の試行ができるから有利だよね。 ゲームをコインフリップにして、さらにコインフリップを増やせれば、全体的に勝率が悪くてもティアをクリアできる。 このStarSkirmishの側面は、将来的に取り上げる価値があると思う。 アストラのプロキシゲートはAティアボットに勝って、StarSkirmishのSティアに上がった(StardustとPurpleWaveだけど、実際にはBananaBrainは能力的に完全に同等だと思う)。 ボットトーナメントについてのちょっとした話: AIIDEカンファレンスや歴史的にCOGトーナメントでは、すべてのボットが数百ゲームを対戦して、全体の勝率でランク付けされていた。 私はこれが好きじゃなかった。なぜなら、人間のスタークラフト(プレイヤーがベスト・オブ・Nシリーズをプレイする)に似ていないし、レースのバランスを崩すから(Zerg対Zergはもっと不安定で、勝率は50%に近くなるべきだし)、いくつかの歪んだインセンティブを生むから。 そのインセンティブの一つは、弱い相手に100%勝つことを確保すること。95%ではなくて。 だから、弱い相手に勝つために信頼できるけど弱い戦略に頼ることになって、よりトリッキーな相手に対して何かを見つけるために多くの戦略を持つことになる。 そして、このStarSkirmishのバージョンでは、ベンチマークボットがゲーム間でデータを保存できないことがほとんどなので、Stardustはほぼ毎回基本的な保守的な戦略を実行していた。 これがStardustを弱体化させたけど、アストラのプロキシゲートが勝つ可能性は低かった。 だからアストラは、コーディングエージェントにとって非常に不快なことをしなければならなかった。 全く違う戦略を試すために、再度設計に戻ること。 アストラは完全に方向転換して、PurpleWaveもStardustに対して使う戦略にたどり着いた。 ダークテンポラを使って拡張を確保すること。 これは特にStardustに対して効果的で、Shuttles + Reaversを使わないから、オブザーバーを作るために必要なロボティクスファシリティからのユーティリティを得られない。 そこからアストラはゆっくりと進行したけど、PurpleWaveとStardustの共通の弱点を発見した。 私たち両方はサイオニックストームを避けるように設計されているけど、その機能が両方のボットで同時に壊れていた(無関係な理由で!)。 だからアストラのダークテンポラオープニングは、ドラグーンとハイテンポラを使った2ベースのタイミングアタックにスムーズに移行した。 3つのストームが貯まったらすぐに出発した。この時点でStardustやPurpleWaveは通常、受動的なアストラを抑え込んで、3つ目のベースを取って、経済的なアドバンテージを得ていたけど、それがまだ軍のアドバンテージにはつながっていなかった。 アストラの受動性は、軍が取引されずに非常に大きくなっていた。 これと壊れたストーム回避が相まって、アストラのサイオニックストームは壊滅的だった。 プロキシゲートラッシュと同様に、この2ベースのタイミングはゲームを簡素化し、アストラがインタラクションと意思決定を最小限に抑えることを可能にした。 だから、特定の状況に最適化してプレイすれば、勝つための良い状態にいることができた。 スカーミッシュする必要はなかった。 アストラが扱わなければならなかったゲーム状態はあまり変わらなかった。 洗練されたボットに対してゲームを簡素化するのは実用的なアプローチだった。 それでも、アストラがこの計画を勝利する評価ランに変換するのに、50時間のコンテストのほとんどを要した。 その時にはReaversを作ってShuttlesで運ぶことを学んだけど、十分にうまくやれていなかったと思う。 その間に勝率は徐々に改善しているように見えたけど、ストリームから何を変えたのかはわからなかった。 最終的にSティアを通過した後、アストラはPlutoに勝とうと数時間の時間があった。 これは明らかに不可能なタスクだったけど、アストラが突然アプローチにほとんど変化がなく停滞しているのを見て驚いた。 アストラのビルドオーダーはかなり欠陥があって、無駄にワーカーをカットしていた。 これは、Stardustが防御的な「シールクラビング」戦略を使わざるを得なかった場合には生き延びられるエラーだったけど、PurpleWaveに対しては(学習データがないため、常に変なチーズ戦略で評価を投げるリスクがあった)。 でも、Plutoに対しては、アストラは常に5分のマークに達する際に、ワーカーが少なく、軍も少なく、拡張もなく、しばしば基地に永久に閉じ込められていた。 これは、Plutoに対する1000回目のゲームでも最初のゲームと変わらなかった。 アストラのStarSkirmishに対するアプローチは、ある意味であまりセクシーじゃなかった。 ゲームを簡素化して、ゲーム状態をシンプルに保てるゲームで主に勝ち、トップの相手に対しては、短時間で圧倒されたり解剖されたりしていた。 でも、スタークラフトで勝つことは、常に派手なトリックよりも地味な基本に関することだったし、ゲームが実際にどうであるかを再学習するのはいつも楽しい。

このベンチマークが好きかどうかは微妙なんだけど、主に何を評価してるのかよくわからないからかな。単なる無視じゃなくて、複数の要因が何を見ようとしているのかを複雑にしている気がする(思いつくままに挙げると): - コード生成速度 - 論理分析 - ゲームプラットフォームの理解とCの使い方がどう影響するか - 考慮されたアプローチ、戦術、戦略 いいアイデアだとは思うけど、何を測ってるのかはちょっとわからないな。

└

一般的な「エージェント性」

Hacker Newsで議論の続きを見る