世界を動かす技術を、日本語で。

Strands Decider 2B: 小型のオープンソース決定モデル

概要

Strands Decider 2B は、高速な実験やローカル開発に最適化された 小型意思決定モデル。 従来のLLMとは異なり、 選択肢から最適な答えを選択 し、信頼性スコアを提供。 オープンソース としてGitHubとHugging Faceで公開、誰でも利用や改良が可能。 低レイテンシー ・高精度・高キャリブレーションが特長。 エージェントAI の実践やイノベーション推進に最適な新世代モデル。

Strands Decider 2B:新しい意思決定モデルの紹介

  • strands-labs は最新のエージェントAI技術を実践的に体験できる場として設立
  • Strands Decider 2B は、高速な実験やローカル開発、イノベーション向けに最適化された 小型意思決定モデル
  • TypeSafe AIのJev などに続く、新しい「System One」型意思決定モデルの一つ
  • LLM と異なり、任意出力生成ではなく、選択肢から答えを選ぶ設計
    • 例:Yes/No判定、言語判別、0〜1のスコア付与など
  • 柔軟性は減るが、 速度と能力が向上 し、必ず選択肢から答えを返す
  • 非常に低いレイテンシー で動作し、複数質問も効率的に処理
  • 複雑な推論やテキスト生成には不向きだが、 信頼性スコア を付与できる点がLLMと異なる
  • Strands Harness SDK などのエージェントワークフローに最適

モデルアーキテクチャと技術詳細

  • Qwen3.5-2B の事前学習済みLLMトルソを流用し、LMヘッドを除去
  • Pointer Head に置換し、各選択肢の隠れ状態を<answer>位置と比較してスコア化
  • Pointer Headのパラメータ数は約100万と小規模
  • トルソは rank-16 LoRAアダプタ でファインチューニング
  • リポジトリには過去のアーキテクチャ変更履歴やバージョンごとの改善内容を詳細に記載

性能・評価

  • JevBench のパブリックセットで、精度・キャリブレーション(Brierスコア)を測定
  • 2Bクラスで 精度3位、キャリブレーション1位 (2B超モデル除く)
  • ローカル環境 での意思決定レイテンシー中央値は約115ms(Nvidia RTX3090使用時)
    • M3 MacBookでも小規模タスクなら153ms程度と高速
    • タスクサイズ(トークン数)に比例して線形にレイテンシー増加
  • 今後さらなる低レイテンシー化・精度向上の余地あり

モデルサイズと用途

  • 2Bパラメータ を選択した理由
    • 実験・検証が手持ちのハードウェアで容易
    • 小型ながら十分な能力を持ち、意味のあるタスクにも対応
    • JevBenchの簡単なタスクは 100%正答
  • モデルルーティング、ツール選択、評価、ガードレール、メモリ、コンテキスト管理、ポリシー分類 など多用途
  • LLMと組み合わせた ハイブリッドエージェント の構築も進行中
  • ゲーム、タスク自動化、迷路探索など多様な実験事例

導入・利用方法

  • pip install strands-decider でCLIツールを導入可能
  • 例:状態と質問に基づき最適なチームを選択
    • コマンド例
      strands-decider ask StrandsAgents/strands-decider-2B-hobson-v19 \
        --state "Help! My payouts have been failing for 3 days! " \
        --choice "Which team should handle this?=billing,sales,retail"
      
    • 出力例
      choice_0 -> billing (confidence 0.768)
      billing 0.845
      retail 0.091
      sales 0.064
      
  • Strands agent 内での利用例もリポジトリに掲載
    • Amazon BedrockのLLMと連携したシナリオで、意思決定モデルがツール呼び出しの妥当性を判定
    • Pythonクラスでの柔軟なインターベンション設計が可能
    • 安価な意思決定がLLMよりも容易にワークフローへ組み込み可能

今後と結論

  • GitHubやHugging Face で全データ・コード・学習スクリプトを公開
  • コミュニティによる改良・実験を歓迎
  • エージェントAI分野のイノベーション を牽引する基盤としての活用を期待
  • 今すぐダウンロード・利用・改良が可能

公式リポジトリやドキュメントを参照し、Strands Decider 2Bで新たなAIワークフローの構築や実験に挑戦を!

Hackerたちの意見

これは素晴らしいモデルだね。Chromeの拡張機能で使って、メールとかをフィルタリングしてるんだ。サイズ、機能、スピードのバランスが絶妙で、アドホックな大量分類タスクにちょうどいい感じ。ブラウザで使いたい人はここをチェックしてみてね: https://huggingface.co/alxnahas/strands-decider-2B-webgpu

└

ライブデモ: https://alxnahas.github.io/strands-decider-web/?backend=engi...

素晴らしくよく書かれてるね。AIの専門家が何を言ってるのか理解できることは滅多にないけど、これは人間のために人間が書いたものだよ。技術的にはいろんな使い方ができるみたいだけど、みんなのアイデアも聞きたいな。

└

昼ごはんのメニューを選んでるの?

└

僕が考えてるユースケースは、比較的シンプルなホームアシスタントアプリを作って、スマートホームのライトやキッチンスピーカーで音楽をコントロールできるようにすることなんだ。例えば、「ライトを30%の明るさに設定して」みたいな具体的なコマンドと、「今日の天気は?」みたいな一般的な質問を区別できるようにしたい。後者は安いLLMに渡して処理させることも考えてる。全部LLMで処理できるかもしれないけど、これらの意思決定モデルがすごく速いのが気に入ってるんだ。

今のところ、コメディアンが人間に裏打ちされた意思決定モデルを出すのを待ちきれないよ。ジェリーに会ってみて。文字通り、質問に答えてくれるジェリーっていう名前の男だよ。

└

あなたのコメントで笑っちゃった。ジェリー、「ザ・ディサイダー」 https://www.youtube.com/watch?v=r8VbzrZ9yHQ

└

ああ!多分、ChatTJBがいいと思うよ [1] [1] - https://chattjb.org/about

└

心配しないで、ジェリーが全部手配してくれるから。

└

ジェリー、レースしろ!

これらのマルチモーダルなやつ、もう出てるの?キャリブレーションされた確率を使って、「この形は合ってる?」みたいな質問をモデルに聞いてみたいな。もちろん、LLMに聞くこともできるけど…。

└

Cloudflareのclefはマルチモーダルだよ。(https://blog.cloudflare.com/clef-decision-models/) (ちなみに、Cloudflareで働いてるけど、モデルには関わってないよ。)

Hacker Newsで議論の続きを見る