概要
Strands Decider 2B は、高速な実験やローカル開発に最適化された 小型意思決定モデル。 従来のLLMとは異なり、 選択肢から最適な答えを選択 し、信頼性スコアを提供。 オープンソース としてGitHubとHugging Faceで公開、誰でも利用や改良が可能。 低レイテンシー ・高精度・高キャリブレーションが特長。 エージェントAI の実践やイノベーション推進に最適な新世代モデル。
Strands Decider 2B:新しい意思決定モデルの紹介
- strands-labs は最新のエージェントAI技術を実践的に体験できる場として設立
- Strands Decider 2B は、高速な実験やローカル開発、イノベーション向けに最適化された 小型意思決定モデル
- TypeSafe AIのJev などに続く、新しい「System One」型意思決定モデルの一つ
- LLM と異なり、任意出力生成ではなく、選択肢から答えを選ぶ設計
- 例:Yes/No判定、言語判別、0〜1のスコア付与など
- 柔軟性は減るが、 速度と能力が向上 し、必ず選択肢から答えを返す
- 非常に低いレイテンシー で動作し、複数質問も効率的に処理
- 複雑な推論やテキスト生成には不向きだが、 信頼性スコア を付与できる点がLLMと異なる
- Strands Harness SDK などのエージェントワークフローに最適
モデルアーキテクチャと技術詳細
- Qwen3.5-2B の事前学習済みLLMトルソを流用し、LMヘッドを除去
- Pointer Head に置換し、各選択肢の隠れ状態を<answer>位置と比較してスコア化
- Pointer Headのパラメータ数は約100万と小規模
- トルソは rank-16 LoRAアダプタ でファインチューニング
- リポジトリには過去のアーキテクチャ変更履歴やバージョンごとの改善内容を詳細に記載
性能・評価
- JevBench のパブリックセットで、精度・キャリブレーション(Brierスコア)を測定
- 2Bクラスで 精度3位、キャリブレーション1位 (2B超モデル除く)
- ローカル環境 での意思決定レイテンシー中央値は約115ms(Nvidia RTX3090使用時)
- M3 MacBookでも小規模タスクなら153ms程度と高速
- タスクサイズ(トークン数)に比例して線形にレイテンシー増加
- 今後さらなる低レイテンシー化・精度向上の余地あり
モデルサイズと用途
- 2Bパラメータ を選択した理由
- 実験・検証が手持ちのハードウェアで容易
- 小型ながら十分な能力を持ち、意味のあるタスクにも対応
- JevBenchの簡単なタスクは 100%正答
- モデルルーティング、ツール選択、評価、ガードレール、メモリ、コンテキスト管理、ポリシー分類 など多用途
- LLMと組み合わせた ハイブリッドエージェント の構築も進行中
- ゲーム、タスク自動化、迷路探索など多様な実験事例
導入・利用方法
- pip install strands-decider でCLIツールを導入可能
- 例:状態と質問に基づき最適なチームを選択
- コマンド例
strands-decider ask StrandsAgents/strands-decider-2B-hobson-v19 \ --state "Help! My payouts have been failing for 3 days! " \ --choice "Which team should handle this?=billing,sales,retail" - 出力例
choice_0 -> billing (confidence 0.768) billing 0.845 retail 0.091 sales 0.064
- コマンド例
- Strands agent 内での利用例もリポジトリに掲載
- Amazon BedrockのLLMと連携したシナリオで、意思決定モデルがツール呼び出しの妥当性を判定
- Pythonクラスでの柔軟なインターベンション設計が可能
- 安価な意思決定がLLMよりも容易にワークフローへ組み込み可能
今後と結論
- GitHubやHugging Face で全データ・コード・学習スクリプトを公開
- コミュニティによる改良・実験を歓迎
- エージェントAI分野のイノベーション を牽引する基盤としての活用を期待
- 今すぐダウンロード・利用・改良が可能
公式リポジトリやドキュメントを参照し、Strands Decider 2Bで新たなAIワークフローの構築や実験に挑戦を!