概要
Ollaya は、 高速・プライベートな意思決定AIモデル を自前のハードウェア上で動作可能。 TypeSafe API互換 で、既存のツールやSDKとシームレスに統合。 英語・多言語対応モデル を含み、様々な用途に即応。 インストールや運用が簡単 で、主要OS・Docker環境に対応。 データはローカル処理 され、プライバシーを最大限に保護。
Ollaya: 高速・プライベートな意思決定AI
- Ollaya は、 テキストやJSONに関する質問 に対し、 ミリ秒単位 で高精度な回答を返すAIモデル。
- プライバシー重視 ：データは 自分のハードウェア上 で処理されるため、外部に情報が漏れるリスクなし。
- オープンソース ： GitHub で公開、 Apache-2.0ライセンス で自由に利用・改変可能。
- TypeSafe API互換 ：既存の TypeSafe Python SDK やAPIクライアントがそのまま利用可能。
- 質問例 ：「今月2回請求されたので返金してほしい」→ 意図（refund）、緊急度（no）、不満度（1.59/3）、返金要求（yes）などを即座に判定。
- 推論は単一パス で完結、 トークン逐次生成不要 のため非常に高速。
圧倒的な速度と低レイテンシ
- RTX 4090上での5問同時リクエスト ： 約10ms で完了。
- 主要モデルのレイテンシ比較 ：
- laya:multilingual ：8.1ms
- laya:en ：9.6ms
- gliclass ：14.7ms
- nli ：20.4ms
- decider:0.8b ：155ms
- TypeSafe Jev hosted API ：236–276ms
- ローカル実行 により、 APIネットワーク遅延を最小化。
API互換性と利用例
- TypeSafe API 互換エンドポイント（/v1/systemone, /v1/models等）を提供。
- Python SDK（0.7.1） でそのまま利用可能。
- curl例 ：
- エンドポイントにリクエストし、 意図（invoice/refund/other） を高信頼度で判定。
- レスポンス例 ：
- {"model":"laya:en","answers":{"intent":{"type":"choice","choice":"invoice","confidence":0.9547, ...}}}
多様なモデル・マルチプラットフォーム対応
- Convai Innovations 製Layaシリーズ：
- 英語特化モデル
- 100+言語対応マルチリンガルモデル
- 意思決定特化モデル
- 自動ルーティングモデル
- データはローカルで処理 ：チケット、メール、ユーザーメッセージ等の機密情報を安全に分析。
プラットフォーム・インストール
- デスクトップアプリ・コマンドライン・Docker で提供。
- 対応OS ：
- macOS （Apple Silicon対応、GPU/CPU）
- Windows （10/11, x64, GPU/CPU）
- Linux （x86-64, ARM64, GPU/CPU、systemdサービス対応）
- Docker （amd64, arm64, NVIDIA GPU対応）
- NVIDIA GPU 利用時は CUDA 13 と R580以降のドライバ が必要。
- Apple, AMD, Intel GPU ではCPU動作。
- インストールはワンバイナリ・ワンコマンド ：「ollaya run laya」
- 公式サイトやGitHubで簡単ダウンロード。
まとめ
- Ollaya は 超高速・高精度・プライベート な意思決定AIソリューション。
- TypeSafe API互換 で既存ワークフローに即座に組み込み可能。
- 主要OS・プラットフォーム対応、 導入もシンプル。
- オープンソース で、 自社のデータを手元で安全に活用 可能。