LLM Gatewayについて
複数プロバイダーのモデル呼び出し、ルーティング、リクエスト分析を管理する、OpenAI互換の統一APIを提供。
これらのタスクから始める
- オープンソースゲートウェイ
- モデルルーティング
LLM Gateway
APIゲートウェイ・プロキシオープンソースゲートウェイを通じて、複数モデルへのリクエストをルーティング・分析。
オープンソースゲートウェイを通じて、複数モデルへのリクエストをルーティング・分析。
複数プロバイダーのモデル呼び出し、ルーティング、リクエスト分析を管理する、OpenAI互換の統一APIを提供。