BerriAI の追跡中のオープンソースリポジトリを、スター数順に表示します。
最速かつ最軽量のAIゲートウェイ。RustコアとPython SDKを搭載。コスト追跡、ガードレール、ロードバランシング、ロギングを備え、100以上のLLM APIをOpenAI(またはネイティブ)形式で呼び出し可能 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]