xorbitsai の追跡中のオープンソースリポジトリを、スター数順に表示します。
単一のコード行を変更するだけで、GPTを任意のLLMに置き換え可能。Xinferenceを使用すると、オープンソース、音声、マルチモーダルモデルをクラウド、オンプレミス、またはラップトップ上で実行できます。すべて統一された本番環境対応の推論APIを介して。
API互換性を持ち、超高速かつスケーラブルなPythonのDSおよびMLライブラリ
