NVIDIA-NeMo/Switchyard
@NVIDIA-NeMoSwitchyard permet aux applications LLM d'acheminer le trafic entre différents modèles et fournisseurs tout en préservant la compatibilité native avec les API OpenAI et Anthropic, facilitant ainsi la sélection flexible des modèles, l'analyse comparative et l'optimisation des coûts et des performances.
Étoiles
2 665
Bifurcations
231
Langage
Python
Licence
Apache-2.0
Dernier push
il y a 5 jours
Intel associée (0)
Aucune intel associée pour le moment
Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.