bentoml/OpenLLM

Exécutez n'importe quel LLM open-source, tel que DeepSeek ou Llama, en tant que point de terminaison d'API compatible OpenAI dans le cloud.

↗ Ouvrir sur GitHub

Étoiles

12 524

Bifurcations

837

Langage

Python

Licence

Apache-2.0

Dernier push

il y a 1 semaine

Python llm llm-inference fine-tuning llmops llama llama2 vicuna mlops mistral open-source-llm llm-serving llm-ops bentoml llama3-1 llama3-2 llama3-2-vision model-inference openllm

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.