bentoml/OpenLLM

Ejecuta cualquier LLM de código abierto, como DeepSeek y Llama, como un endpoint de API compatible con OpenAI en la nube.

↗ Abrir en GitHub

Estrellas

12.524

Bifurcaciones

837

Lenguaje

Python

Licencia

Apache-2.0

Último push

hace 7 días

Python llm llm-inference fine-tuning llmops llama llama2 vicuna mlops mistral open-source-llm llm-serving llm-ops bentoml llama3-1 llama3-2 llama3-2-vision model-inference openllm

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.