inference-server
Repositorios de código abierto monitorizados etiquetados con inference-server, ordenados por estrellas.
Temas relacionados
Temas que aparecen con frecuencia junto a inference-server en un mismo repositorio.
Emergentes recientes
Repositorios creados en los últimos 90 días, etiquetados con inference-server.
No hay repositorios nuevos con este tema en los últimos 90 días.
- #1
Servidor de inferencia LLM con procesamiento por lotes continuo y caché SSD para Apple Silicon, gestionado desde la barra de menús de macOS
★ 21.333+380Variación de estrellas de los últimos 7 días - #2
⚡ Motor de inferencia WebGPU en Rust puro: compatible con la API de OpenAI, nativo de GGUF, se ejecuta en cualquier GPU. Sin Python. Sin llama.cpp. Binario único.
★ 5816+6Variación de estrellas de los últimos 7 días - #3
RamaLama es una herramienta de desarrollo de código abierto que simplifica el alojamiento local de modelos de IA desde cualquier fuente y facilita su uso para inferencia en producción, todo mediante el lenguaje familiar de los contenedores.
★ 3031+6Variación de estrellas de los últimos 7 días - #4
Servidor de inferencia de código abierto y clúster de producción para todos los modelos que tu agente necesita.
★ 3030+173Variación de estrellas de los últimos 7 días - #5
Convierte cualquier ordenador o dispositivo edge en un centro de control para tus proyectos de visión por computador.
★ 2431+2Variación de estrellas de los últimos 7 días - #6
Servidor de inferencia LLM de alto rendimiento compatible con OpenAI y Anthropic para Apple Silicon. Incluye MLX nativo, procesamiento por lotes continuo, modelos multimodales, llamadas a herramientas MCP y soporte para Claude Code.
★ 1557+6Variación de estrellas de los últimos 7 días - #7★ 1199+3Variación de estrellas de los últimos 7 días
- #8★ 1055+16Variación de estrellas de los últimos 7 días
- #9
Un framework de visión artificial de código abierto para crear y desplegar aplicaciones en minutos.
★ 852+0Variación de estrellas de los últimos 7 días
