inference-server
Dépôts open source suivis étiquetés inference-server, triés par étoiles.
Sujets associés
Sujets qui apparaissent souvent aux côtés de inference-server sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés inference-server.
Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.
- #1
Serveur d'inférence LLM avec traitement par lots continu et mise en cache SSD pour Apple Silicon, géré depuis la barre de menus macOS.
★ 21 333+559Évolution des étoiles sur les 7 derniers jours - #2
⚡ Moteur d'inférence WebGPU en pur Rust — compatible avec l'API OpenAI, natif GGUF, fonctionne sur n'importe quel GPU. Pas de Python. Pas de llama.cpp. Binaire unique.
★ 5 816+7Évolution des étoiles sur les 7 derniers jours - #3
RamaLama est un outil open-source simplifiant l'hébergement local de modèles d'IA et facilitant leur utilisation pour l'inférence en production, via le langage familier des conteneurs.
★ 3 031+13Évolution des étoiles sur les 7 derniers jours - #4
Serveur d'inférence open-source et cluster de production pour tous les modèles nécessaires à vos agents.
★ 3 030+199Évolution des étoiles sur les 7 derniers jours - #5
Transformez n'importe quel ordinateur ou appareil périphérique en centre de commande pour vos projets de vision par ordinateur.
★ 2 431+4Évolution des étoiles sur les 7 derniers jours - #6
Serveur d'inférence LLM haute performance compatible OpenAI et Anthropic pour Apple Silicon. Support natif MLX, traitement par lots continu, modèles multimodaux, appel d'outils MCP et support de Claude Code.
★ 1 557+9Évolution des étoiles sur les 7 derniers jours - #7★ 1 199+5Évolution des étoiles sur les 7 derniers jours
- #8★ 1 055+20Évolution des étoiles sur les 7 derniers jours
- #9
Un framework de vision par ordinateur open-source pour créer et déployer des applications en quelques minutes.
★ 852+0Évolution des étoiles sur les 7 derniers jours
