jundot/omlx
@jundotServeur d'inférence LLM avec traitement par lots continu et mise en cache SSD pour Apple Silicon, géré depuis la barre de menus macOS.
Étoiles
21 333
Bifurcations
1 812
Langage
Python
Licence
Apache-2.0
Dernier push
il y a 1 semaine
Intel associée (0)
Aucune intel associée pour le moment
Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.