Lompat ke konten utama
buildradar
Sign in

jundot/omlx

@jundot

Server inferensi LLM dengan continuous batching & caching SSD untuk Apple Silicon — dikelola dari menu bar macOS

Bintang
21.333
Fork
1.812
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
5 hari yang lalu
Pythonmacosllmopenai-apiapple-siliconmlxinference-server

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.