Chuyển tới nội dung chính
buildradar
Sign in

jundot/omlx

@jundot

Máy chủ suy luận LLM với tính năng xử lý hàng loạt liên tục và bộ nhớ đệm SSD cho Apple Silicon — được quản lý từ thanh menu macOS

Sao
21.333
Fork
1.812
Ngôn ngữ
Python
Giấy phép
Apache-2.0
Push gần nhất
4 ngày trước
Pythonmacosllmopenai-apiapple-siliconmlxinference-server

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.