본문으로 건너뛰기
buildradar
Sign in

jundot/omlx

@jundot

Apple Silicon을 위한 연속 배치 및 SSD 캐싱이 지원되는 LLM 추론 서버 — macOS 메뉴 바에서 관리

스타
21,333
포크
1,812
언어
Python
라이선스
Apache-2.0
마지막 푸시
6일 전
Pythonmacosllmopenai-apiapple-siliconmlxinference-server

아직 관련 인텔이 없습니다

이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.