본문으로 건너뛰기
buildradar
Sign in

Tiiny-AI/PowerInfer

@Tiiny-AI

로컬 배포를 위한 고속 대형 언어 모델 서빙

스타
9,765
포크
598
언어
C++
라이선스
MIT
마지막 푸시
4개월 전
C++llmlarge-language-modelsllm-inferencellamalocal-inference

아직 관련 인텔이 없습니다

이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.