intentee의 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.
대규모 자체 호스팅을 위한 오픈소스 LLM/VLM 로드 밸런서 및 서빙 플랫폼 🏓🦙. llm-d, Docker Model Runner 등의 대안으로, ggml 생태계를 기반으로 복잡성을 줄이고 간단하게 배포할 수 있습니다. CPU와 GPU에서 실행됩니다.
