소유자 · triton-inference-server

triton-inference-server

triton-inference-server의 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.

리포지토리 7개

#1
server ↗@triton-inference-serverPython
Triton Inference Server는 최적화된 클라우드 및 엣지 추론 솔루션을 제공합니다.
★ 10,958+9최근 7일 스타 변화
#2
tensorrtllm_backend ↗@triton-inference-server
Triton TensorRT-LLM 백엔드
★ 944+1최근 7일 스타 변화
#3
tutorials ↗@triton-inference-serverPython
이 저장소에는 Triton Inference Server를 위한 튜토리얼과 예제가 포함되어 있습니다
★ 861+0최근 7일 스타 변화
#4
pytriton ↗@triton-inference-serverPython
PyTriton은 Python 환경에서 Triton 배포를 간소화하는 Flask/FastAPI 스타일의 인터페이스
★ 848+0최근 7일 스타 변화
#5
client ↗@triton-inference-serverC++
Triton Python, C++, Java 클라이언트 라이브러리 및 Go, Java, Scala용 GRPC 생성 클라이언트 예제
★ 700+0최근 7일 스타 변화
#6
python_backend ↗@triton-inference-serverC++
Python으로 전처리, 후처리 및 기타 로직을 구현할 수 있게 해주는 Triton 백엔드입니다.
★ 682+1최근 7일 스타 변화
#7
model_analyzer ↗@triton-inference-serverPython
Triton Model Analyzer는 Triton Inference Server 모델의 연산 및 메모리 요구 사항을 더 잘 이해하도록 돕는 CLI 도구입니다.
★ 527+0최근 7일 스타 변화