토픽 · inference-optimization

inference-optimization

inference-optimization 태그가 달린 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.

리포지토리

4

총 스타

4,914

평균 스타

1,229

비중

0.00%

같은 리포지토리에 inference-optimization 태그와 자주 함께 쓰이는 토픽이에요.

최근 라이징

최근 90일 안에 만들어지고 inference-optimization 태그가 달린 리포지토리예요.

#1
llm-inference-engineering ↗@amitshekhariitbhuMarkdown
Learn LLM Inference Engineering step by step - from KV cache, PagedAttention, and continuous batching to vLLM, SGLang, and GPUs.
★ 221

#1
XNNPACK ↗@googleC
모바일, 서버, 웹을 위한 고효율 부동소수점 신경망 추론 연산자
★ 2,437+6최근 7일 스타 변화
#2
efficient-dl-systems ↗@mryabJupyter Notebook
효율적인 딥러닝 시스템 강의 자료
★ 1,028+4최근 7일 스타 변화
#3
BladeDISC ↗@alibabaC++
BladeDISC는 머신러닝 워크로드를 위한 엔드투엔드 동적 형태(Dynamic Shape) 컴파일러 프로젝트입니다.
★ 932-1최근 7일 스타 변화
#4
krasis ↗@brontoguanaC++
Krasis는 소비자용 VRAM 제한 하드웨어에서 대형 모델을 효율적으로 실행하는 데 중점을 둔 하이브리드 LLM 런타임입니다.
★ 516+3최근 7일 스타 변화

← 토픽 목록으로