Erfasste Open-Source-Repos von jmaczan, sortiert nach Sternen.
Baue deine eigene performante LLM-Inferenz-Engine in C++ und CUDA – eine kleinere Version von vLLM