kossisoroyce 收錄中的開源專案,依星數排序。
針對傳統 ML 模型的 Ollama。能將 XGBoost、LightGBM、scikit-learn、CatBoost 與 ONNX 模型轉為原生 C99 推論程式碼的 AOT 編譯器。只需一個指令載入、一個指令提供服務。比 Python 推論快 336 倍。