kossisoroyce 收录中的开源项目,按星标数排序。
针对传统 ML 模型的 Ollama。能将 XGBoost、LightGBM、scikit-learn、CatBoost 与 ONNX 模型转为原生 C99 推论代码的 AOT 编译器。只需一个指令加载、一个指令提供服务。比 Python 推论快 336 倍。