kossisoroyce/timber

Ollama cho các mô hình ML cổ điển. Trình biên dịch AOT chuyển đổi các mô hình XGBoost, LightGBM, scikit-learn, CatBoost và ONNX thành mã suy luận C99 gốc. Một lệnh để tải, một lệnh để phục vụ. Nhanh hơn 336 lần so với suy luận bằng Python.