brontoguana/krasis

Krasis 是一款混合型 LLM 執行時期，專注於在消費級 VRAM 受限的硬體上高效執行大型模型。

↗ 在 GitHub 開啟

星數

519

Fork 數

33

語言

C++

授權

NOASSERTION

最後推送

1 週前

C++large-language-models llm-inference transformer cpu-inference gguf-model-support gpu-inference high-performance-inference hybrid-inference inference-engine inference-optimization llama-cpp-alternative mixture-of-experts

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。