brontoguana/krasis

Krasis 是一款混合型 LLM 运行时，专注于在消费级 VRAM 受限的硬件上高效执行大型模型。

↗ 在 GitHub 打开

星数

520

Fork 数

33

语言

C++

许可

NOASSERTION

最后推送

1周前

C++large-language-models llm-inference transformer cpu-inference gguf-model-support gpu-inference high-performance-inference hybrid-inference inference-engine inference-optimization llama-cpp-alternative mixture-of-experts

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。