foldl/chatllm.cpp

用于在计算机上进行实时聊天的多个模型的纯 C++ 实现（支持 CPU 和 GPU）

↗ 在 GitHub 打开

星数

925

Fork 数

74

语言

C++

许可

MIT

最后推送

1天前

C++llm llm-inference

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。