b4rtaz/distributed-llama
@b4rtazInferência de LLM distribuída. Conecte dispositivos domésticos em um cluster poderoso para acelerar a inferência de LLM. Mais dispositivos significam uma inferência mais rápida.
Stars
3.046
Forks
248
Language
C++
License
MIT
Last push
há 2 meses
Related intel (0)
No related intel yet
This repo has not appeared in any of the sources the radar tracks. The collector runs on a schedule — check back once it covers this repo.