Pular para o conteúdo principal
buildradar
Entrar

NotPunchnox/rkllama

@NotPunchnox

Alternativa ao Ollama para NPU Rockchip: Uma solução eficiente para executar modelos de IA e aprendizado profundo em dispositivos Rockchip com suporte otimizado a NPU (rkllm)

Estrelas
602
Bifurcações
99
Linguagem
Python
Licença
GPL-3.0
Último push
há 2 semanas
Pythonpythonofflineaillmllm-inferenceclientserverclient-serverrk3588rockchipiallm-appsnpunpu-llmorange-piorangepiorangepi5orangepi5prork3576

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.