Tiiny-AI/PowerInfer

Servicio de modelos de lenguaje grandes de alta velocidad para implementación local

↗ Abrir en GitHub

Estrellas

9765

Bifurcaciones

598

Lenguaje

C++

Licencia

MIT

Último push

hace 4 meses

C++llm large-language-models llm-inference llama local-inference

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.