dphnAI/sonar

Motor de inferencia para LLM a gran escala

↗ Abrir en GitHub

Estrellas

1847

Bifurcaciones

210

Lenguaje

C++

Licencia

AGPL-3.0

Último push

hace 4 semanas

C++machine-learning cuda lora inference-engine rocm intel api-rest speculative-decoding tpu inferentia

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.