toverainc/willow-inference-server

Servidor de inferencia de lenguaje altamente optimizado, de código abierto, local y autohospedado, que admite ASR/STT, TTS y LLM a través de WebRTC, REST y WS.

↗ Abrir en GitHub

Estrellas

512

Bifurcaciones

Lenguaje

Python

Licencia

Apache-2.0

Último push

hace 7 meses

Python webrtc privacy llm deep-learning text-to-speech cuda whisper llama speech-recognition speech-to-text vicuna willow

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.

Intel relacionado (0)

Aún no hay intel relacionado