toverainc/willow-inference-server

WebRTC、REST、WSを介してASR/STT、TTS、LLMをサポートする、オープンソースかつローカル、セルフホスト型の高度に最適化された言語推論サーバー

↗ GitHub で開く

スター

512

フォーク

60

言語

Python

ライセンス

Apache-2.0

最終プッシュ

7 か月前

Python webrtc privacy llm deep-learning text-to-speech cuda whisper llama speech-recognition speech-to-text vicuna willow

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。