dphnAI/sonar

@dphnAI

Skalierbare LLM-Inferenz-Engine

↗ Auf GitHub öffnen

Sterne

1.847

Forks

210

Sprache

C++

Lizenz

AGPL-3.0

Letzter Push

vor 3 Wochen

C++machine-learning cuda lora inference-engine rocm intel api-rest speculative-decoding tpu inferentia

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.

Verwandte Intel (0)

Noch keine verwandte Intel