擁有者 · SigmanticAI
SigmanticAI
SigmanticAI 收錄中的開源專案,依星數排序。
共 1 個專案
- #1
在 FPGA 上運行真實 LLM (Qwen2.5-0.5B) 的推論晶片設計 — 以 RTL 實現一個 transformer 解碼器層,每個矽晶值皆與黃金模型位元精確對應。實測速度 0.56 tok/s、效能提升 140 倍,具備完整佐證軌跡。
★ 615-45近 7 天星數變化
SigmanticAI 收錄中的開源專案,依星數排序。
在 FPGA 上運行真實 LLM (Qwen2.5-0.5B) 的推論晶片設計 — 以 RTL 實現一個 transformer 解碼器層,每個矽晶值皆與黃金模型位元精確對應。實測速度 0.56 tok/s、效能提升 140 倍,具備完整佐證軌跡。