所有者 · SigmanticAI
SigmanticAI
SigmanticAI 收录中的开源项目,按星标数排序。
共 1 个项目
- #1
在 FPGA 上运行真实 LLM (Qwen2.5-0.5B) 的推理芯片设计 — 以 RTL 实现一个 transformer 解码器层,每个硅晶值皆与黄金模型比特精确对应。实测速度 0.56 tok/s、性能提升 140 倍,具备完整佐证轨迹。
★ 615-45近 7 天星标变化
SigmanticAI 收录中的开源项目,按星标数排序。
在 FPGA 上运行真实 LLM (Qwen2.5-0.5B) 的推理芯片设计 — 以 RTL 实现一个 transformer 解码器层,每个硅晶值皆与黄金模型比特精确对应。实测速度 0.56 tok/s、性能提升 140 倍,具备完整佐证轨迹。