SigmanticAI/apex-inference-chip

FPGA에서 실제 LLM(Qwen2.5-0.5B)을 실행하는 추론 칩 디자인 — RTL로 구현된 하나의 트랜스포머 디코더 레이어, 모든 실리콘 값이 골든 모델과 비트 단위로 일치함. 측정된 속도는 0.56 tok/s로 140배 향상되었으며, 전체 검증 증적 제공.