inference-optimization

適用於行動裝置、伺服器與 Web 的高效能浮點數類神經網路推論運算子

高效深度學習系統課程教材

BladeDISC 是一個用於機器學習工作負載的端對端動態形狀編譯器 (Dynamic Shape Compiler) 專案。

Krasis 是一款混合型 LLM 執行時期，專注於在消費級 VRAM 受限的硬體上高效執行大型模型。