sqliteai/warp

Chạy toàn bộ mô hình Kimi K3 với 2,78 nghìn tỷ tham số vượt quá dung lượng RAM khả dụng bằng cách truyền trực tiếp các trọng số đã kích hoạt từ NVMe. Động cơ suy luận C có thể nhúng, không có phần phụ thuộc.