gpu

Một Python framework dành cho mô phỏng tăng tốc GPU, robot và học máy.

Một ngôn ngữ để tính toán song song dữ liệu nhanh chóng và di động

FlashInfer: Thư viện Kernel cho phục vụ LLM

Chạy ứng dụng GUI và desktop trong container docker và podman. Tập trung vào bảo mật.

Công cụ định hình văn bản HarfBuzz

Thư viện tăng tốc bằng GPU chứa các khối xây dựng được tối ưu hóa cao và công cụ thực thi để xử lý dữ liệu nhằm tăng tốc các ứng dụng huấn luyện và suy luận học sâu.

Lemonade giúp người dùng khám phá và chạy các ứng dụng AI cục bộ bằng cách cung cấp các LLM được tối ưu hóa trực tiếp từ GPU và NPU của họ. Tham gia discord của chúng tôi: https://discord.gg/5xXzkMu8Zk

Công cụ cấu hình và giám sát GPU trên Linux

Thư viện TensorFlow hiệu năng cao dành cho tài chính định lượng.

Công cụ dịch manga hỗ trợ bởi ML, được viết bằng Rust.

Nơi diễn ra công việc phát triển GPU cho Web!

Hệ sinh thái các thư viện và công cụ để viết và thực thi mã GPU nhanh hoàn toàn bằng Rust.

NVIDIA cuML: Học máy tăng tốc bằng GPU

Phần mềm CFD lattice Boltzmann nhanh nhất và tiết kiệm bộ nhớ nhất, chạy trên mọi GPU và CPU thông qua OpenCL. Miễn phí cho mục đích phi thương mại.

Các hàm nguyên thủy được tối ưu hóa cho giao tiếp đa GPU tập thể

Trình kết xuất HTML nhẹ, hiệu năng cao dành cho nhà phát triển game và ứng dụng.

AI trên thiết bị dành cho di động, nhúng và biên (edge) cho PyTorch

Dự báo chuỗi thời gian với PyTorch

ArrayFire: một thư viện GPU đa năng.

MegEngine là một framework học sâu nhanh chóng, có thể mở rộng, dễ sử dụng và hỗ trợ tính đạo hàm tự động

Công cụ CLI giám sát hiệu năng cho Apple Silicon

Khung mạng neural C++/CUDA cực nhanh

📊 Tiện ích dòng lệnh đơn giản để truy vấn và giám sát trạng thái GPU

Đạt hiệu suất suy luận tối tân với các bộ tăng tốc hiện đại trên Kubernetes

Khả năng quan sát eBPF - Truy vết phân tán và Phân tích hiệu năng

Tài liệu TVM bằng tiếng Trung giản thể

📷 Trình chỉnh sửa hình ảnh có thể kết hợp sử dụng Core Image và Metal.

Chuỗi ký tự nhanh hơn tới 100 lần cho C, C++, CUDA, Python, Rust, Swift, JS, & Go, tận dụng NEON, AVX2, AVX-512, SVE, GPGPU, & SWAR để tăng tốc tìm kiếm, băm, sắp xếp, khoảng cách chỉnh sửa, bản phác thảo và các thao tác bộ nhớ 🦖

🛠 IDE nền tảng web tất cả trong một chuyên dụng cho machine learning và data science.

Một thư viện tăng tốc các mô hình Transformer trên GPU NVIDIA, bao gồm sử dụng độ chính xác dấu phẩy động 8-bit và 4-bit (FP8 và FP4) trên GPU Hopper, Ada và Blackwell, nhằm cung cấp hiệu suất tốt hơn với mức sử dụng bộ nhớ thấp hơn trong cả quá trình huấn luyện và suy luận.