cuda

오픈 소스 지속적 추론 벤치마크 연구 플랫폼 — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 및 곧 출시될™ TPUv6e/v7/Trainium2/3

TT-NN 연산자 라이브러리 및 TT-Metalium 저수준 커널 프로그래밍 모델

🔥 실시간 NVIDIA GPU 대시보드

ThunderSVM: GPU 및 CPU를 지원하는 고속 SVM 라이브러리

MNN 기반의 LLM 배포 프로젝트. 이 프로젝트는 MNN에 병합되었습니다.

PyTorch를 사용하여 단일 이미지에서 3D Ken Burns 효과를 구현한 것

GPU 커널 자동 연구. PyTorch 모델을 제공하고 잠자고 일어나면 최적화된 Triton 커널이 완성됩니다.

UCCL은 GPU를 위한 효율적인 통신 라이브러리로, 집합 통신, P2P (예: KV 캐시 전송, RL 가중치 전송) 및 EP (예: GPU 구동)를 포함합니다.

Java로 작성하고 GPU에서 실행하세요. 빠른 속도로.

🔥🔥🔥 YOLOv8, YOLOv8-Pose, YOLOv8-Seg, YOLOv8-Cls, YOLOv7, YOLOv6, YOLOv5, YOLONAS용 TensorRT......🚀🚀🚀 CUDA IS ALL YOU NEED. 🍎🍎🍎

파이썬과 유사한 구문을 가진 효율적인 C++20 GPU 수치 연산 라이브러리

강력한 Chatterbox TTS 모델을 자체 호스팅하세요. 이 서버는 사용자 친화적인 Web UI, 유연한 API 엔드포인트(OpenAI 호환 포함), 사전 정의된 목소리, 목소리 복제, 대규모 오디오북 수준의 텍스트 처리를 제공합니다. NVIDIA (CUDA), AMD (ROCm) 및 CPU에서 가속화되어 실행됩니다.

Julia에서의 CUDA 프로그래밍.

OpenMP, Cuda, OpenCL 백엔드를 통해 CPU, GPU 및 임베디드 기기를 지원하며, 딥러닝에 초점을 맞춘 빠르고 직관적이며 이식성 높은 Nim 텐서 라이브러리

GPU 상의 텐서/익스퍼트 병렬화를 위한 고속 통신 중첩 라이브러리입니다.

LuxCore 소스 저장소

https://wavespeed.ai/ NVIDIA GPU에서 HuggingFace Diffusers를 위한 최고의 추론 성능 최적화 프레임워크.

stdgpu: GPU에서 작동하는 효율적인 STL 유사 자료구조

GraphVite: 일반적이고 고성능인 그래프 임베딩 시스템

CUDA 툴킷을 위한 안전한 Rust 래퍼

비자유 코덱이 포함된 정적 FFmpeg를 OSX 및 Linux에서 쉽게 빌드할 수 있는 스크립트입니다.

Intel® oneAPI 툴킷 샘플 코드

SGLang-Omni는 TTS, ASR, 음성 및 옴니 모델을 위한 고성능 서빙을 지원합니다.

Python을 위한 OpenCL 통합 및 다양한 유용한 기능

해커를 위한 머신러닝 엔진

빠른 Clojure 매트릭스 라이브러리

C++ 및 CUDA로 구축하는 고성능 LLM 추론 엔진 - vLLM의 경량 버전

프로그래밍 가능한 CUDA/C++ GPU 그래프 분석

GPU 컴퓨팅을 활용한 로봇 공학

스트림 아키텍처 기반의 고성능 렌더링 프레임워크