cuda

:metal: TT-NN演算子ライブラリおよびTT-Metalium低水準カーネルプログラミングモデル。

🔥 リアルタイムNVIDIA GPUダッシュボード

ThunderSVM: GPU および CPU 向けの高速な SVM ライブラリ

MNN をベースにした LLM デプロイプロジェクト。このプロジェクトは MNN に統合されました。

オープンソースの継続的推論ベンチマーク研究プラットフォーム — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72対MI355X対B200対GB300 NVL72、まもなく™ TPUv6e/v7/Trainium2/3 に対応

PyTorchを使用した単一画像からの3D Ken Burnsエフェクトの実装

GPU カーネルの自動リサーチ。任意の PyTorch モデルを渡して眠れば、最適化された Triton カーネルになって目覚めます。

UCCLはGPU向けの効率的な通信ライブラリであり、集合通信、P2P（KVキャッシュ転送、RLウェイト転送など）、EP（GPU駆動など）をカバーします。

Javaで書き、GPUで動かす。高速。

TensorRTによるYOLOv8、YOLOv8-Pose、YOLOv8-Seg、YOLOv8-Cls、YOLOv7、YOLOv6、YOLOv5、YOLONAS等の実装。CUDA IS ALL YOU NEED。

Python ライクな構文を持つ、効率的な C++20 GPU 数値計算ライブラリ

強力なChatterbox TTSモデルをセルフホストします。ユーザーフレンドリーなWeb UI、柔軟なAPIエンドポイント（OpenAI互換を含む）、プリセット音声、音声クローン、大規模なオーディオブック規模のテキスト処理を提供します。NVIDIA (CUDA)、AMD (ROCm)、CPUで高速実行可能です。

JuliaでのCUDAプログラミング

OpenMP、Cuda、OpenCLバックエンドを介してCPU、GPU、組み込みデバイス向けにディープラーニングを重視した、Nim製の高速で使いやすくポータブルなテンソルライブラリ

GPU上のテンソル/エキスパート並列処理に向けた、通信オーバーラップ対応の高速ライブラリ

LuxCore のソースリポジトリ

https://wavespeed.ai/ NVIDIA GPU 上の HuggingFace Diffusers 向け最高推論パフォーマンス最適化フレームワーク

stdgpu: GPU上で効率的なSTLライクなデータ構造を実現

GraphVite: 汎用かつ高パフォーマンスなグラフ埋め込みシステム

非フリーのコーデックを含む静的な FFmpeg を OSX および Linux 上で簡単にビルドできるスクリプト

CUDAツールキットの安全なRustラッパー

Intel® oneAPI Toolkits のサンプル集

Python 向けの OpenCL 統合と便利な機能

ハッカーのための機械学習エンジン

高速な Clojure Matrix ライブラリ

SGLang-Omni は、TTS、ASR、音声、およびオムニモデルの高性能なサービングを実現します。

C++とCUDAで高性能なLLM推論エンジンを構築する - vLLMの軽量版

プログラマブルなCUDA/C++ GPUグラフ解析

GPU コンピューティングを活用したロボティクス。

ストリームアーキテクチャ上の高性能レンダリングフレームワーク