cuda

Rustのみで高速なGPUコードの記述と実行のためのライブラリおよびツールのエコシステム。

NVIDIA cuML: GPUアクセラレーションによる機械学習

3D深層学習研究を加速するためのPyTorchライブラリ

集合的なマルチGPU通信のための最適化されたプリミティブ

ArrayFire：汎用GPUライブラリ。

Transformerモデル向けの高速推論エンジン

Tengineは、組み込みデバイス向けの軽量で高性能なモジュール式推論エンジン。

超高速なC++/CUDAニューラルネットワークフレームワーク

HIP: ポータビリティのためのC++異種計算インターフェース

リターゲット可能なMLIRベースの機械学習コンパイラおよびランタイムツールキット。

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] 量子化アテンションにより、言語、画像、動画モデルのエンドツーエンドの指標を落とすことなく、FlashAttentionと比較して2〜5倍の高速化を実現

単一のネイティブアプリケーションから 3D Gaussian Splatting シーンのトレーニング、検査、編集、自動化、エクスポートを行います。

NVIDIA GPU上のTransformerモデルを高速化するライブラリ。Hopper、Ada、Blackwell GPUでの8ビットおよび4ビット浮動小数点（FP8およびFP4）精度を利用し、学習と推論の両方でより低いメモリ使用量と優れたパフォーマンスを提供します。

セルフホスト型、ローカル環境専用の NVR および AI コンピュータービジョンソフトウェア。オブジェクト検出、動体検知、顔認識などの機能を備え、自宅やオフィス、その他監視したい場所をしっかりと見守る力を提供します

LYGIA は、パフォーマンスと柔軟性を重視して設計された、粒度の細かい多言語（GLSL、HLSL、Metal、WGSL、WebGL、CUDA）対応シェーダーライブラリです

C言語の単一ファイルによる、リモートWebビューア付きリアルタイムCPU/GPUプロファイラ

CUDA におけるいくつかのアルゴリズムを最適化する方法

Jittorは、JITコンパイルとメタ演算子をベースにした高性能なディープラーニングフレームワークです。

GPUアクセラレーションと幅広いハードウェアをサポートする、オープンソースのニューラルネットワークチェスエンジン。

NVIDIA 製品向けエージェントスキル - Claude Code、Codex、その他のコーディングエージェントにインストールして、Physical AI、ロボティクス、シミュレーション、CUDA、RAG のワークフローをエンドツーエンドで実行できます。

cuda-oxide は、安全で慣用的な Rust で (SIMT) GPU カーネルを記述できる実験的な Rust-to-CUDA コンパイラです。標準的な Rust コードを直接 PTX にコンパイルします（DSL や外部言語バインディングはなく、純粋な Rust です）。

GPUを活用したリアルタイム分析ストレージおよびクエリエンジン

HeavyDB（旧 MapD/OmniSciDB）

RamaLama は、あらゆるソースからの AI モデルのローカル配信を簡素化し、コンテナのおなじみの操作性を通じて本番環境での推論への利用を容易にするオープンソースの開発者ツールです。

TensorRTを使用したNVIDIA GPU向けPyTorch/TorchScript/FXコンパイラ

トレーニングおよび推論のための PyTorch ネイティブ量子化

Minkowski Engine は、高次元スパーステンソル向けの自動微分ニューラルネットワークライブラリです。

NVIDIA GPU Operator は Kubernetes 内で GPU の作成、設定、管理を行います

コンシューマー向けおよび異種混在ハードウェア向けのLLM推測的推論サーバー。

データ並列関数型プログラミング言語