RahulSChand の追跡中のオープンソースリポジトリを、スター数順に表示します。
あらゆる LLM のトークン/秒および GPU メモリ要件を計算します。llama.cpp/ggml/bnb/QLoRA の量子化をサポート
