turboderp-org/exllamav3
@turboderp-org最新のコンシューマー向け GPU で LLM をローカル実行するための、最適化された量子化および推論ライブラリ
スター
1,267
フォーク
146
言語
Python
ライセンス
MIT
最終プッシュ
6 日前
関連 Intel（0）
関連 Intel はまだありません
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。