SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM: 密度・スパース量子化

↗ GitHub で開く

スター

724

フォーク

52

言語

Python

ライセンス

MIT

最終プッシュ

2 年前

Python llm large-language-models transformer quantization llama natural-language-processing small-models text-generation model-compression efficient-inference localllm post-training-quantization

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。