Lightning-AI

在 1 台或 10,000+ 台 GPU 上预训练、微调任意大小的 AI 模型，零代码更改

20+ 高效 LLM，附预训练、微调与大规模部署示例

基于 nanoGPT 的 LLaMA 语言模型实现。支持 flash attention、Int8 与 GPTQ 4bit 量化、LoRA 与 LLaMA-Adapter 微调、预训练。Apache 2.0 授权

一个最小化的 Python 框架，用于构建自定义 AI 推理服务器，完全控制逻辑、批次与扩展

适用于分布式、可扩展 PyTorch 应用的机器学习指标。

可加速训练和推理的 PyTorch 编译器。提供针对性能、内存、并行性的内置优化，并可轻松编写您自己的优化。

通过修复数据加载来加速模型训练。