llama

llama.go 就像是用纯 Golang 实现的 llama.cpp！

🦙 将 LLM 整合至结构化 NLP 流水线中

一个开源的知识型 Large Language Model 框架

Parallax 是一个分布式模型服务框架，让您随处构建自己的 AI 集群

📎 Clippy，现在加入了一些 AI

RTP-LLM：阿里巴巴针对多元应用打造的高性能 LLM 推理引擎。

一个优雅的 transformers 的 PyTorch 实现

Jlama 是适用于 Java 的现代 LLM 推理引擎

在自己的计算机上运行 Alpaca（与其他基于 LLaMA 的本地 LLM）的最简单方式

在在线协助您的 LLM

Hexabot v3 是一个 AI 工作流程自动化平台，在单一运行时环境中结合工作流程、动作、代理与对话通道。

llama.cpp 的 WebAssembly 绑定 - 实现浏览器端 LLM 推理

赋予 agent 强大能力的工具集。

用于训练遵循指令 LLM (ChatGPT、LLaMA、Alpaca) 的开源数据集集合

精选的 NLP 资源列表，聚焦于 Transformer 网络、注意力机制、GPT、BERT、ChatGPT、LLMs 与迁移学习。

[NeurIPS 2023] LLM-Pruner：大型语言模型的结构化剪枝。支持 Llama-3/3.1、Llama-2、LLaMA、BLOOM、Vicuna、Baichuan、TinyLlama 等。

比较可在消费级硬件上本地部署的不同 LLM 的性能。使用 Colab WebUI 亲自执行。

与原生运行在浏览器中的 AI 大语言模型对话。享受隐私、无服务器、流畅的 AI 对话体验。

[ECCV 2024 Best Paper Candidate & TPAMI 2025] PointLLM：赋能大型语言模型理解点云

一个由 LLM 驱动的代码库代理，旨在协助开发者和团队快速生成文档并理解代码库。

由编译器技巧强化的 TypeScript AI 函数调用框架。

llama.cpp 的 React Native 绑定

从 NLP 到 LLM 的算法全栈教程，在线阅读地址：https://datawhalechina.github.io/base-llm/

Cotabby 是适用于整个 Mac 的本地 AI 自动完成工具。开源、设备端、适用于所有输入位置。

小型大型多模态模型框架

⛷️ LLaMA-MoE：通过持续预训练从 LLaMA 构建混合专家模型 (EMNLP 2024)

中文法律 LLaMA

使用本地 LLM 从第一原理构建 AI 代理程序 - 无框架、无云端 API、无隐藏推理。

2026 年零基础入门与提升 LLM 技能的完整指南，助你掌握最新动态与最先进技术！

TextGen：文本生成模型实现，包含 LLaMA、BLOOM、GPT2、BART、T5、SongNet 等。提供文本生成模型的训练与预测，开箱即用。