llama

llama.go 就像是用純 Golang 實作的 llama.cpp！

🦙 將 LLM 整合至結構化 NLP 管線中

一個開源的知識型 Large Language Model 框架

Parallax 是一個分散式模型服務框架，讓您隨處建構自己的 AI 叢集

📎 Clippy，現在加入了一些 AI

一個優雅的 transformers PyTorch 實作

RTP-LLM：阿里巴巴針對多元應用打造的高效能 LLM 推論引擎。

Jlama 是適用於 Java 的現代化 LLM 推論引擎

在自己的電腦上執行 Alpaca（與其他基於 LLaMA 的本機 LLM）的最簡單方式

在線上協助您的 LLM

Hexabot v3 是一個 AI 工作流程自動化平台，在單一執行環境中結合工作流程、動作、代理程式與對話通道。

llama.cpp 的 WebAssembly 綁定 - 實現瀏覽器端 LLM 推論

賦予 agent 強大能力的工具集。

用於訓練遵循指令 LLM (ChatGPT、LLaMA、Alpaca) 的開源資料集集合

精選的 NLP 資源清單，聚焦於 Transformer 網路、注意力機制、GPT、BERT、ChatGPT、LLMs 與遷移學習。

[NeurIPS 2023] LLM-Pruner：大型語言模型的結構化剪枝。支援 Llama-3/3.1、Llama-2、LLaMA、BLOOM、Vicuna、Baichuan、TinyLlama 等。

比較可在消費級硬體上本機部署的不同 LLM 的效能。使用 Colab WebUI 親自執行。

與原生執行在瀏覽器中的 AI 大型語言模型對話。享受隱私、無伺服器、流暢的 AI 對話體驗。

[ECCV 2024 Best Paper Candidate & TPAMI 2025] PointLLM：賦能大型語言模型理解點雲

由編譯器技巧強化的 TypeScript AI 函式呼叫框架。

一個由 LLM 驅動的儲存庫代理，旨在協助開發者和團隊快速產生文件並理解儲存庫。

llama.cpp 的 React Native 繫結

從 NLP 到 LLM 的演算法全端教學，線上閱讀地址：https://datawhalechina.github.io/base-llm/

Cotabby 是適用於整個 Mac 的本地 AI 自動完成工具。開源、裝置端、適用於所有輸入位置。

小型大型多模態模型框架

⛷️ LLaMA-MoE：透過持續預訓練從 LLaMA 建構混合專家模型 (EMNLP 2024)

中文法律 LLaMA

使用本地 LLM 從第一原理建構 AI 代理程式 - 無框架、無雲端 API、無隱藏推理。

TextGen：文字生成模型實作，包含 LLaMA、BLOOM、GPT2、BART、T5、SongNet 等。提供文字生成模型的訓練與預測，開箱即用。

2026 年零基礎入門與提升 LLM 技能的完整指南，助你掌握最新動態與最先進技術！