llama

用于 LLM 辅助代码/文本补全的 Vim 插件

在单个文件中以纯 🔥 推理 Llama 2

轻量级 ONNX 文件推理库，使用 C++ 编写。它能够在 RPI Zero 2 上（或在 298MB 内存中）运行 Stable Diffusion XL 1.0，也能在桌面端和服务器上运行 Mistral 7B。支持 ARM、x86、WASM、RISC-V。由 XNNPACK 加速。提供 Python、C# 和 JS(WASM) 绑定。

使用 GGML 库在 iOS 与 macOS 上离线运行 llama 等大型语言模型

基于 Meta Llama 3 开发的中文羊驼大模型三期项目 (Chinese Llama-3 LLMs)

自回归模型打败 Diffusion：用于可扩展图像生成的 🦙 Llama

JetBrains 领先的开源 AI 代码助手。可连接至任何环境中的任何模型，并随心所欲地自定义您的代码编写体验。

[ICML 2024] LLMCompiler：用于并行函数调用的 LLM 编译器

在几分钟内于 AMD Ryzen™ AI NPU 上运行 LLM。就像 Ollama 一样——但专为 AMD NPU 打造并经过深度优化。

使用 TikZ 为科学图表和草图合成绘图程序。

一个现代化且易于使用的 Ollama 客户端

🚀🚀🚀 一些优秀的公开 YOLO 对象检测系列项目与相关对象检测数据集的集合。

专为 LLM 设计的 React 库

精选的优秀 LLM 和 AI Agent 技能、资源和工具列表，用于自定义 AI Agent 工作流 - 适用于 Claude Code、Codex、Gemini CLI 以及您的自定义 AI Agent

在 Unity 中透过 LLMs 建立角色！

:metal: TT-NN 算子库，以及 TT-Metalium 底层内核编程模型。

打造你专属的故事。支持 LLM 角色扮演的友好软件

Safe RLHF：通过来自人类反馈的安全强化学习进行受约束的价值对齐

`llm-chain` 是一个强大的 rust crate，用于在大型语言模型中建立链，让您能够总结文本并完成复杂的任务

移动设备上的快速多模态 LLM

Lag-Llama：迈向概率时间序列预测的基础模型

KoAlpaca：理解韩语指令的开源语言模型

在原生 macOS App 中与你最爱的 LLaMA 模型对话

[ACL 2024 🔥] Video-ChatGPT 是一个能够针对视频生成有意义对话的视频对话模型。它结合了 LLM 的能力与适应时空视频表示的预训练视觉编码器。我们也为基于视频的对话模型引入了严格的“量化评估基准”。

用于 LLM 辅助代码／文字补全的 VS Code 扩展功能

在浏览器中运行本地 LLM，例如 llama、deepseek-distill、kokoro 等

OuteTTS 模型的介面。

🍦 Speech-AI-Forge 是一个围绕 TTS 生成模型开发的项目，实现了 API 服务器与基于 Gradio 的 WebUI。

计算任何 LLM 所需的 token/s 与 GPU 内存需求。支持 llama.cpp/ggml/bnb/QLoRA 量化

在 .NET 中使用 Ollama 最简单的方法