llama

Giải pháp NLP tiếng Trung (mô hình ngôn ngữ lớn, dữ liệu, mô hình, huấn luyện, suy luận)

Máy chủ suy luận Multi-LoRA mở rộng quy mô đến hàng nghìn LLM được tinh chỉnh

Thư viện C#/.NET để chạy LLM (🦙LLaMA/LLaVA) trên thiết bị cục bộ của bạn một cách hiệu quả.

Eagle: Mô hình Thị giác-Ngôn ngữ Tiên phong với Chiến lược Lấy Dữ liệu làm Trọng tâm

Hệ thống hỏi đáp tự động dựa trên cơ sở tri thức cục bộ sử dụng các LLM dòng LangChain và ChatGLM-6B

Một ứng dụng macOS nguyên bản cho phép người dùng trò chuyện với LLM cục bộ có thể phản hồi bằng thông tin từ các tệp, thư mục và trang web trên máy Mac của bạn mà không cần cài đặt thêm phần mềm nào khác. Được hỗ trợ bởi llama.cpp.

Xây dựng một LLM hiện đại từ đầu. Mọi dòng lệnh đều có chú thích. Giải thích theo cách đơn giản nhất có thể.

Chạy Claude Code 100% trên thiết bị với AI cục bộ trên Apple Silicon. Máy chủ Anthropic-API gốc MLX. Gồm 6 mô hình bao gồm Muse-Glimmer 30B (đa phương thức — đọc hình ảnh), Gemma 4 31B, Qwen 3.5 122B (65 token/s), DeepSeek V4 Flash (ngữ cảnh 1M). Riêng tư, ngoại tuyến, sẵn sàng cho môi trường cách ly. Được xây dựng cho các quy trình công việc pháp lý / y tế / bảo mật thông tin.

Chatbot AI trong terminal hoàn toàn miễn phí

AGiXT là Nền tảng tự động hóa tác nhân AI động, điều phối liền mạch việc quản lý lệnh và thực thi tác vụ phức tạp trên các nhà cung cấp AI khác nhau. Kết hợp bộ nhớ thích ứng, các tính năng thông minh và hệ thống plugin linh hoạt, AGiXT mang lại các giải pháp AI hiệu quả và toàn diện.

InternGPT (iGPT) là một nền tảng demo mã nguồn mở nơi bạn có thể dễ dàng trưng bày các mô hình AI của mình. Hiện hỗ trợ DragGAN, ChatGPT, ImageBind, trò chuyện đa phương thức như GPT-4, SAM, chỉnh sửa ảnh tương tác, v.v. Hãy thử tại igpt.opengvlab.com

LSP-AI là một language server mã nguồn mở đóng vai trò là backend cho các tính năng hỗ trợ bởi AI, được thiết kế để hỗ trợ và trao quyền cho các kỹ sư phần mềm chứ không phải thay thế họ.

[EMNLP 2023 Demo] Video-LLaMA: Mô hình ngôn ngữ âm thanh-hình ảnh được tinh chỉnh theo hướng dẫn để hiểu video

Các mô hình cơ sở Chinese-LLaMA 1&2, Chinese-Falcon; mô hình đối thoại tiếng Trung ChatFlow; mô hình OpenLLaMA tiếng Trung; tập dữ liệu tiền huấn luyện/tinh chỉnh chỉ dẫn NLP.

Tinh chỉnh LLM với peft

Lượng tử hóa gốc bằng PyTorch cho việc huấn luyện và suy luận

[ACL 2024] Khung chỉnh sửa tri thức dễ sử dụng cho LLM.

Xây dựng, cá nhân hóa và điều khiển LLM của riêng bạn. Từ tiền xử lý dữ liệu đến tinh chỉnh, xTuring cung cấp cách dễ dàng để cá nhân hóa các LLM mã nguồn mở. Tham gia cộng đồng discord của chúng tôi: https://discord.gg/TgHXuSJEk6

[EMNLP-2024] Xây dựng các tác nhân ngôn ngữ đa phương thức để tạo nguyên mẫu và sản xuất nhanh chóng

Maid là một ứng dụng mã nguồn mở và miễn phí để giao tiếp với các mô hình llama.cpp cục bộ, và với các mô hình Anthropic, DeepSeek, Ollama, Mistral và OpenAI từ xa.

Plugin Zotero AI và MCP mạnh mẽ tích hợp ChatGPT, Gemini 3.6, Claude Fable 5, Claude Sonnet 5, DeepSeek V4, Grok, OpenRouter, Kimi k3, GLM 5.2, SiliconFlow, GPT-oss, Gemma 4, Qwen 3.7

mPLUG-Owl: Dòng mô hình ngôn ngữ lớn đa phương thức mạnh mẽ

Đơn giản hóa các mô hình ngôn ngữ lớn (LLMs), EasyLM là giải pháp trọn gói để tiền huấn luyện, tinh chỉnh, đánh giá và phục vụ LLM trong JAX/Flax.

Giao diện người dùng terminal nhanh chóng, tập trung vào bàn phím để tương tác với các mô hình ngôn ngữ lớn. Trò chuyện với ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma và nhiều mô hình khác.

API kiểu OpenAI cho các mô hình ngôn ngữ lớn mã nguồn mở, sử dụng LLM giống như ChatGPT! Hỗ trợ LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3, v.v.

Framework LLM Agent trong ComfyUI bao gồm máy chủ MCP, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 và các node nhắc lệnh FLUX, truy cập Feishu, discord, và tương thích với mọi LLM có giao diện tương tự OpenAI / aisuite như o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Tương thích với các LLM, VLM, GGUF chạy cục bộ như llama-3.3 Janus-Pro, Linkage graphRAG

FinGLM: Tận tâm xây dựng một dự án mô hình lớn tài chính mở, phi lợi nhuận và bền vững, thúc đẩy "AI + Tài chính" thông qua mã nguồn mở.

Các mô hình AI được huấn luyện sẵn, có thể kiểm soát và chạy cục bộ bằng Rust

Chạy các mô hình AI cục bộ trên máy của bạn với node.js bindings cho llama.cpp. Áp đặt JSON schema lên đầu ra của mô hình ở cấp độ tạo văn bản.

Một framework thời gian chạy bẫy lỗi low-code bảo mật, tận dụng AI để Ảo hóa Hệ thống.