llama

🧑‍🚀 Tổng hợp tài liệu LLM tốt nhất thế giới (sinh đa phương tiện, Agent, lập trình hỗ trợ, duyệt bài AI, xử lý dữ liệu, huấn luyện mô hình, suy luận mô hình, mô hình o1, MCP, mô hình ngôn ngữ nhỏ, mô hình ngôn ngữ thị giác) | Summary of the world's best LLM resources.

BELLE: Công cụ mô hình ngôn ngữ lớn của mọi người (Mô hình hội thoại tiếng Trung mã nguồn mở)

Bộ nhớ đệm ngữ nghĩa cho các LLM. Tích hợp hoàn toàn với LangChain và llama_index.

Mang sức mạnh siêu việt của Kubernetes đến cho mọi người

LMDeploy là bộ công cụ để nén, triển khai và phục vụ LLM.

Phần mềm AI chat và AI agent mạnh mẽ nhất trên Android

Các công cụ để hợp nhất các mô hình ngôn ngữ lớn đã được huấn luyện trước.

Dự án mô hình lớn Chinese LLaMA-2 & Alpaca-2 giai đoạn 2 + mô hình ngữ cảnh siêu dài 64K

Biến bất kỳ trang web nào thành dữ liệu có cấu trúc bằng LLM

Firefly: Công cụ huấn luyện LLM, hỗ trợ huấn luyện Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom và nhiều mô hình lớn khác

Triton Kernel hiệu quả cho việc huấn luyện LLM

YuE: Mô hình nền tảng tạo nhạc toàn bài mở, tương tự như Suno.ai nhưng là mã nguồn mở

Enchanted là ứng dụng iOS và macOS để trò chuyện với các mô hình ngôn ngữ tự lưu trữ (self-hosted) riêng tư như Llama2, Mistral hoặc Vicuna bằng cách sử dụng Ollama.

Trình phân tích tài liệu tự động cho Paperless-ngx sử dụng OpenAI API, Ollama, Deepseek-r1, Azure và tất cả các dịch vụ tương thích với OpenAI API để tự động phân tích và gắn thẻ tài liệu của bạn.

⚡ Công cụ suy luận WebGPU thuần Rust — tương thích OpenAI-API, gốc GGUF, chạy trên mọi GPU. Không Python. Không llama.cpp. File nhị phân đơn.

MedicalGPT: Đào tạo mô hình GPT y tế của riêng bạn với quy trình huấn luyện của ChatGPT. Huấn luyện mô hình lớn y tế, hỗ trợ tiền huấn luyện gia tăng (PT), tinh chỉnh có giám sát (SFT), RLHF, DPO, ORPO, GRPO.

Mô hình ngôn ngữ tiền huấn luyện 7B quy mô lớn được phát triển bởi BaiChuan-Inc.

Trình quản lý cụm GPU dành cho việc phục vụ mô hình AI hiệu năng cao (vLLM, SGLang) và các instance GPU có thể truy cập SSH theo yêu cầu.

Lemonade giúp người dùng khám phá và chạy các ứng dụng AI cục bộ bằng cách cung cấp các LLM được tối ưu hóa trực tiếp từ GPU và NPU của họ. Tham gia discord của chúng tôi: https://discord.gg/5xXzkMu8Zk

Hoán đổi mô hình đáng tin cậy cho bất kỳ máy chủ cục bộ nào tương thích với OpenAI/Anthropic - llama.cpp, vllm, v.v.

Môi trường nghiên cứu mã nguồn mở dành cho các nhà nghiên cứu AI để đào tạo, đánh giá và mở rộng quy mô mô hình một cách liền mạch từ phần cứng cục bộ đến cụm GPU.

H2O LLM Studio - một framework và giao diện đồ họa không cần lập trình để tinh chỉnh LLM. Tài liệu: https://docs.h2o.ai/h2o-llmstudio/

Hướng dẫn xây dựng hộp trắng mô hình lớn (LLM): Một Tiny-Universe hoàn toàn tự làm

Kho lưu trữ cho BenCao [tên gốc: HuaTuo (华驼)], tinh chỉnh hướng dẫn cho Mô hình Ngôn ngữ Lớn với kiến thức y học Trung Quốc.

Chỉ cần nền tảng Python, xây dựng mô hình ngôn ngữ lớn từ đầu; từng bước xây dựng GLM4\Llama3\RWKV6 từ đầu, hiểu sâu về nguyên lý của mô hình lớn

LightLLM là một framework suy luận và phục vụ LLM (Large Language Model) dựa trên Python, nổi bật với thiết kế nhẹ, dễ mở rộng và hiệu suất tốc độ cao.

Phiên bản hậu huấn luyện tiếng Trung của Llama3

Điều phối GPU chịu lỗi, có khả năng mở rộng cao, và framework máy học được thiết kế để huấn luyện các mô hình từ hàng tỷ đến hàng nghìn tỷ tham số

Chinese-Vicuna: Mô hình LLaMA tiếng Trung tuân theo chỉ dẫn —— Một giải pháp llama+lora tài nguyên thấp cho tiếng Trung, cấu trúc tham khảo từ alpaca

Khai thác LLM với Lập trình Đa tác nhân (Multi-Agent Programming)