llama

Một mô hình đối thoại giáo dục mã nguồn mở từ ICALK, Đại học Sư phạm Hoa Đông. (Mô hình nền tảng đa năng, triển khai GPU, làm sạch dữ liệu). Tri ân: LLaMA, MOSS, BELLE, Ziya, vLLM.

ChatGPT CLI là giao diện dòng lệnh mạnh mẽ, hỗ trợ nhiều nhà cung cấp để làm việc với các LLM hiện đại. Nó hỗ trợ OpenAI, Azure, Perplexity, LLaMA và nhiều nền tảng khác, với các tính năng như streaming, trò chuyện tương tác, tệp prompt, I/O hình ảnh/âm thanh, gọi công cụ MCP và chế độ agent thử nghiệm để tự động hóa đa bước an toàn.

Dòng thời gian về ChatGPT, GenerativeAI và LLM

Trao quyền cho các Mô hình Ngôn ngữ Lớn (LLM) bằng Truy xuất tăng cường thế hệ dựa trên Đồ thị Tri thức (KG-RAG) cho các tác vụ cần nhiều tri thức

Bootcamp tự nhịp độ về Generative AI. Hướng dẫn về nền tảng ML, Ollama, LLMs, RAGs, LangChain, LangGraph, Fine-tuning, DSPy & AI Agents (CrewAI)

Một công cụ tăng tốc suy luận LLM được tối ưu hóa cao cho Llama và các biến thể của nó.

🚀 Thư viện huấn luyện phân tán Pytorch cho LLM/VLM với hỗ trợ sẵn có cho Hugging Face

Thư viện PyTorch chứa các mô hình Transformer được tuyển chọn và các thành phần có thể kết hợp

Kho lưu trữ này giới thiệu PIXIU, một tài nguyên mã nguồn mở bao gồm các large language models (LLMs) tài chính đầu tiên, dữ liệu tinh chỉnh hướng dẫn và các benchmark đánh giá để đánh giá toàn diện các LLMs tài chính. Mục tiêu của chúng tôi là liên tục thúc đẩy sự phát triển mã nguồn mở của trí tuệ nhân tạo (AI) tài chính.

🤖 Bộ sưu tập tự động các kho lưu trữ, công cụ, trang web, tài liệu nghiên cứu và hướng dẫn về AI.

Các mẫu tác nhân được xây dựng bằng Strands Agents SDK.

ChatMLX là ứng dụng trò chuyện hiện đại, mã nguồn mở, hiệu năng cao dành cho MacOS dựa trên các mô hình ngôn ngữ lớn.

Biến Discord thành giao diện LLM của bạn - Hỗ trợ bất kỳ API tương thích OpenAI nào (OpenRouter, Ollama và hơn thế nữa).

Suy luận Llama 3+ bằng Java thuần.

🚀🚀🚀 Bộ sưu tập các dự án công khai ấn tượng về Mô hình ngôn ngữ lớn (LLM), Mô hình ngôn ngữ thị giác (VLM), Hành động ngôn ngữ thị giác (VLA), Nội dung do AI tạo (AIGC), cùng các bộ dữ liệu và ứng dụng liên quan.

Huấn luyện LLM 1B với 1T token từ đầu bởi cá nhân

Huấn luyện/Tinh chỉnh với tốc độ ánh sáng

QiZhenGPT: Mô hình ngôn ngữ lớn y tế tiếng Trung mã nguồn mở

Bẻ khóa LLM, ChatGPT, Claude, Llama, DAN Prompts, rò rỉ prompt

Trợ lý giọng nói thời gian thực — hỗ trợ truyền phát WebRTC, ASR faster-whisper, LLM cục bộ, TTS Vui Nano (300M). Tương thích với OpenAI Realtime API. Hỗ trợ sao chép giọng nói, ngắt lời, đạt tốc độ ~9× thời gian thực trên card 4090. Giấy phép Apache 2.0.

Các tác nhân AI giọng nói đàm thoại

Bộ sưu tập các tập dữ liệu prompt và tập dữ liệu hướng dẫn tuyệt vời để huấn luyện ChatLLM như chatgpt.

[ICML 2024] SqueezeLLM: Lượng tử hóa dày đặc và thưa thớt (Dense-and-Sparse Quantization).

[CVPR 2024] MovieChat: Từ Dense Token đến Sparse Memory để hiểu video dài

LLaSA: Mở rộng quy mô tính toán trong quá trình huấn luyện và suy luận cho tổng hợp giọng nói dựa trên LLaMA

Awesome-LLM-Eval: danh sách tuyển chọn các công cụ, tập dữ liệu/benchmark, bản demo, bảng xếp hạng, tài liệu và mô hình, chủ yếu dành cho việc đánh giá LLM.

[ICLR 2024] Sheared LLaMA: Tăng tốc tiền huấn luyện mô hình ngôn ngữ thông qua cắt tỉa có cấu trúc

Studio mô hình cục bộ riêng tư, trò chuyện AI và không gian làm việc tác nhân được hỗ trợ bởi WebGPU và WebLLM.

Các dự án công nghiệp AI tạo sinh từ đầu đến cuối trên các mô hình LLM với triển khai_Awesome LLM Projects.

Thực hiện suy luận llama3 từng bước, nắm vững các khái niệm cốt lõi, hiểu rõ quá trình suy luận và triển khai mã nguồn.