llama

llama.go giống như llama.cpp viết bằng Golang thuần túy!

🦙 Tích hợp các LLM vào các pipeline NLP có cấu trúc

Một framework mô hình ngôn ngữ lớn (LLM) mã nguồn mở có khả năng hiểu biết.

Parallax là một framework phân phối mô hình phục vụ giúp bạn xây dựng cụm AI của riêng mình ở bất kỳ đâu

📎 Clippy, nay được tích hợp thêm AI

Một bản cài đặt pytorch thanh lịch của transformers

RTP-LLM: Công cụ suy luận LLM hiệu suất cao của Alibaba cho các ứng dụng đa dạng.

Jlama là một công cụ suy luận LLM hiện đại dành cho Java

Cách đơn giản nhất để chạy Alpaca (và các LLM cục bộ dựa trên LLaMA khác) trên máy tính của bạn

Hỗ trợ các LLM của bạn trực tuyến

Hexabot v3 là một nền tảng tự động hóa quy trình làm việc AI, kết hợp các workflow, action, agent và kênh hội thoại trong một môi trường chạy duy nhất.

Binding WebAssembly cho llama.cpp - Cho phép suy luận LLM trực tiếp trên trình duyệt

Bộ công cụ cung cấp cho các agent khả năng mạnh mẽ.

Bộ sưu tập tập dữ liệu mã nguồn mở để huấn luyện các LLM tuân theo hướng dẫn (ChatGPT, LLaMA, Alpaca)

Danh sách các tài nguyên NLP được tuyển chọn tập trung vào mạng Transformer, cơ chế chú ý, GPT, BERT, ChatGPT, LLM và học chuyển giao.

[NeurIPS 2023] LLM-Pruner: Về việc cắt tỉa cấu trúc của các Mô hình Ngôn ngữ Lớn. Hỗ trợ Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama, v.v.

So sánh hiệu năng của các LLM khác nhau có thể triển khai cục bộ trên phần cứng tiêu dùng. Tự chạy với Colab WebUI.

Trò chuyện với các mô hình ngôn ngữ lớn AI chạy nguyên bản trong trình duyệt của bạn. Trải nghiệm trò chuyện AI riêng tư, không cần máyδ chủ và mượt mà.

[ECCV 2024 Best Paper Candidate & TPAMI 2025] PointLLM: Trao quyền cho các Large Language Model để hiểu đám mây điểm

TypeScript AI AI Function Calling Framework được tối ưu hóa bằng các kỹ năng trình biên dịch.

Một tác nhân repository dựa trên LLM được thiết kế để hỗ trợ các nhà phát triển và nhóm tạo tài liệu và hiểu nhanh các repository.

Binding React Native của llama.cpp

Hướng dẫn toàn diện về thuật toán từ NLP đến LLM, địa chỉ đọc trực tuyến: https://datawhalechina.github.io/base-llm/

⛷️ LLaMA-MoE: Xây dựng Mixture-of-Experts từ LLaMA với Continual Pre-training (EMNLP 2024)

Khung mô hình đa phương thức lớn quy mô nhỏ

Cotabby là công cụ tự động hoàn thành bằng AI cục bộ cho toàn bộ máy Mac của bạn. Mã nguồn mở. Chạy trên thiết bị. Ở mọi nơi bạn gõ.

LLaMA pháp lý tiếng Trung (LLaMA dành cho lĩnh vực pháp lý tiếng Trung).

Hướng dẫn toàn diện để bắt đầu và nâng cao kỹ năng LLM của bạn vào năm 2026 với ít nền tảng trong lĩnh vực này, đồng thời cập nhật các tin tức mới nhất và các kỹ thuật tiên tiến nhất!

TextGen: Triển khai các mô hình tạo văn bản, bao gồm LLaMA, BLOOM, GPT2, BART, T5, SongNet và nhiều mô hình khác.

Xây dựng AI agent từ những nguyên tắc cơ bản bằng cách sử dụng LLM cục bộ - không có framework, không có cloud API, không có suy luận ẩn.