llama

Plugin Vim để hoàn thành mã/văn bản được hỗ trợ bởi LLM

Suy luận Llama 2 trong một file duy nhất cực kỳ ấn tượng

Thư viện suy luận nhẹ cho các tệp ONNX, được viết bằng C++. Nó có thể chạy Stable Diffusion XL 1.0 trên RPI Zero 2 (hoặc trong 298MB RAM) cũng như Mistral 7B trên máy tính để bàn và máy chủ. Hỗ trợ ARM, x86, WASM, RISC-V. Được tăng tốc bởi XNNPACK. Có sẵn các binding cho Python, C# và JS(WASM).

Chạy llama và các mô hình ngôn ngữ lớn khác ngoại tuyến trên iOS và MacOS sử dụng thư viện GGML.

Dự án mô hình ngôn ngữ lớn Llama 3 tiếng Trung giai đoạn 3 (Chinese Llama-3 LLMs) phát triển từ Meta Llama 3

Mô hình tự hồi quy đánh bại Diffusion: 🦙 Llama cho tạo ảnh có thể mở rộng

Trợ lý AI copilot nguồn mở hàng đầu cho JetBrains. Kết nối với bất kỳ mô hình nào trong mọi môi trường và tùy chỉnh trải nghiệm lập trình theo bất kỳ cách nào bạn muốn.

[ICML 2024] LLMCompiler: Trình biên dịch LLM để gọi hàm song song

Chạy LLM trên AMD Ryzen™ AI NPU chỉ trong vài phút. Giống như Ollama - nhưng được thiết kế riêng và tối ưu hóa sâu cho NPU của AMD.

Tổng hợp các chương trình đồ họa cho số liệu khoa học và bản phác thảo bằng TikZ.

Một client hiện đại và dễ sử dụng cho Ollama

🚀🚀🚀 Tổng hợp các dự án chuỗi phát hiện đối tượng YOLO công khai tuyệt vời và các tập dữ liệu phát hiện đối tượng liên quan.

Thư viện React dành cho LLM

Danh sách tổng hợp các tài nguyên, công cụ và kỹ năng LLM và AI Agent tuyệt vời dùng để tùy chỉnh quy trình làm việc của AI Agent - hoạt động với Claude Code, Codex, Gemini CLI và các AI Agent tùy chỉnh của bạn

Tạo nhân vật trong Unity bằng LLM!

Thư viện toán tử TT-NN và mô hình lập trình kernel cấp thấp TT-Metalium.

Tự tạo câu chuyện của riêng bạn. Phần mềm thân thiện với người dùng dành cho nhập vai LLM

Safe RLHF: Căn chỉnh giá trị có ràng buộc thông qua Học tăng cường an toàn từ phản hồi của con người

`llm-chain` là một crate Rust mạnh mẽ để xây dựng các chuỗi trong các mô hình ngôn ngữ lớn, cho phép bạn tóm tắt văn bản và hoàn thành các tác vụ phức tạp

LLM đa phương thức tốc độ cao trên thiết bị di động

Lag-Llama: Hướng tới các mô hình nền tảng cho dự báo chuỗi thời gian xác suất

KoAlpaca: Mô hình ngôn ngữ mã nguồn mở hiểu các câu lệnh tiếng Hàn

Trò chuyện với các mô hình LLaMA yêu thích của bạn trong một ứng dụng macOS native

Video-ChatGPT là một mô hình hội thoại video có khả năng tạo ra các cuộc hội thoại có ý nghĩa về video. Nó kết hợp khả năng của LLMs với một bộ mã hóa hình ảnh được huấn luyện trước, thích ứng cho biểu diễn video không gian-thời gian. Chúng tôi cũng giới thiệu một 'Đánh giá định lượng chuẩn hóa' nghiêm ngặt cho các mô hình hội thoại dựa trên video.

Tiện ích mở rộng VS Code hỗ trợ hoàn thiện mã nguồn/văn bản bằng LLM

Chạy các LLM cục bộ như llama, deepseek-distill, kokoro và nhiều mô hình khác ngay trong trình duyệt của bạn

Giao diện cho các mô hình OuteTTS.

🍦 Speech-AI-Forge là một dự án phát triển xung quanh mô hình tạo TTS, tích hợp API Server và WebUI dựa trên Gradio.

Tính toán tốc độ token/s và yêu cầu bộ nhớ GPU cho bất kỳ LLM nào. Hỗ trợ lượng tử hóa llama.cpp/ggml/bnb/QLoRA.

Cách dễ nhất để sử dụng Ollama trong .NET