llm

Cổng AI doanh nghiệp nhanh nhất (nhanh hơn 50 lần so với LiteLLM) với bộ cân bằng tải thích ứng, chế độ cụm, tính năng bảo vệ, hỗ trợ hơn 1000 mô hình & độ trễ <100 µs ở mức 5k RPS.

Làm chủ AI của riêng bạn. Công cụ gốc trên macOS dành cho các tác nhân AI — mọi mô hình, bộ nhớ duy trì, thực thi tự động, danh tính mã hóa. Được xây dựng bằng Swift. Hoạt động ngoại tuyến hoàn toàn. Mã nguồn mở.

Kho lưu trữ chính thức cho ERNIE 4.5 và ERNIEKit – bộ công cụ phát triển cấp công nghiệp của nó dựa trên PaddlePaddle.

Inference LLM nhanh chóng và linh hoạt

Công cụ CLI giúp chuyển đổi mã nguồn thành một prompt LLM duy nhất với cây mã nguồn, tạo mẫu prompt và đếm token.

Lập trình viên hỗ trợ bằng AI cho Claude, GPT, dòng O, Grok, Deepseek, Gemini và hơn 300 mô hình khác

🔥 API trình duyệt nguồn mở dành cho các AI Agent & Ứng dụng. Steel Browser là một sandbox trình duyệt tích hợp sẵn mọi thứ, cho phép bạn tự động hóa web mà không cần lo lắng về hạ tầng.

Phần mềm AI chat và AI agent mạnh mẽ nhất trên Android

Trình phân tích cú pháp tệp được tối ưu hóa cho việc nạp dữ liệu vào LLM không bị mất mát 🧠 Phân tích cú pháp PDF, Docx, PPTx theo định dạng lý tưởng cho LLM.

Khả năng quan sát mã nguồn mở cho ứng dụng GenAI hoặc LLM của bạn, dựa trên OpenTelemetry

OpenCompass là một nền tảng đánh giá LLM, hỗ trợ nhiều loại mô hình (Llama3, Mistral, InternLM2, GPT-4, LLaMa2, Qwen, GLM, Claude, v.v.) trên hơn 100+ tập dataset.

Một hệ thống khả quan sát thời gian thực mã nguồn mở thế hệ mới được hỗ trợ bởi AI.

Điều phối AI động và bền vững. Phối hợp dữ liệu, mô hình và tài nguyên tính toán khi bạn xây dựng quy trình làm việc AI.

Thêm các biện pháp kiểm soát an toàn cho các mô hình ngôn ngữ lớn.

Các công cụ để hợp nhất các mô hình ngôn ngữ lớn đã được huấn luyện trước.

Danh sách API LLM miễn phí vĩnh viễn (Khóa API)

Bản phát hành chính thức của dòng InternLM (InternLM, InternLM2, InternLM2.5, InternLM3).

Chia sẻ kiến thức về mô hình ngôn ngữ lớn (LLM) mà ai cũng có thể hiểu, tài liệu ôn tập phỏng vấn LLM bắt buộc phải xem, giúp bạn tự tin trò chuyện với nhà tuyển dụng

Trích xuất dữ liệu phi cấu trúc điều khiển bằng LLM — Được xây dựng cho việc triển khai API & quy trình làm việc ETL Pipeline

Mô hình Kimi K3 với 2,78 nghìn tỷ tham số chạy suy luận trên một CPU duy nhất với 8,24 GB RAM. C99 di động: không BLAS, không framework, không GPU.

AutoClip: Công cụ cắt video và tạo điểm nhấn hỗ trợ bởi AI, dùng để sáng tạo lại nội dung

GLM-5: Từ Vibe Coding đến Kỹ thuật Tác nhân (Agentic Engineering)

Xây dựng hệ thống điều khiển tác nhân và quản lý từ đầu đến cuối. SDK mã nguồn mở cho các AI agent trong môi trường sản xuất bằng Python & TypeScript - hỗ trợ mọi mô hình, mọi đám mây.

Dự án mô hình lớn Chinese LLaMA-2 & Alpaca-2 giai đoạn 2 + mô hình ngữ cảnh siêu dài 64K

Thư viện bộ nhớ để xây dựng các agent có trạng thái (stateful agents).

TalkToFigma: Tích hợp MCP giữa AI Agent (Cursor, Claude Code, Codex) và Figma, cho phép Agentic AI giao tiếp với Figma để đọc thiết kế và sửa đổi chúng theo chương trình.

Xử lý dữ liệu cho và bằng foundation models! 🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷

Nhật ký công việc/trình theo dõi thời gian tự động. Biến màn hình của bạn thành dòng thời gian về những gì bạn thực sự đã hoàn thành một cách riêng tư. Mã nguồn mở và ưu tiên lưu trữ nội bộ.

DeepAudit: Đội ngũ hacker AI dành cho mọi người, giúp việc khai thác lỗ hổng trở nên dễ tiếp cận. Hệ thống đa tác nhân khai thác lỗ hổng mã nguồn mã nguồn mở đầu tiên tại Trung Quốc. Người mới có thể dễ dàng triển khai và chạy chỉ bằng một cú nhấp chuột, kiểm toán cộng tác tự động + xác thực PoC hộp cát tự động. Hỗ trợ triển khai riêng tư Ollama, tạo báo cáo bằng một cú nhấp chuột. Hỗ trợ trạm trung chuyển. Làm cho bảo mật không còn tốn kém, kiểm toán không còn phức tạp.

🔍 Khung đa tác nhân dựa trên LLM của công cụ tìm kiếm web (giống như Perplexity.ai Pro và SearchGPT)