llmops

Waku Waku! Waku Agent là một khung AI agent ưu tiên cục bộ mà bạn thực sự sở hữu, bao gồm vòng lặp, bộ nhớ, đánh giá, tất cả đều bằng mã được xây dựng để giữ độ dễ đọc khi phát triển.

[Framework phát triển ứng dụng GenAI] 🚀 Xây dựng ứng dụng GenAI nhanh chóng và dễ dàng 💬 Dễ dàng tương tác với tác nhân GenAI trong mã bằng cách sử dụng dữ liệu có cấu trúc và cú pháp gọi chuỗi 🧩 Sử dụng luồng điều khiển sự kiện *TriggerFlow* để quản lý logic làm việc GenAI phức tạp 🔀 Chuyển đổi sang bất kỳ mô hình nào mà không cần viết lại mã ứng dụng.

Các tiêu chuẩn để xây dựng tác nhân tốt hơn

RTP-LLM: Công cụ suy luận LLM hiệu suất cao của Alibaba cho các ứng dụng đa dạng.

Trình điều phối nền tảng hướng ý định khai báo dành cho Nền tảng Nhà phát triển Nội bộ (IDP).

SmythOS Runtime Environment (SRE) là môi trường thực thi mã nguồn mở, gốc đám mây dành cho AI tác nhân. Bảo mật, dạng mô-đun và sẵn sàng cho môi trường sản xuất, nó cho phép các nhà phát triển xây dựng, chạy và quản lý các tác nhân thông minh trên môi trường cục bộ, đám mây và biên.

Một framework để chuẩn đoán và tối ưu hóa toàn diện các tác nhân sử dụng các tương tác tổng hợp thực tế, được mô phỏng

Langtrace 🔍 là công cụ quan sát toàn diện mã nguồn mở dựa trên OpenTelemetry dành cho các ứng dụng LLM, cung cấp khả năng theo dõi thời gian thực, đánh giá và số liệu cho các LLM, framework LLM, vectorDB phổ biến và nhiều hơn nữa. Tích hợp bằng TypeScript, Python. 🚀💻📊

Cơ sở dữ liệu về SDK, framework, thư viện và công cụ để tạo, giám sát, gỡ lỗi và triển khai các tác nhân AI tự hành

Công cụ đo lường OpenTelemetry cho khả năng quan sát AI

CI/CD gốc truy vết cho các AI agent — các lỗi trong môi trường sản xuất trở thành các bài kiểm thử hồi quy chặn PR. Tự động phát hiện, phân cụm, đóng băng thành các ca khép kín, phát lại trong CI với giá $0.

AuditPilot: Tác nhân AI doanh nghiệp có thể kiểm toán cho quy trình làm việc dựa trên bằng chứng, công cụ được quản治, bộ công cụ đánh giá, xem xét của con người và phân phối khắc phục.

DataDreamer: Nhắc lệnh. Tạo dữ liệu tổng hợp. Huấn luyện và căn chỉnh mô hình. 🤖💤

Đánh giá phản hồi LLM của bạn với Prometheus và GPT4 💯

Dynamiq là một framework điều phối cho các ứng dụng AI và LLM theo dạng tác nhân.

⛓️ Phục vụ các ứng dụng và agent LangChain LLM một cách tự động với FastApi. LLMops

Hướng dẫn & mã nguồn mẫu về Large Language Models (LLMs), kết hợp langchain, openai, llamaindex, gpt, chromadb & pinecone

🧠 Motorhead là một máy chủ lưu trữ bộ nhớ và truy xuất thông tin cho các LLM.

Neum AI là framework hàng đầu để quản lý việc tạo và đồng bộ hóa vector embeddings ở quy mô lớn.

CV tương tác tích hợp chat AI. Được xây dựng bằng React 19, TypeScript và Claude API. Trò chuyện với AI avatar của tôi về kinh nghiệm làm việc.

Điều gì sẽ xảy ra nếu OpenAI Deep Research và Dify là một nền tảng? OpenAgent — kiến trúc khai thác để xây dựng nhanh các tác nhân AI theo chiều dọc, với các vòng lặp suy luận chuyên sâu, quy trình làm việc trực quan, RAG và ủy quyền A2A.

Lập chỉ mục, truy vấn và các ứng dụng LLM tác nhân nhanh, dạng luồng bằng Rust

Ghi chú thực hành xây dựng ứng dụng sử dụng LLM

Tổng hợp các tài nguyên chất lượng về LLM full-stack.

Theo dõi hoạt động và chi phí của các tác nhân lập trình (coding agents). Phân tích từng tác vụ thành các bước thực hiện — công cụ đã dùng, tệp đã thay đổi, bài kiểm tra đã chạy, thời gian và token đã tiêu tốn. Bảng điều khiển ưu tiên cục bộ cho Claude Code, Codex, OpenCode và nhiều hơn nữa. Không cần đăng nhập, không thu thập dữ liệu từ xa.

LLMFlows - Ứng dụng LLM đơn giản, rõ ràng và minh bạch

Các dự án công nghiệp AI tạo sinh từ đầu đến cuối trên các mô hình LLM với triển khai_Awesome LLM Projects.

Hands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.

Super SDK cấp sản xuất hoàn toàn cục bộ duy nhất cung cấp giao diện đơn giản, thống nhất và mạnh mẽ để gọi hơn 200+ LLM.

Tối ưu hóa quy trình làm việc với Lynkr, một công cụ CLI đóng vai trò là proxy HTTP để tương tác mã nguồn hiệu quả thông qua Claude Code CLI.