llm-ops

🦍 Cổng API và AI Gateway

Chạy bất kỳ LLM mã nguồn mở nào, chẳng hạn như DeepSeek và Llama, như một điểm cuối API tương thích với OpenAI trên đám mây.

Nền tảng quy trình làm việc agentic cấp doanh nghiệp, thân thiện với thương mại để xây dựng SuperAgents thế hệ mới.

Julep — Các AI agent có độ bền cao, dễ kết hợp. Các luồng có thể crash và tiếp tục, thử lại an toàn và giải thích mọi bước.

AutoRAG: Giờ đây tác nhân của bạn có thể tìm kiếm bất cứ thứ gì trên máy tính. Nó sẽ thông minh hơn khi bạn sử dụng thường xuyên.

Nền tảng đánh giá LLM và kiểm thử AI agent

CI/CD gốc truy vết cho các AI agent — các lỗi trong môi trường sản xuất trở thành các bài kiểm thử hồi quy chặn PR. Tự động phát hiện, phân cụm, đóng băng thành các ca khép kín, phát lại trong CI với giá $0.

Bảng tính cộng tác dành cho AI. Chuỗi các ô thành các pipeline mạnh mẽ, thử nghiệm với prompt và mô hình, đồng thời đánh giá phản hồi của LLM theo thời gian thực. Làm việc cùng nhau mượt mà để xây dựng và lặp lại trên các ứng dụng AI.

AIConfig là một framework dựa trên cấu hình để xây dựng các ứng dụng generative AI.

Nền tảng vận hành CNTT đa tác nhân doanh nghiệp đầu tiên tại Trung Quốc. Tự động khắc phục sự cố dựa trên LLM cho Zabbix/Prometheus. Triển khai bằng Docker.