llm

Tính toán tốc độ token/s và yêu cầu bộ nhớ GPU cho bất kỳ LLM nào. Hỗ trợ lượng tử hóa llama.cpp/ggml/bnb/QLoRA.

Cách dễ nhất để sử dụng Ollama trong .NET

Giải pháp mô-đun và toàn diện để triển khai chatbot tích hợp Multi-LLM và Multi-RAG (Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral) sử dụng AWS CDK trên AWS

llama.go giống như llama.cpp viết bằng Golang thuần túy!

Tinh chỉnh LLM trên máy Mac của bạn với Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding và tinh chỉnh OCR — chạy gốc trên MLX. API tương thích với Unsloth.

🦙 Tích hợp các LLM vào các pipeline NLP có cấu trúc

Trình tạo ngữ cảnh AI đa năng. Tiết kiệm hàng ngàn token cho mỗi cuộc trò chuyện trong Claude Code, Cursor, Copilot, Codex và nhiều công cụ khác.

Nhảy múa với Trí tuệ trong Mã của bạn. Minuet cung cấp tính năng tự động hoàn thành mã khi bạn gõ từ các LLM phổ biến bao gồm OpenAI, Gemini, Claude, Ollama, Llama.cpp, Codestral và nhiều hơn nữa.

Bộ chuyển đổi MCP tiết kiệm token cho tác nhân lập trình Pi

Thực thi LLM trên thiết bị trong React Native với khả năng tương thích Vercel AI SDK

Các ví dụ về việc sử dụng E2B

Bộ sưu tập các công cụ kiểm thử xâm nhập hàng đầu và tiện ích năng suất trên nhiều lĩnh vực. Hãy tham gia cùng chúng tôi để khám phá, đóng góp và nâng cao bộ công cụ hacking của bạn!

OWASP Top 10 cho các ứng dụng Large Language Model (Một phần của Dự án Bảo mật GenAI)

Thư viện JavaScript AI đàm thoại 💬 mạnh mẽ — Giao diện cho bất kỳ LLM nào, hỗ trợ LangChain / HuggingFace / Vercel AI và nhiều tính năng khác 🧡 React, Next.js và JavaScript thuần ⭐️

Bộ công cụ Typescript mã nguồn mở, theo code-first để xây dựng, đánh giá và triển khai các AI agent phức tạp với tính linh hoạt và khả năng kiểm soát.

Triển khai ứng dụng với các trường hợp sử dụng kinh doanh để tận dụng AI tạo sinh một cách an toàn trong hoạt động kinh doanh

Chỉ mục toàn diện nhất, được cập nhật liên tục của cộng đồng về nghiên cứu Mô hình Ngôn ngữ Lớn để phát hiện lỗ hổng phần mềm — các bài báo về phát hiện cấp độ hàm, cấp độ kho lưu trữ, tác nhân và hợp đồng thông minh, cùng với các tập dữ liệu, tiêu chuẩn và khảo sát.

Một máy chủ Model Context Protocol (MCP) cho phép tương tác an toàn với cơ sở dữ liệu MySQL

Các phương pháp nén bộ đệm KV thống nhất cho các mô hình tự hồi quy

Một CLI tiện ích cho các AI Coding Agent

LLM dành cho CLI của bạn

Parallax là một framework phân phối mô hình phục vụ giúp bạn xây dựng cụm AI của riêng mình ở bất kỳ đâu

Các bài nghiên cứu về Tác nhân tự động (LLMs). Cập nhật hàng ngày.

Framework agent trong đó mọi lần chạy đều bền vững, có thể phát lại và có thể tiếp tục theo mặc định.

NeuroSploit là một framework kiểm thử xâm nhập tiên tiến được hỗ trợ bởi AI, thiết kế để tự động hóa và tăng cường các khía cạnh khác nhau của hoạt động bảo mật tấn công.

AI Vibe Coding Agent cho máy chủ backend TS, được tăng cường bởi các kỹ năng trình biên dịch, tạo ra mã hoạt động 100%

📎 Clippy, nay được tích hợp thêm AI

Webchat thành API

Hạ tầng vận hành E2B Cloud.

Thư viện nhẹ để cào dữ liệu trang web bằng LLM