gpt-oss

Comece a usar Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma e outros modelos.

Um mecanismo de inferência e atendimento de alto rendimento e eficiente em memória para LLMs

SGLang é um framework de atendimento de alto desempenho para grandes modelos de linguagem e modelos multimodais.

[MLsys2026]: RAG em tudo com LEANN. Desfrute de 97% de economia de armazenamento enquanto executa uma aplicação RAG rápida, precisa e 100% privada no seu dispositivo pessoal.

Faça o ajuste fino, avalie e implante facilmente Qwen, Gemma ou qualquer LLM de pesos abertos!

Execute LLMs e VLMs de ponta localmente em dispositivos Qualcomm via NPU, GPU e CPU com poucas linhas de código

Um motor de treinamento de próxima geração construído para modelos MoE ultra-grandes

Um aplicativo nativo para macOS que permite aos usuários conversar com um LLM local, capaz de responder com informações de arquivos, pastas e sites no seu Mac sem instalar nenhum software adicional. Desenvolvido com llama.cpp.

Um poderoso plugin de IA e MCP para Zotero com ChatGPT, Gemini 3.6, Claude Fable 5, Claude Sonnet 5, DeepSeek V4, Grok, OpenRouter, Kimi k3, GLM 5.2, SiliconFlow, GPT-oss, Gemma 4, Qwen 3.7

TokenSpeed é um motor de inferência de LLM extremamente rápido.

Aplicativo de IA local e motor de inferência para agentes. Execute LLMs de pesos abertos localmente — privado, 100% offline no seu computador. Entre no nosso Discord: https://discord.com/invite/8wGSsvmg4V

Estação de trabalho leve para Codex CLI + Claude Code — com agendador de tarefas, git worktree e controle remoto

Biblioteca de treinamento distribuído nativo em PyTorch para LLMs/VLMs com suporte imediato ao Hugging Face.

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp