llama

Comece a usar Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma e outros modelos.

Um mecanismo de inferência e atendimento de alto rendimento e eficiente em memória para LLMs

Interface de usuário local para executar e treinar LLMs e modelos de difusão, incluindo Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX e muito mais.

Ajuste fino eficiente e unificado de mais de 100 LLMs e VLMs (ACL 2024)

LocalAI é o motor de IA de código aberto. Execute qualquer modelo - LLMs, visão, voz, imagem, vídeo - em qualquer hardware. Não é necessário GPU.

O aider é programação em par com IA no seu terminal

Assistente de Agente de IA e framework de desenvolvimento que integra diversas plataformas de IM, LLMs, plugins e recursos de IA, podendo ser sua alternativa ao openclaw. ✨

Langchain-Chatchat (antigo Langchain-ChatGLM) - Aplicação de RAG e Agent baseada em Langchain e modelos de linguagem como ChatGLM, Qwen e Llama

Inferência do AirLLM 70B com uma única GPU de 4GB

SGLang é um framework de atendimento de alto desempenho para grandes modelos de linguagem e modelos multimodais.

TTS de código aberto SOTA

📦 Repomix é uma ferramenta poderosa que empacota todo o seu repositório em um único arquivo amigável para IA. Perfeito para quando você precisa fornecer sua base de código para Large Language Models (LLMs) ou outras ferramentas de IA como Claude, ChatGPT, DeepSeek, Perplexity, Gemini, Gemma, Llama, Grok e muito mais.

[NeurIPS'23 Oral] Visual Instruction Tuning (LLaVA) desenvolvido para alcançar recursos do nível do GPT-4V e além.

Curadoria de grandes modelos de linguagem (LLMs) em chinês de código aberto, focando principalmente em modelos menores, implantáveis de forma privada e com baixo custo de treinamento, incluindo modelos base, ajuste fino e aplicações em domínios verticais, conjuntos de dados, tutoriais, etc.

Modelos de linguagem LLaMA & Alpaca para chinês + treinamento e implantação local em CPU/GPU

Bem-vindo ao Llama Cookbook! Este é o seu guia principal para construir com o Llama: Primeiros passos com Inferência, Fine-Tuning e RAG. Também mostramos como resolver problemas ponta a ponta usando a família de modelos Llama e como usá-los em vários provedores de serviços

Use PEFT ou Full-parameter para CPT/SFT/DPO/GRPO em mais de 600 LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) e mais de 300 MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

Interface gráfica para a API do ChatGPT e muitos LLMs. Suporta agentes, QA baseado em arquivos, ajuste fino de GPT e consultas com pesquisa na web. Tudo com uma interface elegante.

Comunidade chinesa Llama, reunindo em tempo real os materiais de estudo mais recentes sobre Llama, construindo o melhor ecossistema open source de grandes modelos Llama em chinês, totalmente aberto e comercializável.

LangChain4j é uma biblioteca Java idiomática e de código aberto para construir aplicações baseadas em LLM na JVM. Oferece uma API unificada para provedores de LLM e bancos de dados vetoriais populares, facilitando a implementação de chamadas de ferramentas (incluindo suporte a MCP), agentes e RAG. Integra-se perfeitamente com frameworks Java corporativos como Quarkus e Spring Boot.

Biblioteca de LLM e SLM poderosa e fácil de usar, com um excelente conjunto de modelos.

A maneira mais simples de executar LLaMA em sua máquina local

Execute qualquer LLM de código aberto, como DeepSeek e Llama, como um endpoint de API compatível com OpenAI na nuvem.

Uma ferramenta de produtividade de linha de comando impulsionada por grandes modelos de linguagem de IA como o GPT-5, que ajudará você a realizar suas tarefas de forma mais rápida e eficiente.

BISHENG é uma plataforma de DevOps para LLMs aberta voltada para a próxima geração de aplicações de IA corporativa. Recursos poderosos e abrangentes incluem: fluxo de trabalho GenAI, RAG, Agent, gerenciamento unificado de modelos, avaliação, SFT, gerenciamento de conjuntos de dados, gerenciamento de sistemas de nível empresarial, observabilidade e muito mais.

Framework low-code para criar LLMs personalizados, redes neurais e outros modelos de IA

Um chatbot estilo ChatGPT auto-hospedado e offline. Desenvolvido com Llama 2. 100% privado, sem que nenhum dado deixe o seu dispositivo. Novo: Suporte a Code Llama!

🌸 Execute LLMs em casa, no estilo BitTorrent. Ajuste fino e inferência até 10x mais rápidos do que o offloading

Serviço de Large Language Model de alta velocidade para implantação local

Faça o ajuste fino, avalie e implante facilmente Qwen, Gemma ou qualquer LLM de pesos abertos!