llama

🧑‍🚀 Resumo dos melhores recursos de LLM do mundo (geração multimodal, agentes, auxílio à programação, revisão por IA, processamento de dados, treinamento de modelos, inferência de modelos, modelo o1, MCP, modelos de linguagem pequenos, modelos de linguagem visual).

BELLE: Be Everyone's Large Language model Engine (grande modelo de linguagem de diálogo chinês de código aberto)

Cache semântico para LLMs. Totalmente integrado com LangChain e llama_index.

Dando superpoderes ao Kubernetes para todos

LMDeploy é um toolkit para compressão, implantação e serviço de LLMs.

O software de chat e agente de IA mais poderoso no Android

Ferramentas para mesclar grandes modelos de linguagem pré-treinados.

Projeto fase 2 de LLMs Chinese LLaMA-2 & Alpaca-2 + modelos de contexto ultralongo de 64K (Chinese LLaMA-2 & Alpaca-2 LLMs com modelos de contexto longo de 64K)

Transforme qualquer página web em dados estruturados usando LLMs

Firefly: Ferramenta de treinamento de grandes modelos, com suporte para Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom e outros.

Kernels Triton eficientes para treinamento de LLM

YuE: Modelo fundamental de geração de músicas completas, similar ao Suno.ai, porém aberto.

Enchanted é um aplicativo para iOS e macOS para conversar com modelos de linguagem privados auto-hospedados, como Llama2, Mistral ou Vicuna, usando Ollama.

Um analisador de documentos automatizado para Paperless-ngx usando OpenAI API, Ollama, Deepseek-r1, Azure e todos os serviços compatíveis com a API da OpenAI para analisar e marcar documentos automaticamente.

⚡ Mecanismo de inferência WebGPU em Rust puro — compatível com a API da OpenAI, nativo em GGUF, roda em qualquer GPU. Sem Python. Sem llama.cpp. Binário único.

MedicalGPT: Treine seu próprio modelo GPT médico com o pipeline de treinamento do ChatGPT. Implementa pré-treinamento incremental (PT), ajuste fino supervisionado (SFT), RLHF, DPO, ORPO e GRPO.

Um modelo de linguagem de pré-treinamento de 7B em larga escala desenvolvido pela BaiChuan-Inc.

Um gerenciador de cluster de GPU para servir modelos de IA de alto desempenho (vLLM, SGLang) e instâncias de GPU acessíveis via SSH sob demanda.

O Lemonade ajuda usuários a descobrir e executar aplicativos de IA locais, servindo LLMs otimizados diretamente de suas próprias GPUs e NPUs. Junte-se ao nosso Discord: https://discord.gg/5xXzkMu8Zk

Troca de modelo confiável para qualquer servidor local compatível com OpenAI/Anthropic - llama.cpp, vllm, etc.

O ambiente de pesquisa de código aberto para pesquisadores de IA treinarem, avaliarem e escalarem modelos perfeitamente, desde hardware local até clusters de GPU.

H2O LLM Studio - um framework e interface gráfica no-code para ajuste fino de LLMs. Documentação: https://docs.h2o.ai/h2o-llmstudio/

Guia de construção de caixa branca para grandes modelos: um Tiny-Universe feito inteiramente à mão.

Repositório para BenCao [nome original: HuaTuo], ajuste de instrução de Large Language Models com conhecimento médico chinês.

Construa grandes modelos de linguagem do zero usando apenas conhecimentos básicos de Python; construa gradualmente GLM4, Llama3 e RWKV6 para compreender profundamente os princípios dos LLMs.

LightLLM é um framework de inferência e atendimento para LLMs (Modelos de Linguagem Grande) baseado em Python, notável por seu design leve, fácil escalabilidade e alto desempenho.

Versão pós-treinamento em chinês do Llama3.

Orquestração de GPU tolerante a falhas e altamente escalável, e um framework de aprendizado de máquina projetado para treinar modelos com bilhões a trilhões de parâmetros

Chinese-Vicuna: Um modelo baseado em LLaMA para seguir instruções em chinês — Uma solução em chinês de poucos recursos usando llama+lora, com estrutura inspirada no alpaca

Explore LLMs com Programação Multi-Agente