llama

llama.go é como o llama.cpp em Golang puro!

🦙 Integrando LLMs em pipelines de PNL estruturados

Um framework de Large Language Model com base de conhecimento de código aberto.

Parallax é um framework de serviço de modelos distribuídos que permite criar seu próprio cluster de IA em qualquer lugar.

Clippy, agora com um pouco de IA

Uma implementação elegante de transformers em PyTorch

RTP-LLM: motor de inferência LLM de alto desempenho da Alibaba para diversas aplicações.

Jlama é um motor de inferência LLM moderno para Java.

A maneira mais simples de executar Alpaca (e outras LLMs locais baseadas em LLaMA) em seu próprio computador.

Ajude seus LLMs online.

Hexabot v3 é uma plataforma de automação de fluxo de trabalho de IA, combinando fluxos de trabalho, ações, agentes e canais de conversação em um único runtime.

Vinculação WebAssembly para o llama.cpp - Habilitando inferência de LLM diretamente no navegador

Um conjunto de ferramentas que confere capacidades poderosas a agentes.

Uma coleção de conjuntos de dados de código aberto para treinar LLMs que seguem instruções (ChatGPT, LLaMA, Alpaca)

Uma lista com curadoria de recursos de PNL focados em redes Transformer, mecanismo de atenção, GPT, BERT, ChatGPT, LLMs e aprendizado por transferência.

[NeurIPS 2023] LLM-Pruner: Sobre a poda estrutural de Large Language Models. Suporta Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama, etc.

Compare o desempenho de diferentes LLMs que podem ser implantadas localmente em hardware de consumo. Execute você mesmo com o Colab WebUI.

Converse com modelos de linguagem de IA executados nativamente no seu navegador. Desfrute de conversas com IA privadas, sem servidor e contínuas.

[Candidato a melhor artigo ECCV 2024 & TPAMI 2025] PointLLM: Capacitando grandes modelos de linguagem para entender nuvens de pontos.

Framework de Function Calling com IA para TypeScript aprimorado por habilidades de compilador.

Um agente de repositório baseado em LLM projetado para ajudar desenvolvedores e equipes a gerar documentação e entender repositórios rapidamente.

Binding para React Native do llama.cpp

Tutorial completo do algoritmo de NLP para LLM, endereço de leitura online: https://datawhalechina.github.io/base-llm/

Um framework para modelos multimodais grandes de pequena escala.

LLaMA-MoE: Construindo Mixture-of-Experts a partir do LLaMA com pré-treinamento contínuo (EMNLP 2024).

Cotabby é o autocompletar de IA local para todo o seu Mac. Código aberto. No dispositivo. Em tudo o que você digita.

LLaMA jurídico em chinês (LLaMA for Chinese legal domain)

Um guia completo para iniciar e aprimorar suas habilidades em LLM em 2026 com pouca experiência na área e manter-se atualizado com as últimas notícias e técnicas de ponta!

TextGen: Implementação de modelos de geração de texto, incluindo LLaMA, BLOOM, GPT2, BART, T5, SongNet e outros. Inclui treinamento e previsão prontos para uso para modelos como LLaMA, ChatGLM, BLOOM, GPT2, Seq2Seq, BART, T5, UDA, entre outros.

Construa agentes de IA a partir dos princípios fundamentais usando um LLM local - sem frameworks, sem APIs em nuvem, sem raciocínio oculto.