llamacpp

Servidor LSP que aproveita LLMs para conclusão de código (e mais?)

Repositório oficial do meu livro "A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face"

Documentação completa de ponta a ponta para configurar seu próprio servidor LLM local e totalmente privado no Debian. Equipado com chat, busca web, RAG, gerenciamento de modelos, servidores MCP, geração de imagens e TTS.

Inferência do Llama 3+ em puro Java

A suíte de IA client-side mais avançada e totalmente offline no Android atualmente.

🤖 TUI para LLMs

O framework llama-cpp-agent é uma ferramenta projetada para fácil interação com Large Language Models (LLMs). Permite aos usuários conversar com modelos de LLM, executar chamadas de função estruturadas e obter saída estruturada. Também funciona com modelos que não foram ajustados finamente para saída JSON e chamadas de função.

Yet Another Language Model: inferência de LLM em C++/CUDA, sem bibliotecas além de I/O.

Vá com sua própria inteligência - Aplicativos Go que integram diretamente o llama.cpp para inferência local usando aceleração de hardware.

Use o Code Llama com o Visual Studio Code e a extensão Continue. Uma alternativa de LLM local ao GitHub Copilot.

Mini motor de inferência estático e suckless para qwen3-0.6B, lote único (single batch) e exclusivo para CUDA.

Biblioteca Go para busca vetorial incorporada e embeddings semânticos usando llama.cpp

Otimize seu fluxo de trabalho com o Lynkr, uma ferramenta de CLI que atua como um proxy HTTP para interações de código eficientes usando o Claude Code CLI.

Browser Operator - The AI browser with built in Multi-Agent platform! Open source alternative to ChatGPT Atlas, Perplexity Comet, Dia and Microsoft CoPilot Edge Browser