llamacpp

Serveur LSP exploitant les LLM pour la complétion de code (et plus encore ?).

Dépôt officiel du livre "A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face".

Documentation complète pour configurer votre propre serveur LLM local et privé sur Debian, incluant chat, recherche web, RAG, gestion de modèles, serveurs MCP, génération d'images et synthèse vocale.

Inférence Llama 3+ en Java pur

La suite d'IA côté client la plus avancée et entièrement hors ligne disponible aujourd'hui sur Android.

TUI pour les LLM

Le framework llama-cpp-agent est un outil conçu pour une interaction facile avec les Large Language Models (LLMs). Il permet aux utilisateurs de discuter avec des modèles LLM, d'exécuter des appels de fonction structurés et d'obtenir des sorties structurées. Fonctionne également avec des modèles non fine‑tuned pour la sortie JSON et les appels de fonction.

Yet Another Language Model : inférence LLM en C++/CUDA, sans aucune bibliothèque à l'exception des E/S.

Go avec votre propre intelligence - Applications Go qui intègrent directement llama.cpp pour l'inférence locale avec accélération matérielle.

Utilisez Code Llama avec Visual Studio Code et l'extension Continue. Une alternative locale aux LLM à GitHub Copilot.

Moteur de mini-inférence statique, suckless, mono-lot (single batch) et exclusivement CUDA pour qwen3-0.6B

Bibliothèque Go pour la recherche vectorielle intégrée et les plongements sémantiques utilisant llama.cpp

Optimisez votre flux de travail avec Lynkr, un outil CLI agissant comme un proxy HTTP pour des interactions de code efficaces via Claude Code CLI.

Browser Operator - The AI browser with built in Multi-Agent platform! Open source alternative to ChatGPT Atlas, Perplexity Comet, Dia and Microsoft CoPilot Edge Browser