llama2

[NeurIPS'23 Oral] Visual Instruction Tuning (LLaVA) conçu pour atteindre et dépasser les capacités de GPT-4V

Bienvenue dans le Llama Cookbook ! Votre guide de référence pour construire avec Llama : démarrage avec l'inférence, le fine-tuning et le RAG. Nous montrons également comment résoudre des problèmes de bout en bout en utilisant la famille de modèles Llama sur divers services fournisseurs.

Exécutez n'importe quel LLM open-source, tel que DeepSeek ou Llama, en tant que point de terminaison d'API compatible OpenAI dans le cloud.

Framework low-code pour construire des LLM personnalisés, des réseaux de neurones et d'autres modèles d'IA.

Un chatbot de type ChatGPT auto-hébergé et hors ligne. Propulsé par Llama 2. 100 % privé, aucune donnée ne quitte votre appareil. Nouveauté : support de Code Llama !

LMDeploy est une boîte à outils pour la compression, le déploiement et la mise en service de LLM.

OpenCompass est une plateforme d'évaluation LLM, prenant en charge une large gamme de modèles (Llama3, Mistral, InternLM2, GPT-4, LLaMa2, Qwen, GLM, Claude, etc.) sur plus de 100 jeux de données.

Projet de phase 2 pour les grands modèles LLaMA-2 et Alpaca-2 en chinois, incluant des modèles avec un contexte étendu de 64K.

Firefly : outil d'entraînement pour grands modèles de langage, prenant en charge Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom, et bien d'autres.

Enchanted est une application iOS et macOS pour discuter avec des modèles de langage privés auto-hébergés tels que Llama2, Mistral ou Vicuna via Ollama.

H2O LLM Studio - un framework et une interface graphique sans code pour le fine-tuning de LLM.

Version post-entraînement en chinois de Llama3

Orchestration GPU tolérante aux pannes et hautement évolutive, et framework d'apprentissage automatique conçu pour entraîner des modèles de plusieurs milliards à plusieurs billions de paramètres

Une série de grands modèles de langage développés par Baichuan Intelligent Technology

Solutions NLP en chinois (grands modèles, données, modèles, entraînement, inférence).

Une bibliothèque C#/.NET pour exécuter efficacement des LLM (🦙LLaMA/LLaVA) sur votre appareil local.

The most no-nonsense, locally or API-hosted AI code completion plugin for Visual Studio Code - like GitHub Copilot but 100% free.

Inférence LLM distribuée. Connectez vos appareils domestiques dans un cluster puissant pour accélérer l'inférence LLM. Plus d'appareils signifie une inférence plus rapide.

Améliore la sortie de Tesseract OCR en utilisant des LLM (locaux ou via API) pour la correction d'erreurs, le découpage intelligent et le formatage Markdown de PDF numérisés.

Fine-tuning de LLM avec peft

Agent IA entièrement autonome capable d'effectuer des tâches et des projets complexes via le terminal, le navigateur et l'éditeur.

API de style OpenAI pour les grands modèles de langage open source, utilisant les LLM comme ChatGPT. Support pour LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3, etc.

Un LLM Jax simple, performant et évolutif.

TigerBot : un LLM multilingue et multitâche.

Inférence de Llama 2 dans un seul fichier pur.

Aila (AI超元域) : outil d'intégration IA de premier plan pour Windows, macOS et Android. Posez une question et obtenez des réponses de plus de 10 IA comme ChatGPT, Gemini, Claude3, Copilot, Poe, Perplexity et plus encore. Inclut des IA et des prompts personnalisables.

Exécutez n'importe quel Llama 2 localement avec une interface gradio sur GPU ou CPU depuis n'importe où (Linux/Windows/Mac). Utilisez llama2-wrapper comme backend local pour vos agents ou applications génératives.

[ICML 2024] LLMCompiler : un compilateur LLM pour l'appel de fonctions en parallèle

Un guide complet pour la création d'applications LLM basées sur le RAG en production.

Calcul du nombre de jetons par seconde et des besoins en mémoire GPU pour tout LLM. Prend en charge la quantification llama.cpp/ggml/bnb/QLoRA.