llama2

[NeurIPS'23 Oral] Ajuste de instrucciones visuales (LLaVA) diseñado para alcanzar capacidades del nivel de GPT-4V y superiores.

¡Bienvenido al Llama Cookbook! Tu guía definitiva para construir con Llama: primeros pasos con inferencia, ajuste fino y RAG. También te mostramos cómo resolver problemas de extremo a extremo utilizando la familia de modelos Llama y usándolos en varios servicios de proveedores.

Ejecuta cualquier LLM de código abierto, como DeepSeek y Llama, como un endpoint de API compatible con OpenAI en la nube.

Framework de código bajo para construir LLMs personalizados, redes neuronales y otros modelos de IA

Un chatbot autohospedado, sin conexión, similar a ChatGPT. Impulsado por Llama 2. 100% privado, sin que los datos salgan de tu dispositivo. Nuevo: ¡Compatibilidad con Code Llama!

LMDeploy es un conjunto de herramientas para comprimir, desplegar y servir LLMs.

OpenCompass es una plataforma de evaluación de LLM, que admite una amplia gama de modelos (Llama3, Mistral, InternLM2, GPT-4, LLaMa2, Qwen, GLM, Claude, etc.) en más de 100 conjuntos de datos.

Proyecto de segunda fase de LLaMA-2 y Alpaca-2 en chino + modelo de contexto ultra largo de 64K (LLaMA-2 y Alpaca-2 LLMs en chino con modelos de contexto largo de 64K)

Firefly: Herramienta de entrenamiento de LLMs, compatible con el entrenamiento de Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llma2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom y otros modelos grandes

Enchanted es una aplicación para iOS y macOS para chatear con modelos de lenguaje privados autohospedados como Llama2, Mistral o Vicuna usando Ollama.

H2O LLM Studio: un framework y GUI sin código para el ajuste fino de LLMs. Documentación: https://docs.h2o.ai/h2o-llmstudio/

Versión post-entrenada en chino de Llama3.

Orquestación de GPU tolerante a fallos y altamente escalable, y un framework de machine learning diseñado para entrenar modelos con miles de millones o billones de parámetros

Una serie de modelos de lenguaje grandes desarrollados por Baichuan Intelligent Technology

Solución NLP en chino (grandes modelos, datos, modelos, entrenamiento, inferencia)

Una biblioteca de C#/.NET para ejecutar LLM (🦙LLaMA/LLaVA) en tu dispositivo local de manera eficiente.

The most no-nonsense, locally or API-hosted AI code completion plugin for Visual Studio Code - like GitHub Copilot but 100% free.

Inferencia de LLM distribuida. Conecte dispositivos domésticos en un clúster potente para acelerar la inferencia de LLM. Más dispositivos significan una inferencia más rápida.

Mejora la salida de Tesseract OCR usando LLMs (locales o API) para la corrección de errores, segmentación inteligente y formato markdown de PDFs escaneados

Finetuning de LLM con PEFT

✨ Agente de IA totalmente autónomo capaz de realizar tareas y proyectos complejos utilizando la terminal, el navegador y el editor.

API estilo OpenAI para modelos de lenguaje grandes abiertos, ¡usa LLMs igual que ChatGPT! Soporte para LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3, etc. Interfaz de backend unificada para modelos de lenguaje grandes de código abierto.

¡Un LLM para Jax simple, eficiente y escalable!

TigerBot: Un LLM multitarea y multilingüe

Inferencia de Llama 2 en un solo archivo de puro 🔥

Aila(AI超元域): La principal herramienta de integración de IA para Windows, macOS y Android. Pregunta una vez y obtén respuestas de más de 10 IA como ChatGPT, Gemini, Claude3, Copilot, Poe, Perplexity y más. Incluye IA y prompts personalizables.

Ejecute cualquier Llama 2 localmente con interfaz de usuario gradio en GPU o CPU desde cualquier lugar (Linux/Windows/Mac). Use `llama2-wrapper` como su backend local de llama2 para Generative Agents/Apps.

[ICML 2024] LLMCompiler: Un compilador LLM para llamadas a funciones en paralelo

Una guía completa para construir aplicaciones LLM basadas en RAG para producción.

Calcula tokens/s y los requisitos de memoria GPU para cualquier LLM. Soporta cuantización llama.cpp/ggml/bnb/QLoRA.