genai

Sistema integral para Machine Learning, artículos académicos y prácticas industriales sobre sistemas de IA, LLM y GenAI. Incluye recursos de conferencias como OSDI, NSDI, SIGCOMM, SoCC, MLSys, modelos como Llama3 y Mistral, y tutoriales en video.

Optimización del proxy de inferencia para LLMs

[ICLR2025 Spotlight] SVDQuant: Absorción de valores atípicos mediante componentes de bajo rango para modelos de difusión de 4 bits

Capa de memoria universal para agentes de IA. Proporciona almacenamiento y recuperación de memoria escalable, extensible e interoperable para optimizar la gestión de estado de los agentes de IA en sistemas autónomos de próxima generación.

Plugin de ComfyUI para Nunchaku

Plataforma de código abierto para ingeniería de IA: observabilidad de LLM nativa de OpenTelemetry, monitoreo de GPU, guardrails, evaluaciones, gestión de prompts, Vault, Playground. 🚀💻 Se integra con más de 50 proveedores de LLM, VectorDBs, frameworks de agentes y GPUs.

Recursos completos sobre IA generativa, incluyendo una hoja de ruta detallada, proyectos, casos de uso, preparación para entrevistas y preparación de código.

Construye, ejecuta y escala agentes de IA como API y microservicios

La plataforma de agentes Yuanjing Wanwu de China Unicom es una plataforma empresarial y multiinquilino de desarrollo de agentes de IA. Ayuda a los usuarios a crear aplicaciones como agentes inteligentes, flujos de trabajo y RAG, y también admite la gestión de modelos. La plataforma cuenta con una licencia amigable para desarrolladores, y damos la bienvenida a todos los desarrolladores para que construyan sobre ella.

Construye soluciones de Gen AI confiables y sin complicaciones 🍕

GenAI Processors es una biblioteca ligera de Python que permite el procesamiento de contenido eficiente y en paralelo.

La plataforma RAG de código abierto: citas integradas, investigación profunda, más de 22 formatos de archivo, particiones, servidor MCP y más.

¡Democraticemos la generación de alta resolución! (CVPR 2024)

Witsy: asistente de IA para escritorio / cliente MCP universal

Un framework de despliegue de IA de alto rendimiento y fácil de usar.

Un kit de herramientas Java de código abierto y centrado en el código para construir, evaluar y desplegar agentes de IA sofisticados con flexibilidad y control.

LLPhant: un framework integral de IA generativa para PHP que utiliza OpenAI GPT-4. Inspirado en Langchain.

Este repositorio ofrece una solución avanzada de Generación Aumentada por Recuperación (RAG) para responder preguntas complejas. Utiliza algoritmos sofisticados basados en grafos para gestionar las tareas.

Backend multimodal unificado para aplicaciones de datos de IA.

Un kit de herramientas para crear configuraciones de Generación Aumentada por Recuperación (RAG) óptimas y listas para producción para sus datos.

Crea agentes de IA para tu PC.

Proyecto de código abierto para que los desarrolladores de Windows aprendan a integrar IA mediante modelos locales y APIs en sus aplicaciones.

¡Evalúa LLMs haciéndolos pelear en Street Fighter 3! La nueva forma de evaluar la calidad de un LLM.

Una solución modular e integral para implementar un chatbot basado en Multi-LLM y Multi-RAG (Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral) utilizando AWS CDK en AWS.

Un kit de herramientas de TypeScript de código abierto y orientado al código para construir, evaluar y desplegar agentes de IA sofisticados con flexibilidad y control.

Jlama es un motor de inferencia de LLM moderno para Java

Neo4j GraphRAG para Python

Marco de compresión de redes neuronales para una inferencia mejorada con OpenVINO™.

Un conjunto de herramientas que proporciona capacidades potentes a los agentes.

Notebooks y aplicaciones de ejemplo para búsqueda y aplicaciones de IA con Elasticsearch