llmops

Superduper: marco de trabajo integral para construir aplicaciones y agentes de IA personalizados.

La guía práctica de LLM: desde los fundamentos hasta el despliegue de aplicaciones avanzadas de LLM y RAG en AWS utilizando las mejores prácticas de LLMOps

cube studio开源云原生一站式机器学习/深度学习/大模型AI平台，mlops算法链路全流程，算力租赁平台，notebook在线开发，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务VGPU虚拟化，边缘计算，标注平台自动化标注，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库，AI模型市场，支持国产cpu/gpu/npu 昇腾生态，支持RDMA，支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano等分布式

Ajusta LLMs desde un solo YAML. El streaming de capas entrena un modelo de 8B en una GPU de laptop de 4 GB.

🤖 Aprende gratis cómo construir un sistema LLM y RAG de extremo a extremo listo para producción utilizando las mejores prácticas de LLMOps: ~ código fuente + 12 lecciones prácticas

Servidor de inferencia multi-LoRA que se escala a miles de LLM ajustados

Habilidades de agente como capa de memoria

Evaluación y seguimiento para experimentos de LLM y agentes de IA

La plataforma para evaluaciones de LLM y pruebas de agentes de IA

🕹️ Plataforma LLMOps de código abierto orientada al desarrollador, diseñada para optimizar el diseño de prompts, gestión de versiones, entrega instantánea, colaboración, resolución de problemas, observabilidad y más.

Laminar: plataforma de observabilidad de código abierto diseñada específicamente para agentes de IA. YC S24.

AGiXT es una plataforma dinámica de automatización de agentes de IA que orquesta sin problemas la gestión de instrucciones y la ejecución de tareas complejas entre diversos proveedores de IA. Al combinar memoria adaptativa, funciones inteligentes y un sistema de complementos versátil, AGiXT ofrece soluciones de IA eficientes y completas.

Aprende a construir tu asistente de IA Second Brain con LLMs, agentes, RAG, fine-tuning, LLMOps y técnicas de sistemas de IA.

Un entorno de programación visual de código abierto para realizar pruebas de estrés a los prompts de LLM.

Convierte prompts caros en modelos afinados baratos

Plugin de hardware mantenido por la comunidad para vLLM en Ascend

Plataforma de código abierto para ingeniería de IA: observabilidad de LLM nativa de OpenTelemetry, monitoreo de GPU, guardrails, evaluaciones, gestión de prompts, Vault, Playground. 🚀💻 Se integra con más de 50 proveedores de LLM, VectorDBs, frameworks de agentes y GPUs.

Apache Hamilton ayuda a los científicos de datos e ingenieros a definir flujos de datos comprobables, modulares y autodocumentados que codifican la procedencia, el rastreo y los metadatos. Se ejecuta y escala en cualquier lugar donde lo haga Python.

Construya aplicaciones que tomen decisiones (chatbots, agentes, simulaciones, etc.). Monitoree, rastree, persista y ejecute en su propia infraestructura.

Plataforma nativa de la nube de código abierto para ML/DL, MaaS y MLOps. Ofrece un ciclo de vida completo de algoritmos, multi-tenancy, orquestación de flujos de trabajo, entrenamiento distribuido, ajuste fino de modelos (SFT/RLHF), inferencia con vLLM/Ollama, bases de conocimiento privadas y soporte para hardware heterogéneo (Ascend, Cambricon, etc.) con capacidades de computación en el borde.

UpTrain es una plataforma unificada de código abierto para evaluar y mejorar aplicaciones de IA generativa. Proporcionamos calificaciones para más de 20 comprobaciones preconfiguradas (que cubren casos de uso de lenguaje, código e incrustaciones), realizamos análisis de causa raíz en casos de falla y brindamos información sobre cómo resolverlos.

Bionic es IA soberana para la empresa: IA similar a ChatGPT que se ejecuta en la empresa (on-premise) y puede trabajar de forma segura con sus datos y sistemas sensibles.

🤖 Framework auto-modificable del futuro 🔮 El primer AMS del mundo

Framework multiagente sin código para construir agentes LLM, flujos de trabajo y aplicaciones con tus datos

🏕️ Entorno de desarrollo reproducible para humanos y agentes

Una aplicación unificada de gestión de servidores MCP (MCP Manager).

AICI: Prompts como programas (Wasm)

Plataforma de código abierto de extremo a extremo para evaluar, observar y mejorar aplicaciones de LLM y agentes de IA. Incluye trazado, evaluaciones, simulaciones, conjuntos de datos, puerta de enlace y guardrails. Autohospedable. Licencia Apache 2.0.

Búsqueda vectorial escalable, rápida y eficiente en disco para Postgres, el sucesor de pgvecto.rs.

Balanceador de carga y plataforma de servicio de código abierto para LLM/VLM, diseñado para el autoalojamiento a escala. Alternativa a proyectos como llm-d o Docker Model Runner, con menos componentes y despliegues sencillos basados en el ecosistema ggml. Funciona en CPU y GPU.