llmops

Superduper : framework de bout en bout pour créer des applications et des agents IA personnalisés.

Le guide pratique des LLM : des fondamentaux au déploiement d'applications LLM et RAG avancées sur AWS en utilisant les meilleures pratiques LLMOps

cube studio开源云原生一站式机器学习/深度学习/大模型AI平台，mlops算法链路全流程，算力租赁平台，notebook在线开发，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务VGPU虚拟化，边缘计算，标注平台自动化标注，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库，AI模型市场，支持国产cpu/gpu/npu 昇腾生态，支持RDMA，支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano等分布式

Fine-tuning de LLM à partir d'un seul fichier YAML. Le streaming de couches permet d'entraîner un modèle 8B sur un GPU d'ordinateur portable de 4 Go.

🤖 Apprenez gratuitement à construire un système LLM & RAG prêt pour la production en utilisant les meilleures pratiques LLMOps : code source + 12 leçons pratiques.

Serveur d'inférence Multi-LoRA capable de monter en charge jusqu'à des milliers de LLM affinés.

Compétences d'agent en tant que couche de mémoire

Évaluation et suivi pour les expériences LLM et les agents IA.

Plateforme pour l'évaluation de LLM et le test d'agents IA

🕹️ Plateforme LLMOps open source axée sur les développeurs, conçue pour rationaliser la conception de prompts, la gestion de versions, la livraison instantanée, la collaboration, le dépannage, l'observabilité et plus encore.

Laminar - plateforme d'observabilité open source conçue pour les agents IA. YC S24.

AGiXT est une plateforme dynamique d'automatisation d'agents IA qui orchestre de manière transparente la gestion des instructions et l'exécution de tâches complexes via divers fournisseurs d'IA. Combinant mémoire adaptative, fonctionnalités intelligentes et système de plugins polyvalent, AGiXT fournit des solutions d'IA efficaces et complètes.

Apprenez à construire votre assistant IA « Second Brain » avec des LLM, des agents, la RAG, le fine-tuning, le LLMOps et des techniques de systèmes d'IA.

Un environnement de programmation visuelle open source pour tester les prompts destinés aux LLM.

Transformez des prompts coûteux en modèles affinés économiques

Plugin Fzf pour Fish

Plateforme open source pour l'ingénierie IA : observabilité LLM native OpenTelemetry, surveillance GPU, garde-fous, évaluations, gestion de prompts, coffre-fort et terrain de jeu. S'intègre avec plus de 50 fournisseurs LLM, bases de données vectorielles, frameworks d'agents et GPU.

Apache Hamilton aide les data scientists et les ingénieurs à définir des flux de données testables, modulaires et auto-documentés, intégrant traçabilité et métadonnées. S'exécute et passe à l'échelle partout où Python est supporté.

Créez des applications capables de prendre des décisions (chatbots, agents, simulations, etc.). Surveillez, tracez, persistez et exécutez sur votre propre infrastructure.

cubestudio开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台，算法全链路流程，多租户，算力租赁平台，token中转，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务，VGPU虚拟化，云边端协同，边缘计算，自动化标注平台，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库llmops智能体，AI模型市场，支持国产异构算力调度,昇腾/寒武纪/海光/摩尔/沐曦等，支持ib/roce/RDMA，信创支持

UpTrain est une plateforme open-source unifiée pour évaluer et améliorer les applications d'IA générative. Nous fournissons des scores pour plus de 20 contrôles préconfigurés (couvrant le langage, le code et les cas d'usage d'embedding), effectuons une analyse des causes profondes des échecs et proposons des pistes de résolution.

Bionic est une IA souveraine pour l'entreprise — une IA de type ChatGPT qui s'exécute sur site et peut traiter en toute sécurité vos données et systèmes sensibles.

🤖 Framework auto-modifiable du futur 🔮 Premier AMS au monde

Framework multi-agents no-code pour créer des agents LLM, des flux de travail et des applications basés sur vos données

Environnement de développement reproductible pour les humains et les agents

Une application de gestion de serveur MCP unifiée (MCP Manager).

AICI : les prompts comme programmes (Wasm)

Plateforme open-source de bout en bout pour évaluer, observer et améliorer les applications LLM et agents IA. Tracing, évaluations, simulations, jeux de données, passerelle, garde-fous. Auto-hébergeable. Licence Apache 2.0.

Recherche vectorielle évolutive, rapide et optimisée pour le disque dans Postgres, successeur de pgvecto.rs

Équilibreur de charge et plateforme de service LLM/VLM open source pour l'auto-hébergement de LLM (et VLM) à grande échelle. Une alternative à des projets comme llm-d ou Docker Model Runner, avec moins de composants et des déploiements simples basés sur l'écosystème ggml. Fonctionne sur CPU et GPU.