genai

🚀 Système impressionnant pour le Machine Learning ⚡️ Articles sur les systèmes d'IA et pratiques industrielles. ⚡️ Système pour le Machine Learning, LLM (Large Language Model), GenAI (IA générative). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, etc. 🗃️ Llama3, Mistral, etc. 🧑‍💻 Tutoriels vidéo.

Optimisation du proxy d'inférence pour les LLM.

[ICLR2025 Spotlight] SVDQuant : absorption des valeurs aberrantes par des composants de bas rang pour les modèles de diffusion 4 bits.

Couche de mémoire universelle pour agents IA. Elle offre un stockage et une récupération de mémoire évolutifs, extensibles et interopérables pour rationaliser la gestion d'état des agents IA dans les systèmes autonomes de nouvelle génération.

Plugin ComfyUI pour Nunchaku.

Plateforme open source pour l'ingénierie IA : observabilité LLM native OpenTelemetry, surveillance GPU, garde-fous, évaluations, gestion de prompts, coffre-fort et terrain de jeu. S'intègre avec plus de 50 fournisseurs LLM, bases de données vectorielles, frameworks d'agents et GPU.

Ressources complètes sur l'IA générative, incluant une feuille de route détaillée, des projets, des cas d'utilisation, la préparation aux entretiens et la préparation au codage.

Construisez, exécutez et mettez à l'échelle des agents IA comme des API et des microservices

La plateforme Yuanjing Wanwu Agent de China Unicom est une plateforme de développement d'agents IA multi-tenant de qualité entreprise. Elle aide les utilisateurs à créer des applications telles que des agents intelligents, des flux de travail et du RAG, et prend également en charge la gestion des modèles. La plateforme dispose d'une licence conviviale pour les développeurs, et nous invitons tous les développeurs à construire sur cette plateforme.

Construisez des solutions d'IA générative fiables sans surcoût

GenAI Processors est une bibliothèque Python légère permettant un traitement de contenu efficace et parallèle.

La plateforme RAG open-source : citations intégrées, recherche approfondie, plus de 22 formats de fichiers, partitions, serveur MCP, et plus encore.

Démocratisons la génération haute résolution ! (CVPR 2024)

Witsy : assistant IA de bureau / client MCP universel

Un framework de déploiement d'IA simple, facile à utiliser et haute performance

Boîte à outils Java open-source orientée code pour créer, évaluer et déployer des agents IA sophistiqués avec flexibilité et contrôle.

LLPhant - Un framework complet d'IA générative pour PHP utilisant OpenAI GPT 4, inspiré de Langchain.

Ce dépôt propose une solution avancée de génération augmentée par récupération (RAG) pour répondre à des questions complexes, utilisant des algorithmes basés sur des graphes.

Backend multimodal unifié pour les applications de données IA

Une boîte à outils pour créer une configuration RAG (Retrieval Augmented Generation) optimale et prête pour la production à partir de vos données.

Créez des agents IA pour votre PC.

Un projet open-source pour les développeurs Windows souhaitant apprendre à intégrer l'IA via des modèles locaux et des API dans leurs applications.

Évaluez les LLM en les faisant combattre dans Street Fighter 3 ! La nouvelle façon d'évaluer la qualité d'un LLM

Une solution modulaire et complète pour déployer un chatbot basé sur Multi-LLM et Multi-RAG (Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral) en utilisant AWS CDK sur AWS.

Une boîte à outils TypeScript open-source orientée code pour construire, évaluer et déployer des agents IA sophistiqués avec flexibilité et contrôle.

Jlama est un moteur d'inférence LLM moderne pour Java.

Neo4j GraphRAG pour Python

Framework de compression de réseaux de neurones pour une inférence OpenVINO™ optimisée.

Ensemble d'outils offrant des capacités puissantes aux agents.

Notebooks et exemples d'applications pour la recherche et l'IA avec Elasticsearch