llm

Calcul du nombre de jetons par seconde et des besoins en mémoire GPU pour tout LLM. Prend en charge la quantification llama.cpp/ggml/bnb/QLoRA.

Le moyen le plus simple d'utiliser Ollama avec .NET.

llama.go est l'équivalent de llama.cpp en pur Golang !

Une solution modulaire et complète pour déployer un chatbot basé sur Multi-LLM et Multi-RAG (Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral) en utilisant AWS CDK sur AWS.

Fine-tuning de LLM sur Mac avec Apple Silicon. Support natif MLX pour SFT, DPO, GRPO, Vision, TTS, STT, Embedding et OCR. API compatible avec Unsloth.

Intégration de LLM dans des pipelines NLP structurés

Générateur de contexte IA universel. Économise des milliers de jetons par conversation dans Claude Code, Cursor, Copilot, Codex, et plus encore.

Dansez avec l'intelligence dans votre code. Minuet propose la complétion de code en temps réel via des LLM populaires, notamment OpenAI, Gemini, Claude, Ollama, Llama.cpp, Codestral et plus encore.

Exécution de LLM sur appareil en React Native avec compatibilité Vercel AI SDK.

Adaptateur MCP efficace en jetons pour l'agent de codage Pi.

Exemples d'utilisation d'E2B

Une collection organisée d'outils de test d'intrusion de premier plan et d'utilitaires de productivité dans divers domaines. Rejoignez-nous pour explorer, contribuer et améliorer votre boîte à outils de hacking !

OWASP Top 10 pour les applications basées sur les grands modèles de langage (partie du projet GenAI Security)

Bibliothèque JavaScript d'IA conversationnelle puissante — Interface utilisateur pour tout LLM, prenant en charge LangChain, HuggingFace, Vercel AI et plus encore. Compatible avec React, Next.js et JavaScript natif.

Une boîte à outils TypeScript open-source orientée code pour construire, évaluer et déployer des agents IA sophistiqués avec flexibilité et contrôle.

Implémentation d'applications avec des cas d'usage métier pour utiliser l'IA générative en toute sécurité dans les opérations commerciales

Un serveur Model Context Protocol (MCP) permettant une interaction sécurisée avec les bases de données MySQL

L'index communautaire le plus complet et mis à jour en continu sur la recherche en grands modèles de langage pour la détection de vulnérabilités logicielles, incluant des articles, jeux de données, benchmarks et études.

Méthodes unifiées de compression de cache KV pour les modèles auto-régressifs

Un utilitaire CLI pour les agents de codage IA

LLM pour votre interface en ligne de commande (CLI)

Parallax est un framework de service de modèles distribués qui vous permet de construire votre propre cluster d'IA n'importe où

Articles de recherche sur les agents autonomes (LLM). Mis à jour quotidiennement.

Le framework d'agents où chaque exécution est durable, rejouable et reprenable par défaut.

NeuroSploit est un framework de test d'intrusion avancé basé sur l'IA, conçu pour automatiser et renforcer divers aspects des opérations de sécurité offensive.

Agent de codage IA pour serveurs backend TS, optimisé par des compétences de compilation pour générer du code 100 % fonctionnel.

📎 Clippy, désormais doté d'une IA

Webchat vers API

Infrastructure alimentant E2B Cloud.

Bibliothèque légère pour le scraping de sites web avec des LLM.