falcon

Exécutez des LLM chez vous, façon BitTorrent. Fine-tuning et inférence jusqu'à 10 fois plus rapides qu'avec le déchargement classique.

Adoptez les API du futur. Hug vise à rendre le développement d'API aussi simple que possible, sans compromis.

Un framework de service HTTP familier pour Python.

Un serveur web haute performance pour Ruby, prenant en charge HTTP/1, HTTP/2 et TLS.

Fine-tuning de LLM avec peft

Une bibliothèque conviviale pour l'analyse des arguments de requêtes HTTP, avec prise en charge intégrée des frameworks web populaires, notamment Flask, Django, Bottle, Tornado, Pyramid, webapp2, Falcon et aiohttp.

Intégration de LLM dans des pipelines NLP structurés

La manière la plus simple de déployer des modèles d'IA/ML en production.

Une bibliothèque PyTorch de modèles Transformer sélectionnés et de leurs composants composables.

Boîte à outils pour le réglage fin, l'ablation et les tests unitaires de LLM open source.

Le SDK CrowdStrike Falcon pour Python

FastOpenAPI est une bibliothèque pour générer et intégrer des schémas OpenAPI en utilisant Pydantic v2 et divers frameworks (AioHttp, Django, Falcon, Flask, Quart, Sanic, Starlette, Tornado).