falcon

🌸 Execute LLMs em casa, no estilo BitTorrent. Ajuste fino e inferência até 10x mais rápidos do que o offloading

Adote as APIs do futuro. O Hug visa tornar o desenvolvimento de APIs o mais simples possível, mas não mais simples do que isso.

Um framework de serviço HTTP familiar para Python.

Um servidor web de alto desempenho para Ruby, com suporte a HTTP/1, HTTP/2 e TLS.

Fine-tuning de LLM com peft

Uma biblioteca amigável para analisar argumentos de requisições HTTP, com suporte nativo a frameworks web populares, incluindo Flask, Django, Bottle, Tornado, Pyramid, webapp2, Falcon e aiohttp.

🦙 Integrando LLMs em pipelines de PNL estruturados

A maneira mais simples de servir modelos de IA/ML em produção

Uma biblioteca PyTorch de modelos Transformer selecionados e seus componentes combináveis

Toolkit para fine-tuning, ablação e testes unitários de LLMs de código aberto.

O SDK do CrowdStrike Falcon para Python

FastOpenAPI é uma biblioteca para gerar e integrar esquemas OpenAPI usando Pydantic v2 e vários frameworks (AioHttp, Django, Falcon, Flask, Quart, Sanic, Starlette, Tornado).