falcon

🌸 在家以 BitTorrent 方式运行 LLM，微调与推理速度提升至 10 倍以上

拥抱未来的 API。Hug 旨在让开发 API 尽可能简单，但不会过于简化。

一个熟悉的 HTTP 服务框架，适用于 Python。

一个高性能的 Ruby 网络服务器，支持 HTTP/1、HTTP/2 与 TLS。

使用 peft 进行 LLM 微调

亲和力高的 HTTP 请求参数解析库，内置支持热门 Web 框架，包括 Flask、Django、Bottle、Tornado、Pyramid、webapp2、Falcon 和 aiohttp。

🦙 将 LLM 整合至结构化 NLP 流水线中

在生产环境中提供 AI/ML 模型服务的最简单方式

🤖 精选 Transformer 模型及其可组合组件的 PyTorch 库

用于微调、消融与单元测试开源 LLM 的工具组。

适用于 Python 的 CrowdStrike Falcon SDK。

FastOpenAPI 是一个使用 Pydantic v2 与多种框架（AioHttp、Django、Falcon、Flask、Quart、Sanic、Starlette、Tornado）生成并整合 OpenAPI 结构的库。