falcon

🌸 在家以 BitTorrent 方式運行 LLM，微調與推論速度提升至 10 倍以上

擁抱未來的 API。Hug 旨在讓開發 API 盡可能簡單，但不會過於簡化。

一個熟悉的 HTTP 服務框架，適用於 Python。

一個高效能的 Ruby 網頁伺服器，支援 HTTP/1、HTTP/2 與 TLS。

使用 peft 進行 LLM 微調

親和力高的 HTTP 請求參數解析函式庫，內建支援熱門 Web 框架，包括 Flask、Django、Bottle、Tornado、Pyramid、webapp2、Falcon 和 aiohttp。

🦙 將 LLM 整合至結構化 NLP 管線中

在生產環境中提供 AI/ML 模型服務的最簡單方式

🤖 精選 Transformer 模型及其可組合元件的 PyTorch 函式庫

用於微調、消融與單元測試開源 LLM 的工具組。

適用於 Python 的 CrowdStrike Falcon SDK。

FastOpenAPI 是一個使用 Pydantic v2 與多種框架（AioHttp、Django、Falcon、Flask、Quart、Sanic、Starlette、Tornado）生成並整合 OpenAPI 結構的函式庫。