falcon

🌸 BitTorrentスタイルのホームLLM実行。オフロード比で最大10倍高速なファインチューニングと推論。

未来のAPIを受け入れよう。Hugは、API開発を可能な限りシンプルに、それ以上にシンプルにすることを目指しています。

Python向けのおなじみのHTTPサービスフレームワーク

HTTP/1、HTTP/2、TLS をサポートする Ruby 向け高性能ウェブサーバー

peftを使用したLLMのファインチューニング

Flask、Django、Bottle、Tornado、Pyramid、webapp2、Falcon、aiohttp などの人気 Web フレームワークを内蔵サポートした、HTTP リクエスト引数解析のための使いやすいライブラリ

🦙 LLM を構造化された NLP パイプラインに統合する

AI/ML モデルを本番環境で運用する最も簡単な方法

🤖 厳選された Transformer モデルとその組み合わせ可能なコンポーネントを提供する PyTorch ライブラリ

オープンソースLLMのファインチューニング、アブレーション、単体テストを行うためのツールキット。

Python向けCrowdStrike Falcon SDK

Pydantic v2および様々なフレームワーク（AioHttp、Django、Falcon、Flask、Quart、Sanic、Starlette、Tornado）を使用してOpenAPIスキーマを生成・統合するためのライブラリ。