google-ai-edge/LiteRT-LM

@google-ai-edge

LiteRT-LMは、Googleが提供する、エッジデバイスへの大規模言語モデル（LLM）展開のための、本番環境対応の高性能なオープンソース推論フレームワークです。

↗ GitHub で開く

スター

6,358

フォーク

707

言語

C++

ライセンス

Apache-2.0

最終プッシュ

7 日前

C++on-device-ai edge-ai on-device-llm

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。