メインコンテンツへスキップ
buildradar
Sign in

alibaba/rtp-llm

@alibaba

RTP-LLM: 多様な用途に向けた Alibaba の高性能 LLM 推論エンジン

スター
1,325
フォーク
272
言語
Cuda
ライセンス
Apache-2.0
最終プッシュ
6 日前
Cudallmgptllmopsllamainferencellm-servingmodel-serving

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。