メインコンテンツへスキップ
buildradar
ログイン

Michael-A-Kuykendall/shimmy

@Michael-A-Kuykendall

⚡ 純粋なRustによるWebGPU推論エンジン — OpenAI-API互換、GGUFネイティブ、あらゆるGPUで動作。Python不要。llama.cpp不要。単一バイナリ。

スター
5,816
フォーク
561
言語
Rust
ライセンス
Apache-2.0
最終プッシュ
2 週間前
Rustrustdeveloper-toolsmachine-learningwebgpullm-inferencetransformersllamacommand-line-toolhuggingfaceggufollama-apirust-crateopenai-compatiblellamacppwebgpu-shadersapi-serverlocal-aihuggingface-transformersinference-serverhuggingface-models

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。