cactus-compute/cactus

@cactus-compute

モバイル、ウェアラブル、スマートホーム、ロボット向けの量子化、カーネル、ランタイム、推論エンジン。

↗ GitHub で開く

スター

5,975

フォーク

501

言語

C++

ライセンス

NOASSERTION

最終プッシュ

2 週間前

C++android ios ai llm framework llm-inference transformer whisper rag smartphone llms mobile on-device-ai edge edge-ai arm speech llamacpp mobile-inference quantiz

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。