メインコンテンツへスキップ
buildradar

FareedKhan-dev/kimi-k3-in-c

@FareedKhan-dev

2.78兆パラメータのKimi K3を単一CPU上で8.24 GBのRAMで推論実行。ポータブルC99: BLAS、フレームワーク、GPUなし。

スター
6,842
フォーク
1,107
言語
C
ライセンス
Apache-2.0
最終プッシュ
5 日前
Cmachine-learningllmdeep-learningllm-inferencetransformersimdquantizationcpu-inferenceinference-enginemixture-of-expertsc99avx2moekimi-k3zero-dependenciesmemory-efficientsystems-programmingfrom-scratchmxfp4linear-attention

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。