andrewkchan/yalm

Yet Another Language Model : inférence LLM en C++/CUDA, sans aucune bibliothèque à l'exception des E/S.

↗ Ouvrir sur GitHub

Étoiles

597

Bifurcations

64

Langage

C++

Licence

—

Dernier push

il y a 12 mois

C++cpp machine-learning llm cuda llm-inference llama inference-engine mistral llamacpp

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.