andrewkchan/yalm

Yet Another Language Model: I/O를 제외한 라이브러리 의존성 없이 C++/CUDA로 구현한 LLM 추론 엔진

↗ GitHub에서 열기

스타

596

포크

64

언어

C++

라이선스

—

마지막 푸시

12개월 전

C++cpp machine-learning llm cuda llm-inference llama inference-engine mistral llamacpp

아직 관련 인텔이 없습니다

이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.