NVIDIA/TransformerEngine
@NVIDIAHopper, Ada, Blackwell GPU에서 8비트 및 4비트 부동소수점(FP8 및 FP4) 정밀도를 활용하는 것을 포함하여 NVIDIA GPU에서 Transformer 모델을 가속화하고, 학습 및 추론 모두에서 더 나은 성능과 낮은 메모리 사용량을 제공하는 라이브러리
스타
3,509
포크
814
언어
Python
라이선스
Apache-2.0
마지막 푸시
2일 전
관련 인텔 (0)
아직 관련 인텔이 없습니다
이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.