lucidrains/ring-attention-pytorch

Berkeley AI의 Liu 등이 제안한 💍 Ring Attention의 Pytorch 구현

↗ GitHub에서 열기

스타

545

포크

36

언어

Python

라이선스

MIT

마지막 푸시

1년 전

Python long-context attention-mechanism distributed-attention efficient-attention

아직 관련 인텔이 없습니다

이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.