lucidrains/ring-attention-pytorch

在 Pytorch 中實作 Berkeley AI 的 Liu 等人提出的 💍 Ring Attention

↗ 在 GitHub 開啟

星數

545

Fork 數

36

語言

Python

授權

MIT

最後推送

1 年前

Python long-context attention-mechanism distributed-attention efficient-attention

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。