feifeibear/long-context-attention

USP: Unified (alias Hybrid, 2D) Sequence Parallel Attention untuk Pelatihan dan Inferensi Model Transformers Konteks Panjang

↗ Buka di GitHub

Bintang

691

Fork

84

Bahasa

Python

Lisensi

Apache-2.0

Push terakhir

4 hari yang lalu

Python llm-inference pytorch llm-training attention-is-all-you-need deepspeed-ulysses ring-attention

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.