kyegomez/LongNet

Triển khai cơ chế Attention cắm-và-chạy từ bài báo "LongNet: Scaling Transformers to 1,000,000,000 Tokens".

↗ Mở trên GitHub

Sao

726

Fork

59

Ngôn ngữ

Python

Giấy phép

Apache-2.0

Push gần nhất

3 năm trước

Python machine-learning transformer chatgpt gpt4 artificial-intelligence attention-mechanisms attention gpt3 attention-is-all-you-need context-length

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.