AviSoori1x/makeMoE

Implementasi dari nol untuk model bahasa sparse mixture of experts yang terinspirasi oleh makemore karya Andrej Karpathy.

↗ Buka di GitHub

Bintang

814

Fork

96

Bahasa

Jupyter Notebook

Lisensi

MIT

Push terakhir

2 tahun yang lalu

Jupyter Notebook llm deep-learning large-language-models neural-networks pytorch mixture-of-experts pytorch-implementation

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.