AviSoori1x/makeMoE

受到 Andrej Karpathy 的 makemore 啟發，從頭實作的稀疏專家混合（sparse mixture of experts）語言模型 :)

↗ 在 GitHub 開啟

星數

814

Fork 數

96

語言

Jupyter Notebook

授權

MIT

最後推送

2 年前

Jupyter Notebook llm deep-learning large-language-models neural-networks pytorch mixture-of-experts pytorch-implementation

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。