karpathy

AI 代理自動在單 GPU nanochat 訓練上執行研究

最簡單、最快速的中型 GPT 訓練/微調倉庫

只要 100 美元即可購買的最佳 ChatGPT。

以簡潔的原始 C/CUDA 實作 LLM 訓練

最小化的 PyTorch 版 OpenAI GPT（生成式預訓練變換器）訓練實作

LLM Council 共同回答您最難的問題。

神經網路：從零到英雄

純 C 單檔實現 Llama 2 推理

一個小型標量自動微分引擎與其上層的神經網路庫，提供類 PyTorch API

簡潔、乾淨的 Byte Pair Encoding（BPE）演算法實作，常用於 LLM 斷詞。

关于从零构建 nanoGPT 的视频+代码讲座

一個自回歸字符級語言模型，用於創造更多東西

快速說明如何輕鬆使用 LLM 一起閱讀書籍。非常好，我強烈推薦

將任何 git repo 轉譯為單一靜態 HTML 頁面，供人類或 LLM 閱讀

一個用於視覺化探索勞工統計局 (BLS) 職業展望手冊資料的研究工具。這不是報告、論文或嚴肅的經濟學出版品，而是用於視覺化探索 BLS 資料的開發工具。

我的部落格

重現 Yann LeCun 1989 年的論文「Backpropagation Applied to Handwritten Zip Code Recognition」，就我所知，這是使用反向傳播訓練神經網路最早的實際應用。

用 LLM 事後分析十年前的 Hacker News 討論

缺失的 tiktoken 訓練程式碼。