Liuhong99 の追跡中のオープンソースリポジトリを、スター数順に表示します。
「Sophia: A Scalable Stochastic Second-order Optimizer for Language Model Pre-training」の公式実装