GitHub - jingyaogong/minimind: 🚀🚀 「大模型」2小时完全从0训练26M的小参数GPT!🌏 Train a 26M-parameter GPT from scratch in just 2h!

需要学习的前置知识以及相关资源

理论讲解

手敲代码部分

数据搜集与训练部分

相关torch方法