datawhalechina

diy-llm

Covers pre-training data, Tokenizer, Transformer, MoE,distributed training, Scaling Laws, inference & alignment .6 progressive code assignments for full-stack LLM learning | 涵盖预训练数据、分词器、Transformer、MoE、分布式训练、缩放定律、推理与对齐,6 项渐进代码作业,掌握 LLM 全栈知识

AI学习资源中文支持
Star
2.2k
全站累计
Fork216衍生分支贡献
语言Jupyter Notebook核心开发语言
创建于2025-11-24已运营 0.9 年
最近推送2026-10-29最新代码提交

Star 走势

已连续追踪 69 天每日快照数据

期间增长:+2.0k (663.6%)
2941.3k2.2k2026-04-062026-09-252026-10-29
GitHub 官方 Topics:
#cs336#datawhale#gpu-programming#grpo#llm#nlp#rl#scaling-laws#sft#transformer