jingyaogong/minimind
🧠 Train a 64M-parameter LLM from scratch in just 2h!
📈 Star 增长趋势(本站收录历史)
jingyaogong/minimind
🤖 深度介绍
它是什么
MiniMind 是一个仅用 2 小时就能从零训练出 64M 参数大语言模型的开源项目。它用极简的代码和流程,让个人开发者也能在消费级显卡上跑通“数据清洗 → 预训练 → 微调 → 对齐”的完整 LLM 训练链路。
核心亮点
- 极低门槛:单卡即可训练,2 小时出结果,告别“千卡集群”的幻想
- 全流程透明:训练脚本、数据管道、推理代码全部开源,无黑盒
- 轻量架构:基于 GPT-2 风格设计,代码量不足千行,极易读懂
为什么火
在动辄“百亿参数”的 LLM 圈子里,MiniMind 反其道而行之,用“小”证明了“大”不是唯一路径。它精准击中了两个痛点:一是普通开发者对 LLM 训练的神秘感,二是算力资源不足的无奈。5.6 万 Star 说明,人们渴望亲手制造 AI,而不是只当旁观者。
适合谁用
- 想入门 LLM 训练的 AI 初学者(需要一定 Python 基础)
- 需要快速验证模型 idea 的研究者
- 对模型内部机制好奇的极客
快速上手
git clone https://github.com/jingyaogong/minimind.git
cd minimind
pip install -r requirements.txt
# 一键训练(默认使用小数据集)
python train.py
训练完成后,用 chat.py 即可与你的“迷你大脑”对话。
