FEATURED SERIES / BONSAI
低比特大模型实战
从三值 QAT,到单卡推理。
沿着编码、训练、恢复与评测读懂一条压缩模型的工程链路。从几行 Python 开始,再走进真实的 MoE 实验。
- 01CPU / START SMALL
先理解一个编码
普通 Python 打包五个三值;Linux CPU 测试网格、梯度与恢复。
- 0235B MoE / 2×B300
再走进真实训练
准备教师、更新专家主权重,检查导出与恢复的每一步。
- 03122B MoE / RTX 5090
把运行与质量分开核对
低秩补偿与单卡推理案例。需指定 packed 权重,质量未达标。
01 / 推理小实验
同一个文件名,为什么取到了旧结果?
在浏览器里更新输入,观察两种缓存键的不同结果。无需模型、GPU 或安装环境。
开始学习 · 约 8 分钟→02 / Agent 上手
用 Nest 跑通第一个可核对工作流
从一条手动待办开始,逐步验证创建、修改原记录和保存本地邮件草稿。
开始学习 · 约 10 分钟→想继续读模型代码?可以从 minimind-diffusion 的模型测试 ↗ 开始。先检查形状与计算行为,再讨论训练后的生成效果。