03 GUIDES

LEARNING / HANDS ON

从一个小实验开始。

从几行代码,到能核对的训练与推理。选择一条适合当前资源的路线,把原理、实现和实验记录接在一起。

FEATURED SERIES / BONSAI

低比特大模型实战

从三值 QAT,到单卡推理。

沿着编码、训练、恢复与评测读懂一条压缩模型的工程链路。从几行 Python 开始,再走进真实的 MoE 实验。

  1. 01
    CPU / START SMALL

    先理解一个编码

    普通 Python 打包五个三值;Linux CPU 测试网格、梯度与恢复。

  2. 02
    35B MoE / 2×B300

    再走进真实训练

    准备教师、更新专家主权重,检查导出与恢复的每一步。

  3. 03
    122B MoE / RTX 5090

    把运行与质量分开核对

    低秩补偿与单卡推理案例。需指定 packed 权重,质量未达标。

01 / 推理小实验

同一个文件名,为什么取到了旧结果?

在浏览器里更新输入,观察两种缓存键的不同结果。无需模型、GPU 或安装环境。

  • 零安装
  • 可交互
  • 缓存
开始学习 · 约 8 分钟→

02 / Agent 上手

用 Nest 跑通第一个可核对工作流

从一条手动待办开始,逐步验证创建、修改原记录和保存本地邮件草稿。

  • Python
  • Nest
  • 动手练习
开始学习 · 约 10 分钟→
想继续读模型代码?可以从 minimind-diffusion 的模型测试 ↗ 开始。先检查形状与计算行为,再讨论训练后的生成效果。