从 Qwen 报告到代码:建立自己的模型阅读清单
把预训练、指令微调与实际模型配置串起来,形成可重复使用的阅读方法。
先确定你拿到的是哪个模型
同一系列可能有基础模型、指令模型和不同参数规模。阅读 Qwen2.5 报告时,先写下具体模型标识,再判断它与下载的配置、权重和 tokenizer 是否对应。
分开看三个阶段
预训练学习数据中的统计结构;监督微调通过示范数据调整回答行为;后续对齐阶段进一步优化模型输出的偏好与质量。不要仅凭一个模型会聊天,就推断它采用了哪一种具体训练算法。
从报告走向配置
如果要理解实际计算,下一步应查看所选版本的配置:层数、隐藏维度、注意力头、键值头、词表和位置编码设置。报告给出系列层面的背景,配置与实现才回答具体检查点如何执行。
学习记录模板
模型标识与版本:
基础模型 / 指令模型:
配置与权重来源:
输入 token 数:
输出 token 数:
精度与硬件:
观察与待验证假设:小实验:只改变一个变量
在同一模型和同一提示下,只改变生成温度,记录多次输出。你研究的是采样策略对输出的影响;这不等于模型的训练知识发生了变化。单变量实验能减少错误归因。
原始资料
Qwen2.5 Technical Report。开始复现时仍应核对具体检查点的模型卡与使用许可。