一起动脑筋 · 先看一个小故事
女孩想知道聊天能力从哪来。机器人把“先学大量模式，再学更好地完成任务”分开画出来。
把过程摊开来看
- 数据准备清理与组织
- 预训练学习广泛模式
- 后续训练改进任务与对话行为
- 评估检查能力与问题
语言模型训练通常包含学习广泛数据模式，以及针对目标行为的后续训练等阶段。
训练目标可能要求预测后续或缺失内容，使参数逐步适合这些任务。之后还可用示范、偏好等反馈改善回答方式。
具体流程依模型而异，数据质量、计算资源和评估都重要。
轮到你来试一试
模型昨天训练完成，就保证知道今天发生的新闻吗？
想好了吗？点开看解释
不保证。若要了解新事件，需要获得新的可靠信息，例如适当检索，并核实来源。
带走一个发现
语言模型训练通常包含学习广泛数据模式，以及针对目标行为的后续训练等阶段。
试着遮住上面的图，把每一步讲给家人听。如果某一步说不清楚，就回到那张卡片再看一遍。