一起动脑筋 · 先看一个小故事
女孩写“把苹果放进篮子，它很红”。机器人要结合句子，才知道哪些词彼此有关。
把过程摊开来看
- 切分文字得到 token
- 数值表示进入模型
- 结合上下文处理词间关系
- 任务输出回答或续写
语言模型把文字转成数值表示，在上下文中计算关系。
它不像人用眼睛逐字默读；“读”是处理文本信息的便于理解的说法。
同一个词在不同句子中可能表示不同意思，周围内容会影响模型表示和后续输出。
轮到你来试一试
同一个“苹果”出现在水果篮和手机介绍里，含义一定一样吗？
想好了吗？点开看解释
不一定。上下文提供了区分水果与品牌等含义的线索。
带走一个发现
语言模型把文字转成数值表示，在上下文中计算关系。
试着遮住上面的图，把每一步讲给家人听。如果某一步说不清楚，就回到那张卡片再看一遍。