为什么模型聊着聊着就忘了你的要求?答案在注意力机制里
为什么模型聊着聊着就忘了你的要求?答案在注意力机制里
做 Agent 开发的人多半遇到过这样的场景。系统提示词里明明写了输出必须是 JSON,前几轮还好好的,上下文一长,模型就开始自由发挥。或者反过来,RAG 检索回来十段文档,只有一段和问题相关,模型却准确地从那一段里抽出了答案。
这两件事一个失败一个成功,背后是同一套机制在起作用,就是注意力。模型并没有平等地对待上下文里的每个词,它一直在判断当前该关注谁、从谁那里取信息。判断对了就是精准提取,判断偏了就是遗忘设定。
所以理解注意力,对不写算法的人也有直接收益。上下文工程里那些经验法则,比如重要指令放开头或结尾、长对话要做摘要压缩,都能从这里找到原因。微调时 LoRA 配置里那几个投影层到底在改什么,答案也在这里。
这篇文章不推公式。我们先用一个图书馆的例子看懂一次检索怎么发生,再看每个词如何互相检索,然后讲多头和掩码这两个工程设计,最后落到长上下文和微调的实际问题上。
QKV,一次图书馆式的检索
为了叙述方便,下文的词和 token 不做严格区分。
走进图书馆时你心里带着一个需求,想找讲 Python 爬虫的书,这个需求就是 Query。每本书的书脊上贴着分类标签,写着计算机网络、数据采集之类的关键词,这是 Key,它存在的意义就是被匹配。书里真正的正文是 Value,你最终要带走的东西。
检索分三步。先拿需求去和每本书的标签比对,算出相关度,这一步对应 QK 点积。点积不神秘,它同时受方向对齐和向量模长影响,可以粗略理解为对齐程度乘以幅度。标签和需求越对得上,分数通常越高。key 的模长也是训练出来的,模型可以借它调节某个词有多容易被注意到。然后由 softmax 把分数换算成百分比,所有书加起来等于一。最后按百分比把各本书的内容混合起来,这就是加权求和。
注意这里和真实图书馆最大的区别。现实中你借走一本书就离开,模型却是把整个图书馆都读了一遍,只是每本书读的份额不同。相关度百分之七十的书贡献七成内容,百分之零点一的书也贡献了那么一丝。没有谁被彻底扔掉,只有谁被重点照顾。
这个区别正好解释了注意力和 RAG 的关系。RAG 是硬检索,top k 之外的文档根本进不了模型。注意力是软检索,对标准全局注意力而言,进入上下文且可见的内容都参与混合,只是权重不同。这也意味着无关内容并非完全无害,权重再低也在稀释有效信息,这是长上下文效果退化的原因之一。