
Fig. 01Opening plate.
上下文工程
过去两年大家谈「提示词工程」,但当模型越来越强,真正拉开差距的是 上下文工程:在有限的窗口里,放对的信息、用对的顺序、去掉噪声。
三条经验
1. 相关性 > 数量
塞满窗口不等于给得多。无关片段是噪声,会稀释注意力。宁可少而准。
2. 顺序有影响
关键信息放在开头和结尾,模型更容易抓住(中间容易被「淹没」)。
3. 给结构,别给一坨
带标题、分隔、来源标注的上下文,比一大段纯文本更好用。模型也吃「排版」。
一个心智模型
把上下文窗口当成「会议桌」:你不会把整个档案室搬上桌,你只放这次决策需要的几份材料 —— 并且摆放整齐。
上下文工程,就是当那个会布置会议桌的人。