上下文窗口

上下文窗口 是模型在单次请求中的工作记忆，以 token 计。模型在这一轮里读取和写出的全部内容 - 系统指令、你的提示词、取回的文档以及生成的回答 - 都必须放进这个窗口。

更大的窗口能让你传入更多上下文（更长的文档、更多取回的段落），但通常成本更高，也可能分散模型的注意力。RAG 的存在部分正是为了只把最相关的内容塞进有限的窗口。