基础概念精选更新于 2026-10-24
上下文窗口
模型一次能读取和记住的最大 token 数,包括输入和输出。
#基础#长文本#限制
通俗解释
上下文窗口决定了模型一次能处理多长的文档、对话或代码库。窗口越大,能塞进去的材料越多,但成本和延迟也越高。超过窗口的内容会被截断或需要分段处理。
例子
200K token 的窗口约等于 15 万英文单词,可以一次读完整本书。
模型一次能读取和记住的最大 token 数,包括输入和输出。
上下文窗口决定了模型一次能处理多长的文档、对话或代码库。窗口越大,能塞进去的材料越多,但成本和延迟也越高。超过窗口的内容会被截断或需要分段处理。
200K token 的窗口约等于 15 万英文单词,可以一次读完整本书。