切换·Esc 返回

上下文窗口Context Window

AI 概念
上下文窗口是模型一次请求中能够同时读取并为输出预留的 Token 总量系统规则、新问题、聊天记录、文件和工具结果都会占用空间。例如,长文件可能使回答变短或无法发送;无关资料不应全部塞入。
先知道
也常被叫作上下文长度Context Length
开始前

曾在聊天里粘贴过长文本、上传过文件或连续追问。

看完后

能判断哪些消息和文件会挤占一次回答可用的空间。

真实消息和文件怎样占满一次回答的空间
本次请求最多 1000 个示意 Token560 输入 + 200 输出预留
系统规则180 Token(示意)
当前问题120 Token(示意)
login.js260 Token(示意)
仍放得下,并且给模型回答留了位置。
刚才发生了什么
  1. 1
    都要装进去

    系统规则、你的新问题、聊天记录、文件和工具结果都会占位置。

  2. 2
    给回答留座

    空间不能全塞给输入;模型还需要位置写出答案。

  3. 3
    不够就取舍

    产品可能挑相关文件、压缩早期聊天,或提示你缩短内容。

别带走这个误解

窗口更大不代表该把所有资料都塞进去;无关内容也会分散重点。

接下来学什么