怎么压缩上下文#
打开聊天页右上角更多菜单,选择 压缩上下文;也可从 上下文容量 面板进入。选好近期原文的保留档位(可选再写压缩要求)后,点击 开始压缩。
近期原文 分为 较少、自动、较多 三档,面板顶部的 压缩预览 会估算压缩前后的占用,以及固定内容、摘要与近期原文的比例。保留按完整步骤计算,不拆开工具调用与结果;保留越少释放越多,但摘要可能遗漏细节。原始消息和图片仍保存在本地,不会删除。
上下文压缩将较早的对话总结为摘要,后续请求使用摘要与保留的近期原文。压缩不删除消息;助手需要核对细节时,可以按需搜索和查看被压缩的原文。上下文占用是估算参考,不会仅因估算超过 100% 就阻止发送。
清除上下文#
想在当前对话里开始新一轮、又不想新建对话时,打开聊天页右上角更多菜单,选择 清除上下文。最后一条消息下方会出现「上下文已清除」分隔,之后发送的消息只带分隔以下的内容;分隔以上的消息照常显示,可以翻看、搜索和复制,只是不再发给模型。可以多次清除,每次都会留下一条分隔。
刚清除、还没发消息时,点分隔上的 撤销(或更多菜单里的 撤销清除上下文)即可恢复;已经在新一轮里聊过,撤销前会再确认一次。在分隔以上的旧回复上重新生成,仍按它当时的上下文;在分隔以上的用户消息上重新生成,会从那里重新开始对话,分隔随后面的消息一起移除。清除前已有的压缩摘要不再使用;清除后再压缩,只压缩分隔以下的内容。
自动压缩#
在 设置 → 应用设置 → 通用偏好 打开 自动压缩上下文(默认关闭);每个对话也可以在 上下文容量 面板里单独开启或关闭。开启后,接近上限时会在发送前或工具步骤之间自动压缩,完成后继续;已执行的操作不会重做。发送前压缩时可以点 跳过,直接发送,只跳过这一次。停止会停止整个发送,你的消息仍留在输入框。自动压缩未完成时会按原上下文继续,本次发送不再自动压缩。
同一位置的 压缩触发点 可以填 32K~2000K(例如 200K、500K),留空为 自动。自动按模型窗口计算(约 80%),百万窗口的模型要到约 800K 才压缩;填了固定大小后,上下文达到这个大小就压缩,压缩后也控制在这以下,长对话的单次请求更小、更省。填的值比模型的自动触发点还大时按自动处理。系统提示词、知识库和工具定义占用较多时,触发点填得太小可能压不下来,调大一些即可。
未开启时只提醒:占用达到 70% 时建议压缩,接近压缩所需空间时再次提醒。没有可靠上下文窗口的模型不会自动压缩,可在模型设置里填写窗口大小,或手动压缩。
上下文容量与 Token 单位#
上下文面板估算的是当前请求要携带的内容,不等于本条回复或整个会话的累计用量;连续工具调用产生的多次输入会计入消耗,不能简单相加作为当前窗口占用。估算与服务商实际计量可能不同。
模型编辑中的容量支持完整整数及 K/M:1K = 1,000、1M = 1,000,000 Token,例如 272K、1M、1.048576M。保存的是精确整数,已有的 1,048,576 不会因为显示为 1.05M 就变成另一个值;只修改模型名称等其他设置也不会重写容量。请使用服务商实际窗口值,不要把输出上限当作总窗口。
上下文容量面板还会显示上次请求的完整 JSON 体积、图片数量和内联图片编码体积,失败请求也会计量。它与 token 窗口不同,压缩后需到下一次发送才更新。遇到 HTTP 413,表示服务商或中转拒绝了过大的请求;可在压缩时选择 较少 少保留近期原文,或减少、缩小本次图片。同一服务商内更换模型不一定能改变请求体积限制。
会话级压缩要求#
在压缩面板里展开 压缩要求(可选,不填则使用默认规则),可指定需要优先保留的人物关系、情绪变化、代码细节等内容,最多 2000 字。点击 保存要求 单独保存;点击 开始压缩 也会先保存。关闭面板不会保存未提交的修改。
要求仅对当前对话生效,在 高级 里换模型后仍保留,后续压缩继续沿用;清空并保存可恢复默认。修改只影响下一次压缩,不会改写已有摘要,也不能恢复此前摘要中已遗漏的细节。自定义要求补充保留重点,不替换忠实于原文、不虚构事实等基础规则。
查看摘要与中断#
压缩进行时,输入框上方会显示进度,可以先去聊别的;完成后可从提示中 查看摘要,之后也可以打开聊天页 右上角更多菜单 → 查看上下文摘要。摘要是后续聊天使用的内容概括,可能遗漏细节;需要核对时直接问助手,它会按需查看原文。
如果主要占用不在历史对话里(例如挂载的知识库或工具较多),压缩后释放的空间有限,会先让你选择 仍然保存 或 放弃这份摘要。放弃不会改变上下文,本次用量已计入。
失败或停止不会用不完整摘要替换现有内容,可查看提示后重试。应用进程被系统结束不代表云端请求已取消,后台任务受系统限制。
模型和费用#
压缩默认使用当前对话的模型和推理强度,请求沿用对话已有的历史,尽量复用服务商缓存,按服务商计费。手动压缩时,面板最下方的 高级 可以为本次换一个模型;换用其他模型后才可选择推理强度,且无法复用对话缓存,费用可能更高,不会修改聊天模型和全局默认设置。自动压缩始终使用对话模型。压缩不做分段:服务商提示超出窗口时会去掉近期原文后重试一次,仍放不下则如实报错、原文不变,可在 高级 里换窗口更大的模型。正在生成回复、已有压缩任务或没有可压缩内容时,入口可能不可用。