长对话的压缩与分支
对话很长以后,模型能接收的上下文可能不足。Anyy 可以把较早内容整理成摘要,保留近期内容继续工作。聊天原始条目仍在,压缩改变的是后续模型请求使用的内容。
摘要可能省略细节;精确资料应保存在文件中,需要时重新引用。它不写入 USER.md/MEMORY.md,也不表示任务完成。要缩小数据库文件,使用另一项数据维护功能。
看到溢出或长时间整理上下文时
自动压缩默认启用,按当前模型窗口与上下文用量判断。默认预留 16,384 Token,并保留约 20,000 近期 Token;模型的会话配置可覆盖这些数值。
遇到可恢复的上下文溢出或回复长度限制时,同一次运行最多做一次“压缩后重试”。仍然失败,就减少引用材料、换更大窗口模型,或新建会话,不能靠反复等待无限恢复。
生成摘要使用当前模型路由,会消耗 provider 用量。失败、取消、截断的摘要不应用;部分虚拟模型辅助摘要失败时,主回答仍可用既有历史继续准备。摘要操作采用 Profile 的 Session 重试预算,与 provider 传输重试分开;取消会等待模型调用真正收尾。
回到较早消息重新提问
TUI 空闲时输入 /tree,用上/下选择条目,Enter确认。当前条目会标记出来;Esc只取消选择器。按 s 可开/关“为离开的分支生成摘要”,界面会显示开关状态。
选择一条用户消息,会退到它之前,并在输入框为空时返还该条文字。现有草稿需要先处理,否则不会被覆盖。接下来发送的内容从新位置继续;导航本身不会发起回答,早先和旁支仍保留。
可选分支摘要把离开分支的有用信息带到新位置,仍属于本会话。模型与工具会按所选分支恢复,既不是另建对话,也不是长期记忆更新。
哪些操作需要连接客户端
| RPC | 用途 |
|---|---|
session.tree | 读取已有会话树 |
session.tree.navigate | 在同一会话内导航,可选择摘要 |
session.fork | 从选定位置创建独立会话 |
session.compress | 手动生成一次上下文摘要 |
手动压缩示例参数:
{"method":"session.compress","params":{"session_id":"SESSION_ID","focus":"保留约束、决定和待办"}}
focus 可省略。该方法停止捕获的当前工作、等待收尾后压缩,不会自动恢复被打断的一轮。会话太短或刚压缩过,可能报告没有内容需要压缩。
Dashboard 和 TUI 没有手动压缩按钮,也不提供 /compact//compress;shell 没有 anyy compact 子命令。普通对话仍会自动压缩,TUI /tree 则是已经提供的导航入口。
TUI 的“重试等待时 Esc”只取消助理 backoff,不是摘要取消快捷键。完整停止/返稿区别见会话。