長對話的壓縮與分支
對話很長以後,模型能接收的上下文可能不足。Anyy 可以將較早內容整理成摘要,保留近期內容繼續工作。聊天原始條目仍在,壓縮改變的是後續模型請求使用的內容。
摘要可能省略細節;精確資料應儲存在檔案中,需要時重新引用。它不寫入 USER.md/MEMORY.md,也不表示任務完成。要縮小資料庫檔案,使用另一項資料維護功能。
看到溢位或長時間整理上下文時
自動壓縮預設啟用,按目前模型視窗與上下文用量判斷。預設預留 16,384 Token,並保留約 20,000 近期 Token;模型的工作階段設定可覆蓋這些數值。
遇到可復原的上下文溢位或回覆長度限制時,同一次執行最多做一次「壓縮後重試」。仍然失敗,就減少引用材料、換更大視窗模型,或建立工作階段,不能靠反覆等待無限復原。
產生摘要使用目前模型路由,會消耗 provider 用量。失敗、取消、截斷的摘要不會套用;部分虛擬模型輔助摘要失敗時,主回答仍可用既有歷史繼續準備。摘要操作採用 Profile 的 Session 重試預算,與 provider 傳輸重試分開;取消會等待模型呼叫真正收尾。
回到較早訊息重新提問
TUI 空閒時輸入 /tree,用上/下選擇條目,Enter確認。目前條目會標記出來;Esc只取消選擇器。按 s 可開/關「為離開的分支產生摘要」,介面會顯示切換開關狀態。
選擇一則使用者訊息,會退到它之前,並在輸入框為空時返還該則文字。現有草稿請先處理,否則不會被覆蓋。接下來傳送的內容從新位置繼續;導覽本身不會發起回答,早先和旁支仍保留。
可選分支摘要把離開分支的有用資訊帶到新位置,仍屬於本工作階段。模型與工具會按所選分支復原,既不是另建對話,也不是長期記憶更新。
哪些操作需要連線用戶端
| RPC | 用途 |
|---|---|
session.tree | 讀取已有工作階段樹 |
session.tree.navigate | 在同一工作階段內導覽,可選擇摘要 |
session.fork | 從選定位置建立獨立工作階段 |
session.compress | 手動產生一次上下文摘要 |
手動壓縮示例參數:
{"method":"session.compress","params":{"session_id":"SESSION_ID","focus":"保留约束、决定和待办"}}
focus 可省略。該方法停止捕獲的目前工作、等待收尾後壓縮,不會自動復原被打斷的一回合。工作階段太短或剛壓縮過,可能報告沒有內容需要壓縮。
Dashboard 和 TUI 沒有手動壓縮按鈕,也不提供 /compact//compress;shell 沒有 anyy compact 子指令。一般對話仍會自動壓縮,TUI /tree 則是已經提供的導覽入口。
TUI 的「重試等待時 Esc」只取消助理 backoff,不是摘要取消快捷鍵。完整停止/將輸入退回編輯器區別見工作階段。