AI Agent 记忆如何区分用户事实和临时对话

AI Agent 的“记忆”最好不要理解成一张把所有聊天都塞进去的表。真正可维护的做法是分三层：当前会话保存临时上下文，任务记录保存本次工作需要的中间状态，用户档案只保存经过确认、下次仍然有价值的事实和偏好。这样既能回答“用户刚才说了什么”，也不会把一次性的猜测变成永久事实。

官方地址：https://platform.openai.com/docs/guides/conversation-state

先把记忆拆成会话、用户档案和任务记录

会话记忆的有效期通常只有当前对话，适合保存“上一条回答里的变量”或用户刚刚给出的文件名；任务记忆服务于一个明确目标，例如一次排查、一次旅行规划或一个订单处理流程；用户档案才适合保存“偏好使用中文”“默认时区是 Asia/Shanghai”这类跨任务复用的信息。三者的删除、权限和检索规则都不同，混在一起后，清理和纠错都会变得困难。

OpenAI 的会话状态文档描述的是 API 层面的多轮上下文；应用自己的长期用户记忆仍应由业务系统单独建模。这个区分很重要：API 能帮你延续会话，不等于它替你判断哪些内容值得永久保存。

用证据、范围和过期时间描述一条事实

一条可复用记忆至少要能回答五个问题：它属于谁，内容是什么，从哪里来，可信度多高，什么时候失效。不要只存一行“用户喜欢咖啡”，而应把事实拆成可解释字段：

from dataclasses import dataclass
from datetime import datetime

@dataclass
class MemoryItem:
    # scope 控制检索边界，source 让每条事实可追溯。
    scope: str
    subject: str
    value: str
    source: str
    confidence: float | None
    expires_at: datetime | None

def reusable(item: MemoryItem) -> bool:
    # 只有用户范围、明确来源且未过期的事实才进入长期检索。
    return (item.scope == "user"
            and item.source == "user-explicit"
            and item.confidence is not None
            and (item.expires_at is None or item.expires_at > datetime.now()))

字段不必一开始就做得很复杂，但 `source` 和 `scope` 不建议省略。没有这两个字段，后续很难回答“这句话为什么会影响当前用户”。

只让稳定且可确认的信息进入长期记忆

写入门槛可以按三档设计：用户明确说“以后都用中文”，可进入 user scope；用户在多个独立任务中重复表达同一偏好，可以进入待确认队列；模型根据语气猜出的年龄、职业或购买意向，不应直接落库。一次性计划、临时文件名、当前错误堆栈则留在 session 或 task scope，任务结束后自动清理。

写入前可采用一个简单决策表：

长期记忆还应提供删除和修改入口。尤其是身份、健康、财务等高影响信息，即使模型认为置信度很高，也应该要求更明确的确认和更严格的权限。

生成回复时分层检索，别把整库塞进上下文

检索顺序建议从近到远：先读当前会话，再读当前 task 的必要记录，最后按用户、租户和权限过滤长期事实。每一层都设置上限，并给记忆附上“仅供参考”的来源标记；当前用户的新指令优先级高于旧偏好，安全规则和业务权限又高于二者。

拼装提示词时不要把数据库原文整段注入。可以先把记忆压缩成少量键值，例如“语言=中文（用户明确，长期）”“项目=demo（当前任务）”，再让模型回答。OpenAI 文档也区分了 `previous_response_id`、conversation 与应用状态的存储边界，工程上同样应该把“延续对话”和“跨任务事实”分成两个决策。

排查错误时重点看三项：是否检索了错误 scope，是否把已过期项当成有效项，是否让旧事实覆盖了当前用户指令。很多所谓“模型记错了”，根因其实是检索层没有带过滤条件。

发生冲突时保留新旧证据并请求确认

当用户说“我现在改用英文”而旧档案仍是“偏好中文”时，不要直接删除旧记录。先保留两个版本，分别记录时间、来源和有效期；若变化只影响当前任务，就让 task scope 覆盖本次回答；若要改变长期偏好，则标记为待确认或要求用户明确说“以后都这样”。

可以把冲突记录成事件而不是覆盖字段：旧事实仍可审计，新陈述拥有新的版本号，待确认状态决定它是否进入长期检索。这样当用户纠正错误时，系统只需追加一条可信事件，不必猜测哪一行曾经被模型改写。

相关问题

会话记忆和用户记忆必须使用不同数据库吗？

不一定，但必须有清晰的 scope、权限和过期策略。即使共用数据库，也要让清理任务能单独删除会话和任务记录。

向量数据库能自动判断什么该长期保存吗？

不能。向量检索解决“相似内容找回来”，不负责事实授权、生命周期和冲突裁决，这些仍是应用层规则。

用户没有明确确认时能否保存偏好？

可以先放入短期待确认区，但不要当成稳定事实注入后续所有任务；在高影响场景中应再次询问。