-
auo4 AI 观察 用户
开源Hindsight:让AI智能体学会"长记性"而不只是"翻记录",LongMemEval基准拿下SOTA
智能体换了个会话就"失忆",是当前 AI 应用最普遍的痛点之一。最近在 GitHub 上快速走红的开源项目 Hindsight,把这件事当成主攻方向:它不是又一个对话历史缓存,而是一套号称"让智能体学习,而不只是记住"的仿生记忆系统。项目由 vectorize-io 维护,Python 编写,MIT 许可,目前 GitHub 星标约 5.35 万,仅10月就增长了约 2.8 万星, forks 超过 6200,仓库更新活跃。
与 RAG 的根本区别:记忆是学出来的,不是搜出来的
主流智能体记忆方案大多停留在向量检索(RAG)或知识图谱层面,本质是"把历史存下来,用的时候搜出来"。Hindsight 的定位是让智能体跨会话持续积累经验、更新对世界的理解。官方基准显示,它在广泛使用的长时记忆评测基准 LongMemEval 上取得了当前最优(SOTA)成绩,相关结果由弗吉尼亚理工 Sanghani 人工智能与数据分析中心以及《华盛顿邮报》的研究合作者独立复现,系统论文已公开在 arXiv(编号 2512.12818)。据官方介绍,Hindsight 已在财富 500 强企业和一批 AI 初创公司的生产环境中使用。
Hindsight 用仿生数据结构组织记忆,分为四类:世界事实(比如"炉子会烫")、经验("我碰了炉子,确实很疼")、观察(从大量记忆中凝结出的、有证据支撑的信念)、心理模型(对智能体所处环境的习得性理解)。记忆存放在相互隔离的记忆库(bank)中,一个库对应一个用户、智能体或项目,库与库之间严格隔离,不会互相污染。
三个核心操作:留存、召回、反思
Hindsight 的能力收敛到三个 API:Retain 负责写入记忆,底层用 LLM 从输入中抽取关键事实、时间数据、实体和关系,经规范化处理转成规范实体、时间序列和搜索索引;Recall 负责检索,并行跑四套策略——语义向量相似度、BM25 关键词、实体/时间/因果图谱、时间范围过滤——再用倒数排名融合合并,经交叉编码器重排后按 token 预算裁剪;Reflect 则负责深度思考,让智能体在既有记忆之间建立新连接,回答需要推演而非简单查找的问题,比如让销售智能体反思"为什么有些外联邮件有回复、有些没有"。
两个设计细节值得关注。其一,记忆不会堆积成扁平的一坨:后台会把相关事实持续整合为"观察",每条观察保留精确引文形式的支撑证据和证明计数,新证据到来时是"精炼"既有信念(加强、削弱或扩展),而不是静默覆盖。其二,心理模型是对某个问题的长期答案(例如"这个用户有什么偏好?"),问题只需定义一次,Hindsight 会在后台随记忆积累不断重写答案,而读取它就是一次普通的数据库读,不需要检索、不需要调用 LLM——智能体每次启动都能带着一页"已成定论的知识"开工,而不是每轮会话重新发现一遍。
工程与生态:25 家模型厂商、全主流智能体框架
部署上,Hindsight 给出了一条从重到轻的完整路径:Docker 一键起服务(内置嵌入式 pg0 数据库)、外部 PostgreSQL 加 pgvector、Oracle AI Database 23ai 企业部署、pip 裸装、Kubernetes Helm 图表,甚至还有不需要单独服务器的 hindsight-all 嵌入式包,Windows 和离线环境都有对应方案;不想运维的可以用 Hindsight Cloud 托管版。模型侧支持 25 家以上 LLM 提供商,OpenAI、Anthropic、Gemini、Groq、Bedrock 以及 Ollama、LM Studio 等本地运行时都在列;已经订阅 ChatGPT Plus/Pro、Claude Pro/Max、Cursor、GitHub Copilot 的用户,无需额外 API key 即可使用。
接入现有智能体只需两行代码:用 hindsight-litellm 包一层 LLM 客户端,记忆就会在每次调用前自动召回、调用后自动留存,业务代码零改动。每个记忆库默认暴露一个 MCP 端点,任何支持 Model Context Protocol 的客户端都能把 retain、recall、reflect 当工具调用。生态集成覆盖 Claude Code、Codex、Cursor CLI、GitHub Copilot CLI、opencode、Cline、Aider、Zed 等编程智能体(可基于 git 历史和历史会话自动构建项目记忆库,并生成架构、规范等知识页面),以及 LangGraph、LlamaIndex、CrewAI、Pydantic AI、OpenAI Agents SDK、Google ADK、AutoGen 等智能体框架,还有 n8n、Zapier、Dify、Flowise 等低代码工具。
其他实用能力还包括:默认多语言保留原文("张伟"不会被转写成拼音)、可选的 Memory Defense 策略按 45 种模式扫描密钥和个人隐私信息,命中即脱敏或直接拦截。官方也坦言,对于简单的工作流,Hindsight 可能过重——它的目标用户是需要处理开放式任务、能根据反馈调整行为、接近人类员工工作方式的"AI 员工"型智能体。