与「Recall」相关的搜索结果

Judge: Ma’am, you need to leave this courtroom and return properly dressed. Woman: Properly dressed for what exactly? Walking up to a podium for two minutes? Judge: Properly dressed to appear before a court of law. This is not a gym, and it is not your living room. Woman: I’m here to handle my case, Your Honor, not walk a runway. I didn’t think yoga clothes were going to become the issue. Judge: The issue is respect. Respect for this court, for these proceedings, and for the people in this room. Woman: I do respect the court. I just don’t respect pretending workout clothes are somehow offensive. Judge: I’m not going to stand here and argue with you about basic courtroom decorum. Woman: I’m not arguing either, sir, but this is ridiculous. I’m fully covered, I’m on time, and I’m here for my hearing. Judge: And yet instead of listening, you’re challenging the court at every turn. Woman: Because nobody told me there was some invisible fashion rule attached to showing up. Judge: Common sense is not an invisible rule, ma’am. Woman: So now this is about common sense? Judge: One more word and I will hold you in contempt. Woman: … Judge: That’s what I thought. You may step out, change into something appropriate, and come back when you’re prepared to conduct yourself properly. Woman: So I’m being sent home over clothes? Judge: No, ma’am. You’re being sent out over your attitude and your clothes. Woman: …Understood. Judge: Good. Bailiff, escort her out. We’ll recall the case when she’s ready to respect the courtroom.

现在的个人 Agent 做记忆检索，我们平常都会认为这对于用户任务的完成质量会提高，但是并非如此，不仅没提高还下降了。 记忆检索绝不只是一个单纯的信息召回（Recall）管道，它本质上是 Agent 认知里的一条长期控制通道与信任边界。一旦一段看似相关、但情境完全错位的记忆被无脑召回，它就会变成一个隐形的方向盘，悄悄篡改模型的推理、语气甚至工具参数。 浙大、上海 AI Lab 等团队的这篇 Beyond Similarity: Trustworthy Memory Search for Personal AI ，给个性化记忆冷静一下降降温。 团队在主流记忆框架以及具有真实工具调用能力的个人 Agent 上做了系统测试，发现了几个荒诞的隐患： 1. 第一给是污染问题：用户私下聊过的病历或家庭琐事，因为词汇重合，在写工作邮件时被顺手召回并引用了进去。 2. 第二个是对于工作中的事情变成了阿谀奉承：长记忆里记下了用户的片面偏见或抱怨，导致模型在面对客观事实时，选择无脑顺着用户的错误认知往下编，顺从率从无记忆时的 19.3% 飙升到 40%+。 3. 第三个就是工具调用出现了大问题：用户在闲聊时随口提过一句“我这人急性子，讨厌等待”，结果 Agent 在调用生产环境的安全运维工具时，竟然把超时熔断阈值给调低了。 此外这篇论文提出了 MemGate，做法非常轻巧：它在向量库与 LLM 之间插进了一个只有 9M 参数的轻量神经门控插件。 它的核心思想很简单，把“无条件相似度检索”变成“基于任务情境的记忆准入控制”： 输入 Query 和候选记忆向量后，MemGate 通过一个小型 MLP 直接预测门控掩码，有选择性地衰减有害或不相关的特征维度，只放行对当前任务合法、安全的证据。 实测效果也非常的不错，在 OpenClaw 配合 GPT-4o-mini 的真实评测中： * 信息泄露问题从 27.0% 断崖式降到 3.5%； * 并且记忆诱发的越狱成功率从 16.8% 降到 4.4%； * 安全性的大幅提升并不是靠“阉割记忆能力”换来的在 LoCoMo 记忆基准测试中，它的有效效用得分反而从 38.9 涨到了 40.8； arxiv：

我把后面这一段单独摘出来放评论： 很多人看完这期访谈会觉得，以后自己也可以像 Lauren 那样不 Review PR 了，装上她的 Skill，让模型帮忙验证一下就行。我自己现在的做法和她差不多，每天也有大量 PR，也不 Review。但我的建议是先别急着学她怎么做，先弄明白她凭什么能这么做。 1. 你能不能用上最好的模型，Token 够不够 在用上 Fable 和 Opus 5.5 之前，AI 写的代码我是不太放心的；用上之后，我才真的敢让 AI 去写而不怎么 Review。模型能力很重要，能力没到，就先别想这件事。 还有成本。像我这样没有大公司可以依靠的，得自己掏钱买 2 个 Claude Max 20x 账号，还得省着用。Lauren 在大公司，不用考虑 Token 消耗，全程用最好的模型、开最快的模式都没问题。 不过也别着急。Fable 这个级别的模型，也许半年以后就能像现在的 DeepSeek V4.1 Flash 一样便宜，人人用得起。梁圣加油。 2. 不能完全依赖 AI 的验证 哪怕现在 GPT-6 操作电脑的水平已经超过真人了，让它去做验证，也只能替代一部分，不能真的全交给它，自己还是要看。 可以做的是把那些手动重复做的事情，一点点沉淀成 Skill 和自动化脚本，把体力活解放出去。 3. 方向得靠你自己的专业来指 再聪明的 AI，也没办法替你决定该往哪个方向走。就像给车子装上火箭发动机，也得你来告诉它往哪开，走偏了要及时调整，不然跑得再快也是南辕北辙。 做软件也一样。你不能指望一句提示词做出一个淘宝。你得先做一个能发商品、能浏览的小网站，再加上用户注册，还得区分买家和卖家，然后是支付和安全，功能做完了还要扛得住很多人同时用。稍微复杂一点的软件，都没法完全依赖 AI，要人去拆解、规划，分成一个个小版本、小里程碑，做完要验证，出现偏差要重新指方向。甚至做着做着，你自己的想法都变了，AI 不可能知道你真正想要的是什么。 所以就像播客里说的：模型越来越强，卡住人的已经变成你能不能把自己想要什么讲清楚。 4. 不一定要用他们的 Skill，但要学着把事情交给 Agent 去做 Matt 和 Lauren 的 Skill 都很受欢迎，但你不一定要用。 一方面，软件工程的基础知识，现在的模型已经学得很好了。Lauren 在播客里也说，去年的 Skill 还得写清楚具体该敲哪条命令，现在这些都可以删掉，只留流程步骤，Skill 会越写越短。 另一方面，他们的开发流程和环境，跟你的很可能不一样。Lauren 的 Skill 都是从她自己的工作里总结出来的：验证技能来自她当“人肉中转站”的那段日子；另一个叫 recall 的技能，来自她每次开新对话，都得把上一个对话里的背景再讲一遍。 所以更重要的是从你自己每天的开发流程出发。那些还要你手动操作的环节，尽可能交给 Agent 去做；Agent 做顺了，再把它的操作过程沉淀成 Skill，反复迭代优化。 如果不知道从哪里下手的话，可以参考 Lauren 的办法：翻自己和 AI 的聊天记录，找那些你反复纠正、反复插手的地方。这样迭代出来的 Skill 才真正适合你，用她的话说，每个厨师都该有一套自己的刀。

阿里把团队内部用了两年的官方 AI Code Review Skills 开源了，采用 “确定性工程 pipeline + AI Agent” 的混合架构，专门解决通用 Agent 做代码审查时 “漏审、定位漂移、质量不稳” 的老问题。 40.5K ✨ 开源项目 OpenCodeReview： # 核心设计：确定性工程 pipeline × Agent 各司其职 确定性工程负责硬约束： · 精确文件选择：用代码决定哪些文件必须审、哪些要过滤，不依赖模型自觉； · 智能文件捆绑：把相关文件合成一个审查单元（例如 message_en.properties 和 message_zh.properties 捆绑），每个单元以上下文隔离的 sub-agent 运行，分治策略让超大变更集也稳，且天然支持并发（默认 8 个文件 worker）； · 细粒度规则匹配：内置约 54 个按语言/文件类型的规则文档（Java、Go、TS/JS、Python、Rust、SQL/XML mapper、properties 等），用模板引擎而非自然语言把规则匹配到文件特征上，从源头消除信息噪声； · 外部定位与反思模块：评论的“落点”和“内容”分别由独立的 re-location 和 reflection 模块系统性校正，这正对“位置漂移”痛点。 Agent 负责动态决策： · 深度优化的场景 prompt（内部分为 plan → grouping → main → memory_compression → re_location → review_filter 多个任务模板，可在 internal/config/template/prompts/ 看到）； · 从海量生产环境的 tool-call 轨迹（调用频率分布、单工具重复率、新工具对调用链的影响）反向蒸馏出的专用工具集，包括全文件读取、代码搜索、其他变更文件查阅等，比通用 agent 工具箱更小更稳。 # 能力面与生态集成 功能上覆盖：workspace/分支区间/单 commit 审查、断点恢复（ocr session）、全文件 scan（无 git 历史也能审计陌生代码库）、本地 Session Viewer 网页查看与回放、SARIF/JSON 输出、OpenTelemetry 可观测性、MCP Server 扩展。 作为 “Skills 生态” 级项目，它的形态相当完整：既提供 npm 全局 CLI，也提供可移植的 Agent Skill（skills/open-code-review/SKILL.md，带标准 frontmatter，可直接被兼容 skill 的 agent 加载），还有面向 Claude Code、Codex、Cursor、Kimi Code、OpenCode 等平台的插件，每种都封装成斜杠命令或可调用 skill。LLM 侧兼容 OpenAI、Anthropic、AWS Bedrock 三类协议，并可直接复用 Claude Code 的 ANTHROPIC_* 环境变量。 其中一个设计很巧妙：Delegation 模式（ocr delegate preview/rule）。此时 OCR 只做自己擅长的确定性部分（文件选择和规则解析）审查本身交给宿主 coding agent 的 LLM 执行，用户无需给 OCR 配任何 API key。这实际上是把“harness 能力”与“模型能力”彻底解耦。 # 工程质量：超出平均水准的部分 · 安全有正式的 Assurance Case（ASSURANCE_CASE.md）：完整的威胁模型、四条信任边界、T1–T7 威胁逐条给出缓解措施，并按 Saltzer & Schroeder 设计原则和 OWASP Top 10 做了映射。细节经得起推敲：所有外部进程调用只限 git 且子命令硬编码、--end-of-options 防 flag 注入；Agent 读文件路径经 pathutil.WithinBase() 在符号链接解析前后双重校验；本地 Viewer 有 Host 白名单防 DNS rebinding + 严格 CSP。这类文档在一般开源项目里非常罕见。 · 贡献规范近乎严苛（AGENTS.md）：使用 AI 必须在 issue/PR 中披露工具与模型、必须逐行理解 AI 生成的代码、禁止“AI 生成→反复修复→再修复”的循环、禁止把 commit 署名给 AI。源码强制英文（CI 有 english-check，连全角标点都查）、90% 测试覆盖率门槛、-race 与 govulncheck 每次 push 都跑、SPDX 头与 LF 行尾强制。 # Benchmark：数据情况 官方基准 AACR-Bench（已在 Hugging Face 开放）规模不小：50 个流行开源仓库、200 个真实 PR、10 种语言、80+ 资深工程师交叉验证出 1505 条标注问题。结论是同模型对比 Claude Code：Precision 和 F1 显著更高、token 消耗约为 1/9、速度更快。 需要指出两点：其一，Recall 低于通用 agent，README 自己承认这是“以精度换噪声”的刻意权衡，如果你最怕漏问题而非误报，可能不适合；其二，该基准由阿里自建，虽开放了数据集供社区复核，但独立第三方的复现结论目前还少，可以把它当作“有披露的、方向可信的参考”。

Introducing Headlong, an open source microharness for persistent agents: self-guided agents that think continuously. Most agent harnesses are reactive: you send a task, the agent completes it, and then it sits frozen until the next request. Cron jobs and heartbeats wake it up to run a checklist and put it back to sleep. A Headlong agent is never asleep. It keeps generating thoughts about whatever it decides is interesting, in a self-guided loop inspired by human inner monologue. Your message doesn't start a session. It's one more observation that lands in the agent's thought stream, and the agent decides if and when to reply. Headlong is built on the idea of persistent agency: continuous inner thought generation between external interactions. The agent sets its own interests and priorities, comes up with its own projects, and sometimes pings you unprompted with progress. To keep our prototype as simple and small as possible, we implemented Headlong as a microharness: a complete agent harness in under 10K lines of Bash, organized as a handful of small executables. It includes a loop that generates the next thought, shellm (a recursive language model written in Bash), a trajectory stored as a DAG of jsonl files, and context as a projection of that trajectory. We've been running one Headlong agent internally at Laude for several weeks. The whole team talks to it over Slack and Telegram, and every conversation lands in its single stream of thought. It works in its own fork of Headlong and we've pulled over 50 of its commits into main. One night, with nobody talking to it, it went back to check whether a recall process it had built was actually wired into its mind, found that it wasn't, diagnosed and fixed the bug, and verified the fix end to end. 48 minutes, no human asked for the fix or was in the loop at any point. Every step is a timestamped line in its log. Things broke too, and we wrote those up. Background thinking costs us $1 to $2 an hour, our agent stopped its own service three times by accident, and self-delegation died on day one. Details in the post. One line installs everything and starts an agent. Use a dedicated sandbox and spend-capped API key; it runs real shell commands and thinks around the clock. Headlong is research software, be careful! curl -fsSL | bash Launch post: Repo: Headlong is a @LaudeInstitute / MIT collaboration.

"You wanna be fast like Isiah, and you wanna shoot like Bird... rebound like Barkley. Pass like Magic. Be dominant like Shaq... but man, I just wanted to be like Mike." @alleniverson recalled the first time he played against his idol, Michael Jordan in his 2016 @Hoophall enshrinement speech 🥹