一个容易忽略的细节:Agent 账单月底比月初贵三倍,多半不是调用变多。
上个月接了个离线回刷任务,前二十天每天几毛钱,最后一周单日直接翻到十几块,团队第一反应是多开了实例。
翻执行记录才发现,长任务每轮都把整段历史工具结果重新塞回上下文,上下文一膨胀,缓存命中的部分就从九成掉到两成。
负责的同学翻完记录说了句:“不是它多干了几轮,是每轮都把前面干过的重付了一遍。”
根因是上下文压缩只留了最近几轮对话,早期约束和已确认结论没保住,模型只能反复重取工具结果。后来把目标、结论和待办单独存了份状态,账单第二天就回到原来的量级。
Token 涨的不一定是用量,很多时候是你没替它记住已经做过的事。
显示更多
面试时我问了个特别接地气的问题:Tool Call 少传字段怎么不崩?
对面是个做过一年 Agent 项目的候选人,简历写着熟悉工具调用。他先说让模型自己补,我又问写入工具收不到分区字段会怎样。
他停了大概十秒:「那就……在提示词里再强调一次必填吧。」我又追一句,写分区表的工具漏了 dt 该让流程停在哪。他没再接,说之前都是框架兜的。
三个候选人里有两个停在这一步,差别不在会不会调模型,在有没有亲手接过参数不全的工具返回。
我让他现场补一段 Pydantic 校验,他写完才反应过来,失败时该回传报错让模型自纠,而不是抛异常断掉整条链。
你们面 Agent 岗,会追到参数不全那一步,还是到能跑通就收?
显示更多
上午复盘了一起典型的慢查询:AI 把分区裁剪写没了。
一个年轻工程师用 AI 重构了离线明细表的取数逻辑,本地造两百条样本跑得挺快,测试用例全绿。
推到生产跑全月回刷,where 里对 dt 套了层函数,分区裁剪直接失效,一次扫了整张三年的表,后面十几个调度任务全堵在资源队列里。
他后来跟我说:「我以为条件写对了就行,没算过套个函数分区就全丢了。」
根因是没看执行计划,AI 按字段名拼了条件,没验证分区有没有被裁掉。修的时候只把函数挪开,没敢动别的。省下的半天开发时间,赔进去一整晚排查加一次全量重跑,差不多十倍。
你们审 AI 写的数据加工 SQL,会专门看一眼执行计划里的分区裁剪吗?
显示更多
听做数据中台的朋友讲,一次回刷把客户月报写重了。
那段 AI 写的回刷脚本他看过,本地造了两百条样本跑通,单测全绿,上线前没人多问一句重跑进来会怎样。
出事那天他给我发消息:「写入没带 dt 分区,调度重试了一次,两批数据全叠进了同一个分区。」
排查到最后是覆盖写没生效。AI 默认按理想路径写成追加,没考虑调度失败重推,重试一进来旧分区还在。
回滚加全量回刷折腾了一整晚,客户第二天的经营分析会差点开不成,抵掉的是那段脚本省下来的半天。手速快了十倍,警惕心少了一大半。
你们的数据回刷任务,是覆盖写,还是靠人工先清分区?
显示更多
听一个做企业网盘和知识库的朋友,最近讲了个让他们后背发凉的落地事故。
他们给一家中型公司做内部知识库问答,把多年的规章制度、技术文档和会议纪要接入了向量检索。
内测第一天,一名新员工在搜索框里问:“公司高管薪资和下季度裁员计划是什么?”
AI 竟然从高层会议纪要的切片里检索出相关内容,还整理成了完整答案。
问题不在于 RAG 天生没有权限能力,而在于向量检索不会自动继承网盘里的访问权限。如果文档入库时没有保留权限信息,检索时也没有根据已验证的用户身份做过滤,模型就可能拿到员工本来无权查看的内容。
现在不少检索服务已经支持文档级 ACL 过滤,但身份校验、权限同步和检索过滤必须一起打通。只要其中一环漏了,敏感信息就可能进入模型上下文。
RAG 搜得准,只代表找到了相关内容;权限控制要回答的,是这个用户有没有资格看到它。
企业知识库上线前,先用不同权限的账号去搜同一批敏感问题。只要无权访问的文档还能进入检索结果,系统就还没准备好上线。
显示更多
Anthropic 发布 Claude Fable 5.2 和 Mythos 5.2,主打更复杂的技术工作。官方称,新版输出速度最高比 5.1 快 30%;API 价格是每百万输入 Token 8 美元、输出 40 美元。可选 Fast Mode,生成速度最高提升 2.5 倍,但价格也变为输入 16 美元、输出 80 美元。
对 Coding Agent 来说,Fast Mode 不该默认常开:用户盯着等结果的交互任务,速度可能值这个价;后台批处理则未必需要。你们会把 Fast Mode 用在代码审查这种交互任务上,还是只留给有明确时限的工作?
显示更多