注册并分享邀请链接,可获得视频播放与邀请奖励。

Mercy (@Mercy_okx) “24 小时不到,我刚充的 100 美金 Token 烧完了。 AI 到底是在帮我提效,还是换了个方” — TopicDigg

Mercy 的个人资料封面
Mercy 的头像
Mercy
@Mercy_okx
加入 July 2024
0 正在关注    0 粉丝
24 小时不到,我刚充的 100 美金 Token 烧完了。 AI 到底是在帮我提效,还是换了个方式让我烧钱? 最近用 agent 做研究和策划,我想要的工作方式是:只对接一个 agent,它负责推进,卡住了来找我,需要我决策时再叫我。 但钱花得太快,也让我开始想:我付的钱,有多少是在买产出,有多少是在买 AI 反复协调、查进度、读旧资料? 查了一轮英文资料和重度用户的复盘,梅西找到两个值得检查的地方👇 ① 你的 AI 在干活,还是在不停开会? Reddit 上一位叫 Dayowe 的用户分析了自己 Codex 的运行日志。改造工作流后,每小时原始 token 消耗从约 4,040 万降到了 2,230 万,下降约 45%。 最有意思的是:平均每次请求的 token 没变少,反而略多了 主要减少的是总请求次数。 他原来的方式,是一个长期运行的统筹 agent 管到底:分派任务、调查问题、检查进度、审查结果,上一阶段的历史也一路带到下一阶段。 后来改成: 轻量协调者只管任务依赖、授权和下一步;每个阶段交给单独的执行统筹,完成后保存交接信息,下个阶段只带必要上下文。 同时减少无变化的进度查询,不再提前审查还没完成的工作;长日志留在文件里,需要时再读。必要测试和独立验收仍然保留。 它提醒了我一件事: 我只想对接一个入口,不代表这个入口需要参与每项工作的每一步。 要检查的,不只是“每次用了多少 token”,还有“为什么需要调用这么多次模型”。 ② 同样让 agent 操作电脑,用什么方式,成本可能差很多 一种是像人一样看屏幕:识别截图、找到按钮、点击,再看截图确认。多轮下来,图片输入和反复判断都会产生 token 消耗 另一种,是通过命令行或脚本直接处理任务。命令行是用文字给电脑下指令,脚本则是把一组操作步骤写好,让电脑照着执行 比如从表格里筛选订单,AI 可以直接写一段命令,让电脑读取文件、批量筛选、保存结果,不用打开软件,一页页看、一格格点 区别在于:前者需要 AI 反复看、反复判断;后者由电脑执行指令,AI 再检查结果。AI 写脚本、检查结果会消耗 token,但电脑按规则处理每一行,不需要逐行再调用模型。 当然,不是所有任务都适合脚本:读取外部数据要有可用接口和权限;检查排版、确认页面效果,仍然需要看界面。如果脚本内部还是反复截图,或者每处理一条内容就调用一次 AI,也不一定省。 所以思考“这一步到底需不需要模型参与”也是优化 token 消耗的一个必要步骤 能按规则完成的,交给程序;需要理解和判断的,交给 AI;重要决策和授权,留给人。 工具要会用,新东西也要继续学习!顺便插播一条预告😂 10 月 6 日 OKX NOW 产品发布会,星球也有直播。不能到现场的朋友,可以来星球一起看看这次会发布什么,也聊聊哪些是自己真正用得上的。 看直播还有机会抽 iPhone DUO📱!!
显示更多