与「流量」相关的搜索结果

【NVIDIA NeMo Switchyard在Amazon Bedrock上为编码智能体请求分配合适模型】 AWS机器学习博客11月13日发文，6位AWS和NVIDIA作者介绍在Amazon Bedrock上为编码智能体做模型路由。 作者主张用每个解决任务的成本衡量路由，而不是每个token的单价。 示例把开源网关LiteLLM和Switchyard插件部署在Amazon ECS Fargate的私有子网里。 LiteLLM通过Bedrock Converse API调用模型，流量经过VPC接口端点进入Bedrock。 能力较强的模型使用Claude Opus 5.5，高效模型使用NVIDIA Nemotron 3 Super 120B。 Stage策略读取近期工具结果在两个模型之间选择，信号不明确的时候默认使用高效模型。 Random策略按照权重分配流量，适合A/B测试，两种策略都不调用评判模型。 作者表示只在两个任务上跑了几次，不足以得出成本或者质量结论，示例只适合非生产账户。 我觉得现在只给了部署模板，团队需要自己用bench脚本量出每个任务的实际成本。 来源：AWS Machine Learning Blog · 2026-11-14

让 Claude Code 跑一会儿额度就见底，翻回去一看，大头根本不是你说的话，是它自己 grep 出来的几百行结果、一整坨日志、重复的 JSON，每一轮都原样塞回给模型。 Headroom 管的就是这块。它在本地把工具输出、日志、文件、RAG 片段先压一遍，再发给模型。 现在 7.9 万多星，今天在 GitHub Python 日榜上，10 号刚发 v0.44.0。 README 里我觉得比较有用的： 1. 不用改代码，headroom wrap claude 一条命令就把 Claude Code 套上，Codex、Aider、OpenCode、Kimi CLI 也能这么接，不想用了 headroom unwrap 撤掉 2. 官方实测四个 agent 场景省了 21% 到 57% 的输入 token，重复的 JSON 和日志能压掉九成以上 3. 压掉的原文都缓存在本机，模型需要细节时自己调 headroom_retrieve 取回来 4. 还能压输出：开 HEADROOM_OUTPUT_SHAPER=1，让模型少说"好的，我来……"这类开场白，默认是关的 压缩在本机跑，内容不会发出去。uv tool install --python 3.13 "headroom-ai[all]" 就能装，Apache-2.0，Cursor 得手动配。 大段正文、本来就很密的输出基本压不动，省多少看你的流量有多啰嗦，跑一下 headroom savings 就知道了。

Gemini 4 Carbon 写作确实牛逼 让它总结了 Next Token 过去 9 期 30 条 AI 领域的核心认知： 1. Token 就是新货币；买一台本地机器跑模型，本质上是在家里铸币。—— 橘子 2. AI 没有泡沫，只有受制于物理基建的供给不足。—— 歸藏 3. 在 AI 时代，别羞于承认自己是卖 Token 的——你不卖 Token，还能卖什么？—— 橘子 4. 好应用不必让用户每次打开都烧 Token；用品味把大量 Token 一次性凝结成无数人能反复消费的作品，边际成本才会降下来。—— 向阳乔木 5. 对大多数人来说，Vibe Coding 不是生产力，而是自由度最高的创造类游戏；充进去的 Token，就是新时代的游戏充值。—— 歸藏 6. 只要 AI 把一件事的起跑线拉到六十分，六十分就是零分。—— 橘子 7. 当一件事靠一句话就能搞定时，凭什么它是你的壁垒，又凭什么它是我的？—— 歸藏 8. 软件和游戏正在网文化：平台不再卡发布，只卡推荐；谁都能上架，但没流量就无人看见。—— 歸藏 9. 按昨天的标准做出来的东西，今天 99% 都只算自用工具；市场扩大了一百倍，但依然只有最头部的 1% 配叫商业产品。—— 杨攀 10. 产品未必是一个 App；只要跑通“发现需求、创作、分发”的闭环，一篇文章、一档播客也是产品。—— 歸藏 11. 当开发只要十分钟、打包签名却要半小时，真正的瓶颈就不再是智能，而是旧世界的交付规则。—— 橘子 12. 过去是软件把 Agent 塞进自己的界面；未来是软件放弃自己做 Agent，主动变成 Agent 调用的插件。—— 杨攀 13. 传统软件思维喜欢把每条路径写死；AI 原生思维只留一个循环，把剩下的交给模型。—— 杨攀 14. 软件上的按钮越少，离 AGI 越近。—— 橘子 15. 面对超级助理，人只该负责说话，不该负责管理会话；需要人手动翻找线程，只说明模型还不够强。—— 橘子 16. 工具随时会换，上下文必须归自己所有——劫持所有 Agent 的记忆，把过程和产物沉淀回自己的仓库。—— 歸藏 17. 人类团队正在向一人闭环演进，别反过来让多 Agent 学人类开会内耗——人类在走向 AI Native，别让 Agent 退回 Human Native。—— 橘子 18. 上一代生成模型在卷“理解”，死磕最后百分之一的物理还原；新一代模型赢在“创造”，一句话把意图编排成完整的故事。—— 歸藏 19. 输出格式不报错，只代表不用重试，不代表判断正确——别把“结构稳定”偷换成“没有幻觉”。—— 杨攀 20. 不能调工具、不能动电脑的所谓 Skill，本质上还是一段提示词润色。—— 歸藏 21. 今天限制模型上限的往往是人自己——你写进提示词里的前提假设，恰恰锁死了模型的发挥空间。—— 杨攀 22. 注意力是今天最稀缺的资源；开源的提示词、Skill 乃至软件，唯一的商业价值都是成为流量入口。—— 橘子 23. 跟模型拼技术注定会输；唯有人与人之间建立的信任与个人品牌，不会被技术进步吃掉。—— 橘子 24. 品牌的本质，是用真名、露脸和沉没成本作抵押，降低别人相信你的成本。—— 向阳乔木 25. 所有生意都在建立信任：To B 让企业信你，To C 让大众信你，To A 让 Agent 信你的信源；三者皆无，就只剩悦己的 To Me。—— 橘子 26. 在公网上主动留下关于自己的真实一手信息；你不定义自己，AI 的幻觉就会替你定义你。—— 歸藏 27. 今天最不缺的就是没有性格的内容；持续输出有变化但一致的“人味”，才是稀缺品。—— 歸藏 28. 还按设计、前后端、QA 切岗位的算不上 AI 原生组织；真正的 AI 原生组织里每个人都是全栈闭环的一人公司，而且它是磨合生长出来的，不是 HR 设计出来的。—— 歸藏 29. 大厂把员工拆成稳定的螺丝钉，也就亲手杀死了长出全局架构师的土壤——架构感是操盘练出来的，不是分工分出来的。—— 歸藏 30. 帮企业做 AI 转型，最该做的不是改造基层流程，而是去培训一号位。—— 向阳乔木 以上内容来自：@oran_ge @op7418 @vista8 @ericyangpan @nexttokentv

现在交易所真他妈的不要脸，把web3当菜市场了 谈好的合作款，交付完还能当场砍价赖账？？？ 避雷项目方在此 @Riverbit_ KOL们记得提防 各位 KOL 看到他来找你们接广告，建议谨慎评估 别为了这点广告群 砸了自己的信誉 我找到了以下10 位 KOL 帮他进行宣发 @liaoblove520 @0xLige @liuxiaoling933 @Lxt911 @8x8x8_x @Exianshengde @0xlaofashi @0xchubai @ExploreLaura @wangtuai888 合作前谈好标准、确认名额，前后投入 20 多个小时沟通执行，最终确认 2000 个有效名额，需要向我们结算 6000U 到了付款环节，先拖 4 天，再以转化率不达预期为由，直接砍到 4500U，我们没耐心跟他耗，妥协到5000u 最终结果还是不打款，继续拖着你2天，我们10个kol在群里怎么喊他，老板装死5天不回信息，目前为止没有收到一分钱 合作的时候满嘴承诺，恨不得把你当亲兄弟，等到干完活该付款了，立马翻脸不认账，开始耍流氓 第一次见识到为了几千u，项目还没做成砸自己招牌的 我就想问一句：当初谈时候，转化率怎么不提前说 交付完成了，名额确认了，现在又想临时改规则？ 需要流量的时候装孙子，结账的时候当大爷，这种项目方真够恶心的 这不是预算问题，是契约精神和商业信誉的问题 我想问问这种交易所，还有人敢去交易吗，平台能活几天都是问题 项目可以不做，合作可以不继续，但已经确认的账，凭什么你们想砍就砍？现在躲着不敢露面是当缩头乌龟了吗 最可气的是，我们提出在推特要维权，对方却来了一句，无所谓，想发什么就发什么，第一次见这么狂妄的项目方 我超，完全没把我们当回事，真当我们是傻逼吗？ 这个行业乱象真得管管了吧，也为所有kol发声 大家把我当案例，引以为戒吧，以后合作一定先收预付款，别等干完活才发现，自己成了免费劳动力 下面我将公开全部相关内容，包括合作标准细节、沟通记录，一起看看是什么样的丑陋嘴脸！！！！

下一个风口是红果电商！ 2003淘宝：卖家少，上架就有流量 2013公众号：内容稀缺，爆文涨粉 2018拼多多：下沉流量便宜 2020抖音电商：开播就有自然流 2022视频号：微信闭环，中老年流量 现在：红果电商，流量集中地 共同点就是，平台在增长红利期，大量商家还没入局。 短剧流量、字节算法、边看边买、商家密度低。这些全都是红果的优势。 彼时彼刻，恰如此时此刻，像，太像了！

# 模型缩小四倍还不翻车？不是压得够狠，是量得够准 先说结论：大多数人以为量化是把模型压小一点、省一点显存，压得越狠、省得越多，这个想法只对了一半。量化真正值钱的地方不是省显存，是省钱加变快，模型缩小两到四倍之后，小批次推理常常反而更快，因为瓶颈不在算力，在记忆体频宽，搬的位元组少了，每秒吐出的字元单位就多了。作者第一次把大模型推到真实使用者面前，七 B 模型用十六位元载入，光权重就吃掉十四 GB 左右的显存，帐单难看得很，有人随口问一句要不要试试量化，她当晚掉进一堆缩写的兔子洞，才整理出这篇指南。 先说清楚底线：十六位元每权重两位元组，七 B 模型约十四 GB、十三 B 模型约二十六 GB。压到八位元，七 B 模型约七 GB、十三 B 模型约十三 GB。压到四位元，七 B 模型约四 GB、十三 B 模型约七 GB，模型缩小两到四倍。作者打了一个很准的比方，量化就像把照片从巨大原始档压成调校过的压缩图，手机上看起来几乎一模一样，体积却只剩一小部分。权重就是模型的照片，十六位元是原始档，四位元是压缩图，压得好，大多数人看不出差别，压得不好，细节先糊掉。关键在压得好不好，不在压得多不多。 怎么做？顺序只有一个，先用五分钟实验确认方向，再挑上线或随处跑的格式，最后拿自己的提示词量过再灰度发布。五分钟实验用四位元载入工具快速试，零校准资料、零转换步骤，一个下午就能知道显存占用下降约七成、模型还能不能讲话。显卡上线用服务引擎带量化参数直接起一个相容接口，热门模型在模型仓库里已经有现成的四位元检查点，不用自己压，没有就用压缩工具自己做一个。随处可跑的路是转成通用格式再量化，中央处理器、笔电和苹果晶片都能跑，四位元中档是尺寸与品质的甜蜜点，更保险就往上走五位元或六位元。 小心三件事。第一，压完只跑几个提示词就上线一定翻车，作者就是这样翻车的，结构化资料输出偶尔格式损坏，两天后才被使用者抓到，通用评测完全没抓到。第二，只看困惑度就放行不够，困惑度看起来没问题，任务品质可能已经悄悄下滑，它只能当参考，不能当唯一的验收标准。第三，别以为压完就一定变快，一种格式只有在服务引擎有对应的最佳化核心时才会真的变快，没在你自己的机器上实测过，纸上变快不算数。还要记住，键值快取不随权重量化缩小，长上下文服务照样可能爆记忆体，瓶颈在这里要另外看。 再往上加东西也有顺序：先写五十到一百条真实提示词，对照十六位元基线一条一条比，刻意去测最先崩的几类任务，长上下文、结构化 结构化资料 与函式呼叫、数学、程式码、非英文。验收不是打分数，是找变差的任务集中在哪里，集中在 结构化资料格式就升那类任务的位元，散在各处就整体升一档。真实负载下测延迟与吞吐量，不是空闲显卡上跑一条请求。最后先切一小部分流量灰度发布，没问题再全量，出问题立刻切回十六位元版，不要等到全部使用者都中奖才动手。 一句话：量化不是免费压缩，是一场交易，你只有量得够准，才有资格拿这场交易去换更小的帐单。今晚就能做的事：挑一个你正在跑的模型，用四位元载入工具跑一次五分钟实验，看看显存占用下降约七成之后，它回的第一句话还像不像它自己。 S1哥观点：别再问量化是不是把模型压坏的便宜行事，压坏模型的从来不是量化本身，是你压完只跑几个提示词、看一眼困惑度就敢上线。作者的教训就摆在那里，结构化资料输出偶尔格式损坏，通用评测完全没抓到，两天后使用者才回报。量化真正值钱的地方也不在省显存那一行，是小批次推理反而可能更快，因为瓶颈在记忆体频宽，搬的位元组少了，每秒吐出的字元单位就多了。更值得问的是，你现在跑的那个模型，是卡在帐单、卡在显卡太小，还是卡在速度？那个卡点，决定了你该挑哪种格式、压到几位元。你第一个想压小上线的模型是哪一个？评论区说说。 收藏用清单（照着做）： 1. 先算帐再动手，七 B 模型约十四 GB，压到四位元约四 GB，模型缩小两到四倍，再留键值快取和执行开销的位置。 2. 挑对格式再压，快速实验用四位元载入工具，显卡上线用四位元的两种主流方法，笔电用通用格式，新款卡用八位元浮点。 3. 跑五分钟实验，确认显存占用下降约七成、模型回复正常，再写五十到一百条真实提示词对照十六位元基线逐条比。 4. 刻意测最先崩的五类任务，真实负载下测速度，先切小流量灰度发布，没问题再全量。 转给还在为模型帐单头痛的朋友，压小两到四倍再上线，量得准才不会翻车，他今晚就能先跑五分钟实验。

吴说获悉，Polymarket 工程副总裁 Josh Stevens 宣布，团队已完成基于 Rust 语言重新构建的交易系统 Nex，并开放沙盒测试。内部测试数据显示，与现有中央限价订单簿（CLOB）相比，Nex 的 P99 下单处理延迟由 1.55 秒降至 3.76 毫秒，速度提升约 412 倍，撤单处理延迟由 627.92 毫秒降至 3.20 毫秒。系统每秒可持续处理 10 万条指令，峰值达 15 万条，处理容量较现有系统提升 10 倍。Nex 目前正在与现有交易系统并行运行并使用真实生产流量进行测试，若为期四周的测试顺利完成，预计将于 12 月中旬正式上线。

再看到震惊体 + Fable 5.2 一晚上搓出游戏，睡一觉就复刻了 XXX的帖子我就要吐了，配一段能跑起来的 Demo 视频，然后惊叹号刷屏。为了流量什么都不要了，这些 Demo 就是纯纯用 token 堆砌成的垃圾中的战斗机，太恶心了。

最近看到 IPX 的 FAN SZN 活动，顺便研究了一下这个项目，感觉它想做的事情还挺值得关注。 以前我们聊明星、音乐和 IP，更多想到的是流量、粉丝经济和周边变现。但有个问题一直存在：粉丝为喜欢的作品贡献了播放量、关注度和传播热度，真正赚到商业收益的却往往是版权方和中间渠道。 IPX 想尝试打破这种关系。 它在 Base 上搭建了一套 IP 操作系统，把 IP 代币化、粉丝参与、AI 内容制作、品牌赞助和商业发行放到同一个生态里。简单理解，就是让粉丝不只是围观和消费，也有机会参与到 IP 项目的发展中。 这次 FAN SZN 算是一个不错的体验入口。10 万美元奖励池，原计划为期 10 天，绑定 X、完成 Fan Check、领取 Fan Card，再通过签到、邀请和发布相关推文赚取 Aura 积分，整个流程比较轻量。 另外，活动时间线可能会有调整，具体结束时间和 TGE 安排需要留意@IPXExchange最新公告。 我觉得 IPX 真正值得观察的，不是短期能刷多少积分，而是它能不能把粉丝、创作者和真实商业收入连接起来。毕竟，IP 经济不缺流量，缺的是让参与者共享价值的机制。 #IPXFANSZN#