B.AI (@BAI_AGI) “📢 https://t.co/mTw8ldBplF 计费引擎全面升级：Prompt Caching（上下文缓存）精准计” — TopicDigg
B.AI
@BAI_AGI
Accelerating the Advent of AGI. To become the foundational financial infrastructure for the AI Agent era.
Telegram Group:
加入 May 2021
532 正在关注 261.4K 粉丝
📢 计费引擎全面升级：Prompt Caching（上下文缓存）精准计费现已上线
全面兑现「全线模型官方零差价」的承诺，我们的底层计费系统在今日凌晨完成了重要升级，全面适配最新大模型的缓存计费机制：
🔹 精准的缓存折扣： 系统现已支持动态识别上下文缓存命中状态。当您的请求命中缓存时，将自动享受等同于官方的调用成本（最高可节省 90% ）。
🔹 计费核算更准确： 底层费率统计逻辑已全面修复与更新。现在，您在 Usage 页面看到的每一笔 Credit 消耗，都已精准包含缓存命中后的抵扣，真正的零差价，每一分算力消耗都清晰透明。
无需修改代码，立即享受更低成本、更低延迟的智能体交互体验。
探索最新模型： 🔗
显示更多
