Lonely (@Lonely__MH) “🚀姚老师又双叒叕开源了！ 这次带来的是：自部署中转站监控系统！ 专治各种API中转站” — TopicDigg
Lonely
@Lonely__MH
加入 December 2014
0 正在关注 0 粉丝
🚀姚老师又双叒叕开源了！
这次带来的是：自部署中转站监控系统！
专治各种API中转站痛点，直接一网打尽。
实时监控健康率、真实延迟一目了然，彻底告别盲选！
开源地址见下方 👇，速度一键三连部署起来！
显示更多
这是一个面向 AI API 中转站的开源监控及专属网关管理系统：TokHub
迭代了一个月，和 @vista8 讨论后，我们决定开源给大家，欢迎下载本地部署，也可以直接使用
（文末附GitHub链接和TokHub网址）
核心做了几层能力：
1、公开监控和通道详情
可以看已监测的API通道的状态、成功率、延迟、模型、价格和健康评分
2、L1 / L2 / L3 分层探测
L1 看 DNS、TCP、TLS、HTTP 连通性
L2 看 API Key、模型列表和模型可用性
L3 直接做一次最小真实生成，用来判断“入口正常但模型实际不可用”的情况
3、用户工作区和私有通道
用户可以收藏公开通道，也可以接入自己的 Endpoint 和 API Key
私有 Key 加密保存，按组织隔离，不把用户自己的上游暴露给平台后台
4、一键生成个人专属网关
可以把多个平台通道和私有通道，聚合成个人专属网关，供自己的Agent或者自己的AI客户端统一调用，按延迟、成功率或成本做路由，并记录 Token、延迟、成本、错误类型和审计事件
TokHub 现在提供 Docker 自托管部署，包含 PostgreSQL / Redis、生产预检、备份恢复、安全扫描和发布检查
可以把它当作公开监控站，也可以用作自己或企业内部的AI网关
也欢迎在它上面继续二次开发自己的API服务导航
GitHub地址：
TokHub网址：
显示更多
