我们这期视频播客的嘉宾是盛颖,xAI前推理团队负责人、开源推理引擎SGLang发起人及RadixArk联合创始人/CEO。
在开源模型集中爆发之际,盛颖在AI Infra(基础设施)领域的研究和贡献非常核心。她将AI Infra描述为“浪漫的关系”,是产品本身,需要有“美感”。
由此,我们走进盛颖的世界。
她曾经想成为一个数学家,沉浸在一个确定、纯粹、仿佛“与世界无关”的世界里。
但从哥大到斯坦福,从形式化验证到 AI Infra,盛颖一路经历的并不是外界看到的连续发顶刊的高光,背后是不为人知的寻找方向、迷茫、停滞、低谷和重新出发。她逐渐意识到,自己无法勉强去做一件不感兴趣的事;只有真正被一个问题吸引,她才能进入高度专注的状态,并把它做到极致。
SGLang,是这条研究路径的集大成者。它从一个学术项目成长为面向真实生产环境的开源推理引擎,也把盛颖从研究者带进了更复杂的工程、组织与产业世界。
在早期的xAI,她获得了难得同时存在的“support”和“freedom”,参与搭建生产级推理系统。但随着SGLang社区迅速扩张,仅靠开发者在业余时间维护,已经无法支撑项目继续向前。为了让这件事真正走下去,她选择离开xAI,创立RadixArk。
这期节目,我们从盛颖眼中的数学之美、论文和低谷聊到SGLang、xAI与RadixArk,也聊一个人如何逐渐理解自己的天性,并决定不再与之对抗。
盛颖说,她在乎的不是“making impact”,而是那些她认为正确的事情,最终有没有发生。从“世界与我无关”,到“想要构建那个跟强力AI共存、且人类不会输的未来”,这,是盛颖的故事。
显示更多