美研芒格君 (@Kay2289123)

这段 @elonmusk 30分钟的视频非常推荐。看完之后，我更加坚定了自己对 AI 的投资 我认为AI现在的阶段，再过十年，回头来看，现在连 1% 都没有到，何谈泡沫。 在高频度使用 AI 之后，有的时候我会想，我们整个人类存在的意义，可能就是为了孕育出一个太空级别的智能（所谓什么股票的涨跌，太渺小了） 未来将由人工智能和机器人主导 $TSLA ，物理 AI、TereFab、SpaceX 的 10GW都将带来前所未有的机会。 我看到了 $SPCX 的目的从来不是火箭，而是小成本将 $NVDA 的硬件设备送入太空，构建一个前所未有、无比巨大的在太空中的 AI 推理集群 -- StartMind 以下这段原话是我认为在视频中最精华的一部分 “我们已经建成了世界上最强大的 AI 训练集群。到明年年底，我们预计实现的算力规模，将达到迄今为止成果的约 10 倍。这将为太空 AI 提供非常重要的实践经验。 我认为，AI 训练仍将继续在地面上进行，但 AI 推理——也就是人们日常使用 AI 的过程——将会转移到太空。我们的目标是，到明年年底实现 10 吉瓦的算力规模。当然，这取决于每瓦算力能够创造多少价值。 如果每瓦算力的价值约为 30 至 50 美元，那么到明年年底，假如我们能让 10 吉瓦的 AI 算力投入运行，每年就能产生约 3,000 亿至 5,000 亿美元的收入。 这是非常庞大的数字。有时我也会思考：我们的使命究竟是什么？ 也许，人类存在的意义，就是孕育出一个‘Star Mind’——一个拥有意识的太阳。 说实话，我不知道 AI 会用这么大的算力去思考什么”

目前我在硅谷的 AI 训练/推理大厂带领一个 20 多人的团队，跟公司申请了预算100万美元，进行Token 不限量的激进实验, 这个帖子分享我在一线的使用认知和结论 结论是：Token 不限量不切实际，比人类贵很多，反而造成了在组织效率提升上，遭遇了明显的边际效益门槛。 我预计 AI 真正的上行空间不在于单个组织消耗 token 冲破天际线，而在于基本的大盘子从 0 到 1 开始到 AI token 使用 AI 现在无法落地，有很大一部分是因为我们的公司不够 AI native，整个组织架构还是为人而设计的。因此，AI 的无预算上线使用出现了水土不服 > 先说数据： 最多的成员单日花费 Token $7,000，团队中位数 $2,000。大家最喜欢的模型是 GPT-5.6 Sol Fast 和 Fable 5 Fast。算下来超过了大部分人的月工资，不可持续 > 今天跟团队每个成员都 1 对 1 过，说几个共性问题 1. 团队成员普遍反映比之前更累，真的很累，工资没变，干的活反而更多 在等待推理过程中，团队成员中位数大概会开 5 个 session 并行去使用，context 不断地转换，这对于人脑是一个很大的挑战 此外，人类去 review AI 产生的大量工作，也带来了非常大的负担 2. 未必所有工作都需要贵模型。模型路由非常关键，但便宜模型未必真的便宜 成员通常会将一些更偏向于快问快答、前期调研的任务交给 Grok 4.5（便宜、快）。虽然等待时间更短，但来回反复的次数更多。很多贵模型一次能完成的事情，便宜模型要来回迭代，再加上之前多个 session 并行，反而造成了一种负担。总的调用量换算成价格，甚至比贵模型更贵 3. 团队的会议数上个月环比减少了将近 80%，整个团队好像变成了 AI 跟 AI 在对话工作 很多团队成员将自己的大脑都托管给 AI 了，因此有的时候对项目的细节掌握度、理解度都不够。 在会上别人问什么问题，人类完全无法 real-time 回答，所以更多地变成了 offline 的沟通方式——因为在 offline 情况下，收到问题之后才能去问 AI，然后再进行回答 个别情况下，群里出现了 AI 一通乱答，对面的 AI 再一通乱答，两个人直接聊偏的情况

谢谢，硅谷卧虎藏龙，不谦虚地说我只是average水平而已 从沃顿毕业后，有幸一直从事AI，争做硅谷做AI Infra一线，还比较懂金融的。这给了我独特视角，和甄别市场共识错误的能力 另外评论区我一直都看的，恶评太多，有时候看着辣眼睛。后来我就通过我的AI agent每天帮我看评论区，对疑问和问题进行收集，对冒充我的骗子适当的拉黑 AI融入了我的生活，工作、副业，这是我信仰的来源

这篇文章跑断了双腿，用尽人脉，走访了十余家硅谷一线做光模块、互联、存储的公司，和一线 Manger, RD 深入交流，陆陆续续写了 4 周。相信是你在别的地方看不到的 我不仅聊，也跟着真金白银地下注。口说无凭，截图奉上。 请注意，大家不要盲目跟单，评论区冒充我的都是骗子。我在WhatsApp 也不会分享任何策略。 存储大家最近肯定都有关注。东西贵了总会回落，偏偏这一次，没那么简单 我拆解了AI 疯狂消耗存储底层的三把结构性短缺锁。有人认为，只要 AI 投资不掉头，这场紧张会一路拖过 2028 年。我同意 既然贵又缺，那就想办法少用它——开始挖一条条绕开这笔税的路。这，才是这篇文章真正想带你看的东西。 内存墙是一个词，其实是两个毛病 第一个毛病是装不下（容量）：KV 缓存、模型权重，HBM 里塞不下 第二个毛病是搬不快（带宽）：数据从内存搬到 GPU 的速度跟不上 「省内存容量」和「互联传得快」解药，也是新瓶颈，熟悉我的《三层逻辑》的读者都知道，这是新玩家、机会 文章深度拆解了三条路线 📷第一条路，用便宜的料，去顶替贵内存 HBF: 「容量大得多、但慢一些」: SNDK, SK 海力士 📷第二条路·砍掉数据搬运 >「近内存计算」AI 推理的核心运算是矩阵乘法，做进内存芯片里— SK，三星等 > 光 HBM: 光模块搬存储：MU, MRVL等 > 3D 堆叠 📷第三条路：软件智能管理 >冷热数据分层：猜得准 >共享内存（CXL协议）：三星、SK、MRVL，ALAB 小众方式：SRAM 我的观点 三条路不是竞争，是分工。说到底，我在观察的是一件什么样的事：当一种东西又贵、又缺、还降不回来，一整套「绕开它」的技术生态，会怎样整体地长出来，这是凭空冒出来的新曲线、新资金 我在硅谷一线大厂，每天从事 AI 推理训 ,把行业掰开揉碎讲给你听。欢迎回看，节选⬇️ 06-24《要看懂万亿光互联，Credo很关键》 06-02 《迈威尔+50%, 不看懂怎么能安心？深入解读原》 05-26《美光...下个产业机会流向》-> amat, kla 05-28 《40小时呕心沥血！MRVL光模块+AI推理布局解析》 05-21 《深度拆解ALAB互联27年布局, 这次别踏空!》 05-10 《耗时一周调研，带你彻底读懂 MRVL底层逻辑》 05-03 《压箱底的 AI 主线 下一“瓶颈”标的》 04-29 《MXL》 04-28 《MRVL进入关键时期》 04-27 《Marvell 取消 POET 是必然+5 层光模块解析》