与「AI基础设施」相关的搜索结果

Anthropic 首席执行官 Dario Amodei 刚刚解释了整个 AI 行业面临的最大问题之一。 根据 Dario 的说法，计算资源是 Anthropic 目前面临的最大商业困境，而这归结为一个简单的问题：当你几乎完全不知道公司两年后将产生多少收入时，你如何规划数十亿美元的基础设施支出？Anthropic 的收入在 2024 年增长了大约 10 倍，在 2025 年又增长了 10 倍。这是惊人的增长，但即使是 Dario 也承认，他们对下一年会是什么样子几乎没有可见度。 与此同时，公司必须在实际需要它们的一到两年之前就锁定 GPU、数据中心容量、电力和网络基础设施。而且这些并不是小承诺。我们谈论的是可能高达数百亿美元的支出，这些支出必须基于需求预测来承诺，而这些预测可能完全错误。这就是事情变得有趣的地方。如果 Anthropic 购买了太多计算资源，而收入没有如预期增长，公司就会面临财务过度扩张的风险。但如果购买得太少，后果可能更糟。 它不仅会难以服务现有客户，还可能在开发下一代 AI 模型方面落后。而这可以说是一个更大的风险，因为今天正在训练的模型将决定公司未来六到十二个月的竞争地位和收入潜力。换句话说，Anthropic 不能简单地等到需求显现后再投资基础设施。到需求变得明显时，可能已经太晚，无法获得竞争所需的计算资源。这就是 AI 基础设施建设与其他大多数传统行业如此不同的原因。公司们被迫在今天做出巨大的资本配置决策，这些决策基于技术进步和未来收入，而这些都极难预测。 @龙虾量化

以后给 AI 智能体配数据库，可能连服务器都不用装了。 Neo4j 前天发布了 Relate，一个专门为 AI 智能体设计的开源嵌入式图数据库。用 Rust 写的，直接运行在应用进程里，不需要单独部署数据库服务器。 它有几个挺有意思的设计： 启动快： 毫秒级启动，适合智能体临时创建数据库，用完就收。 查询快： 内存读取低于1毫秒。 懂智能体： 能自动识别智能体运行环境，返回适合 AI 处理的结构化结果。 防止上下文爆炸： 查询结果太多时自动截断，并明确告诉智能体还有内容没返回。 支持持久化： 不只是内存数据库，也可以把数据保存到文件中。 它还支持 Cypher 查询语言、向量搜索和图遍历。也就是说，智能体不仅能找到相似内容，还能顺着数据之间的关系继续推理。 为什么现在要做这种数据库？ Gartner 预测，到2029年，机器用户将占数据库管理系统工作负载的75%，远高于2025年的10%。 以前数据库主要服务人和应用，现在越来越多的查询、读写和任务执行，可能都来自 AI 智能体。 数据库也得跟着改变：不一定每个智能体都需要一套独立服务器，有时候，一个随应用启动、随应用结束的轻量数据库就够了。 AI 基础设施正在发生一个变化：数据库的主要使用者，可能正在从人变成机器。 #AI# #数据库#

省流： 各位同事，各位股东： 英伟达的人工智能业务由董事会委托我带领推进，已经五年了。我们经历了风风雨雨，各位高管和同事的努力，让我见到了公司达到全球AI计算一流的曙光！由于公司内部立了种种官僚性的流程，以传统半导体思维领导AI基础设施，无论人事和研发立项，都违背了董事会希望英伟达领导全球人工智能基础设施的期望。本人屡屡向董事会和管理层进言，都没有办法改变现状。半年前关键项目出了差错，现在招聘和团队建设，公司都不以拔取最优秀AI人才为目标，本人心愿带领你们做一流人工智能。现在心力交瘁，已经向董事会辞职！希望你们继续努力！ 黄仁勋

今天美股和 bitcoin:native 的上涨很有可能是 CoreWeave 财报的原因。CoreWeave 在美东周二收盘后公布三季度财报，营收 36.61 亿美元，比去年同期的 13.65 亿美元翻了一倍多，全年收入指引从 120 亿到 130 亿美元上调到 130 亿到 133 亿美元，收入积压约 1,325 亿美元。而且 2027 年剩下的算力已经被超额预订了大约 10 倍。 前面一段时间市场最担心的就是 AI 基础设施靠借钱扩建，需求一旦放慢就还不上。CoreWeave 这份财报给了市场一份定心丸，公司还预计未来三个月会收到约 90 亿美元的客户预付款和押金，扩建不用完全靠借钱。虽然当季仍然净亏损 7.09 亿美元，利息支出也有 8.46 亿美元，但投资者至少看到了收入在跟上投入。 所以周三 CoreWeave 收涨约 24.7%，费城半导体指数涨约 5.7%，美光涨约 11.9%，Sandisk 涨约 13.7%，AMD 涨约 7.3%，连跌两天的英伟达也反弹了约 2.9%。纳指收涨约 1.6%，标普 500 涨约 1.3%，道指涨约 0.5%。而周二 CPI 高于预期，十年期美债收益率一度又回到 5% 以上，市场已经开始押注下个月加息，这种情况下科技股还能反弹，财报的作用就更明显了。 Bitcoin 仍然和科技股保持一定的关联度，虽然 CoreWeave 财报后并没有第一时间受到影响，但晚上美股开盘后科技股和 AI 带头上涨也给 bitcoin:native 的上涨带来了动力，可以看到 BTC 的上涨和美股开盘几乎是同步的。 一个 @Gate ，交易更多市场

📅 11月11日 · 挖出来的币不留了，MARA拿去还债搞AI 🚨 MARA披露，9月底以来已卖出13,597枚BTC，均价81,039美元，套现约11亿美元。其中7.5亿直接还了比特币抵押贷款，解押17,477枚BTC。公司明确表态后续还要卖，钱投向AI基础设施、可转债和股票回购。旗下Exaion已签下首份美国GPU合同，7,900万美元，客户用不用算力都得付钱。 我的观点：MARA把比特币从“囤着等涨的信仰仓”，降级成了“需要时就变现的融资工具”。矿企不是不看好BTC，是AI的现金流比BTC的波动更确定。仅供参考。 矿企在卖币投AI，你在7.4万接BTC。谁对BTC的定价更接近真相？🐷🐷🐷

这个开源项目系统整理了 35 家 AI 公司的 AI 工程师面试题，全部来自 “公开报告的面试经历” 来自 @outcome_school 团队 @pallavishekhar_ 开源发布，内容几乎涵盖了 OpenAI、Anthropic、DeepMind、xAI、DeepSeek、Kimi、GLM 等 AI Labs，Cursor、Cognition、ElevenLabs 等 AI Native 团队和 Nvidia、Microsoft、Amazon、Apple 等头部大厂。 覆盖的岗位头衔也非常多：AI Engineer、LLM Engineer、Gen AI Engineer、ML Engineer、Research Engineer、Applied Scientist、FDE、MLOps/LLMOps 工程师等。 开源地址： # 内容架构：一个精心设计的双层结构 第一层：跨公司通用题（Common Questions）。 作者把在多家公司反复出现的题目只列一次，标注"Asked at"哪些公司，按十大主题组织： 1. LLM 内部机制与架构 — attention 缩放因子、KV cache 内存公式推导、MQA/GQA/MLA、FlashAttention、BPE、RoPE/YaRN、Chinchilla scaling laws、MoE、解码采样策略、lost-in-the-middle、RMSNorm、SwiGLU 2. 推理、服务与 GPU 性能 — prefill vs decode、continuous batching、PagedAttention、投机解码、量化（FP16→FP4）、五种并行策略、TTFT/TPOT 指标、H100 上的 roofline 计算、vLLM/SGLang/TensorRT-LLM 选型、“如何把服务成本降 10 倍” 3. RAG 与检索 — 分块策略、BM25 vs 稠密检索、重排序器、HyDE、权限感知检索、ANN 索引、索引新鲜度、答案归因 4. Agent 与工具调用 — ReAct、MCP、工具 schema 设计、多智能体编排、Agent 记忆、循环终止条件、人类审批 5. 微调与对齐 — RLHF/DPO/GRPO/RLVR 全谱系、LoRA/QLoRA 数学、灾难性遗忘、“提示 vs RAG vs 微调”决策框架、蒸馏、reward hacking 6. 评估与可观测性 — LLM-as-judge 及其偏差、幻觉检测、基准污染、Agent 评估、回归门禁 7. 安全与负责任 AI — 提示注入（直接/间接）、OWASP LLM Top 10、护栏、Constitutional AI、红队 8. 多模态与语音 — VLM、语音 Agent 延迟预算、barge-in 打断处理、级联 vs 端到端语音、ASR/TTS 评估 9. AI 系统设计 — 十类高频设计题（千万级文档企业 RAG、代码助手、客服 Agent、Text-to-SQL、LLM 网关、数亿用户聊天服务等） 10. 编码题 — 从零实现 attention、KV cache、BPE、采样；LRU 缓存、令牌桶限流器、异步批处理器、SSE 流解析器、最小 Agent 循环 第二层：35 家公司的专属章节，分为五大梯队： 1. 前沿实验室（12 家）：Anthropic、OpenAI、Google DeepMind、Meta、xAI、Mistral、Cohere、DeepSeek、月之暗面（Kimi）、智谱（GLM）、阿里（Qwen）、Sarvam AI（印度） 2. 大厂 AI 组织：Microsoft、Amazon、Apple、NVIDIA、Tesla，以及一组消费级 ML 公司（Uber/Netflix/LinkedIn/Airbnb/Pinterest/Spotify） 3. AI 基础设施公司：Databricks、Groq、Together AI、Hugging Face、Scale AI、Perplexity 4. AI 原生产品公司：Cursor、Cognition（Devin）、Sierra、Harvey（法律）、Glean、 AI（机器人）、Waymo 5. 前向部署/企业 AI：Palantir # 题目分布透露的行业信号同样值得关注 1. 公司的差异化考察方向，和它的商业模式严丝合缝。 这是最能体现整理功力的地方： · DeepSeek、月之暗面、智谱、Qwen 的题目深度绑定自家论文——MLA、auxiliary-loss-free 负载均衡、Multi-Token Prediction、MuonClip、DualPipe、长上下文扩展、GLM 的 thinking 模式。面试这些公司等于面试它们的论文，还要求 PyTorch 从零实现 MoE 路由。 · Groq 的题全是 SRAM-only 架构下的 roofline 重推演：“没有 HBM，decode 的 roofline 论证哪里变了”、“确定性在 p99 层面到底买到什么”。 · Apple 清一色端侧：3B 模型在手机上跑、PTQ vs QAT、不采集用户内容的前提下用设备信号改进模型、30+ 语言区无法记录用户内容的评估方案。 · CharacterAI 是推理经济学：“我们的服务成本被 KV cache 而非权重主导，降一个数量级，代价是什么”。 · Harvey（法律）和 Abridge（医疗） 考的是领域约束下的工程：200 页信贷协议里第 140 页的条款依赖第 8 页的定义术语怎么检索、生成的病历中出现了患者没提过的药怎么当作安全事故处理、PHI 如何约束整个架构。 · Palantir 的招牌是 "decomposition" 轮：把“一家货运铁路公司每年因机车非计划停机损失数千万”分解成工程计划。 2. 编码轮的形态正在发生实质性变化。 文档里反复出现的一类题，与传统 LeetCode 明显不同： · “实现一个内存 KV 存储：先 SET/GET/DELETE，再加事务 BEGIN/COMMIT/ROLLBACK，包括嵌套事务”（OpenAI、xAI 都问） · “给你一个 LLM 推理引擎的调度器类，其中一个方法是空壳，没有规格没有文档。说说你头三十分钟干什么”（xAI） “重构这 120 行能跑但很乱的代码，不许破坏测试”（OpenAI） · “对 5 万个文档跑 LLM 调用，API 限 100 并发、偶发 429 和超时，把 Python 写出来”（Anthropic） 考察重心从算法记忆转向增量需求下的代码演进能力、并发正确性、真实工程约束下的取舍。 3. “AI 协作轮”作为新题型已经进入正式面试流程。 这是文档里最前沿的信号： · Anthropic 部分机器学习岗有 AI-collaboration 轮：现场给你 Claude，考察的是你如何指挥它和验证它的产出，而不是你自己写。 · Meta 2026 年的流程新增三阶段 AI 辅助编码轮（探索修复 → 实现新功能 → 扩展改进）。 · Cursor 的 onsite 是两天在真实 Cursor 代码库上做一个功能（或 8 小时远程版），明确考核你对 AI 工具的使用效率和自主 scoping 能力。 · Sierra 给你两小时和任意 AI 工具，看你选择做什么。 xAI 有四小时限时产品构建。 4. FDE 成为一级岗位类别。 Anthropic、OpenAI、Databricks、Scale、Together、Sierra、Harvey、ElevenLabs、Palantir 的章节里都有 "Applied and Forward-Deployed Scenarios" 专属题库——典型题目如“企业客户说 Claude 幻觉太多，你是驻场工程师，头 48 小时做什么”。这对应了 AI 公司向企业交付方式的转变：模型能力差距收窄后，落地能力成为差异化。 5. 硬核系统题的普及。 "H100 上 70B 模型 batch size 1 的 roofline 计算"、"估算 70B 模型的 GPU 显存（权重 + KV cache + 激活 + 碎片）"、"p99 延迟在部署后翻倍但模型没变，走一遍诊断”——这类题横跨 NVIDIA、Together、OpenAI、Perplexity 等多家，说明推理性能的量化直觉已成为 AI 工程师的通用素养，而非基础设施工程师的专属。

高盛Rich Privorotsky：Muse只是起点，AI Agent真正要重写的是整个经济的“摩擦成本” 高盛One-Delta交易台负责人Rich Privorotsky现在关注的，已经不只是 $META 的Muse有多火。 他提出了一个更大的判断： Agentic AI正在开始消除整个经济体系里长期存在的“摩擦”，而这可能带来一次真正的生产率跃升，并形成结构性的去通胀力量。 这可能也是理解下一阶段AI行情最重要的一条线。 过去三年的AI牛市，市场主要交易的是： 训练模型 → GPU → HBM → 数据中心 → 网络 → 电力 而下一阶段，市场开始交易一个完全不同的问题： 当AI真正进入日常经济活动以后，它到底能够替人类省掉多少时间、成本和中间环节？ Muse真正改变的，不只是AI能力，而是“消费者惯性” 很多行业过去能够长期维持较高利润，并不完全因为它们的产品无法替代。 其中一个很重要的原因，是消费者嫌麻烦。 保险续费涨价了，你懒得重新比较几十家公司。 手机套餐贵了，你懒得转运营商。 酒店价格高了，你没有时间每天重新搜索。 订阅服务每个月继续扣钱，你甚至已经忘记自己还在付费。 退款需要打电话、发邮件、等待客服，很多人最后干脆放弃。 这些看似微不足道的事情，实际上构成了一个巨大的隐形经济： Consumer Inertia——消费者惯性。 过去消费者的时间有限，所以很多公司实际上可以从“麻烦”本身赚钱。 Muse这样的AI Agent正在攻击的，恰恰就是这种摩擦。 如果你的AI可以24小时替你比价、取消订阅、申请退款、重新谈账单、寻找更便宜的保险、比较酒店、订机票甚至完成支付，那么过去建立在消费者“不想折腾”之上的商业模式就可能受到压力。 AI最先消灭的，未必是某一个行业，而是“麻烦”本身。 为什么这可能带来结构性去通胀？ 想象一下，当未来几亿甚至几十亿消费者都拥有一个永远不会累、永远愿意比较价格的AI Agent，会发生什么？ 保险公司更难依赖客户懒得换公司维持高价格。 旅游平台必须证明自己的佣金真正创造价值。 长期不用的订阅可能被Agent自动取消。 零售商品的价格透明度进一步提高。 企业内部大量重复的行政、客服和后台流程也可能被自动化。 于是经济体系中大量长期存在的成本： 信息差 + 搜索成本 + 时间成本 + 人工成本 + 中间环节 都有可能被压缩。 这就是Privorotsky所说的生产率红利。 过去互联网降低的是信息传播成本。 移动互联网降低的是连接成本。 而Agentic AI下一步可能降低的是： 行动成本。 这可能比单纯推出一个更聪明的大模型，对整个经济的影响更加深远。 所以AI行情可能开始从“卖铲子”走向“生产率革命” 第一阶段的赢家其实非常容易理解。 $NVDA、$AMD、$TSM、$AVGO，以及HBM、网络、光通信、服务器、数据中心和电力基础设施。 因为无论最后哪一个AI模型胜出，都必须先购买算力。 但Agent时代真正有意思的地方，是AI创造的价值可能开始从基础设施向整个经济扩散。 企业可以减少后台人工成本。 客服效率提高。 营销变得更加精准。 库存管理改善。 软件开发周期缩短。 采购和供应链流程自动化。 消费者寻找商品和服务的成本下降。 当这些效率提升逐渐进入企业利润表以后，AI的赢家就不一定永远只集中在半导体。 第一阶段赚的是“建设AI”的钱。 第二阶段赚的可能是“使用AI提高生产率”的钱。 这两轮行情的受益公司可能完全不同。 CPU为什么突然成为Agentic AI的重要交易方向？ 这一点也值得特别关注。 过去生成式AI最重要的硬件交易是GPU，因为训练和大规模模型推理高度依赖GPU。 但Agent并不是简单回答一个问题。 它需要打开浏览器、运行操作系统、调用API、处理文件、管理数据库、执行代码、安排任务，甚至同时运行多个Sub-Agent。 这意味着Agent时代增加的不只是模型推理负载。 它还增加了大量传统计算工作负载。 所以市场近期开始重新关注CPU以及整个服务器基础设施。 如果未来不是几百万人偶尔问AI一个问题，而是几亿个Agent每天在后台连续工作几个小时，那么计算需求的结构本身都会发生变化。 这也是为什么现在不能再简单用： “AI = GPU” 来理解整个产业链。 未来更完整的公式可能是： AI Agent = GPU + CPU + Memory + Storage + Networking + Power Agent运行时间越长，需要调用的工具越多，整个数据中心被消耗的资源也就越多。 但市场现在仍然处于非常早期的定价阶段 目前指数很强，但市场宽度并不好。 大量资金依然高度集中在AI和少数大型科技公司。 所以现在看到的更像是三个阶段： 第一阶段：AI基础设施重新定价。 GPU、HBM、网络、数据中心、电力率先上涨。 第二阶段：Agent平台重新定价。 $META 的Muse只是最近最明显的案例之一。 第三阶段：整个经济的生产率重新定价。 如果Agent真正大规模进入企业和消费者生活，受益范围才可能从科技行业逐渐扩散到更广泛的权益市场。 而现在，我们可能刚刚站在第二阶段的入口。 这也是为什么高盛交易台对大盘仍然保持积极观察 Privorotsky的另一个核心观点是，目前市场并不是毫无风险。 季节性仍然存在。 实际利率仍然偏高。 地缘政治风险没有消失。 市场宽度也并不理想。 但另一方面，投资者对这些问题已经非常警惕，仓位和情绪本身并没有进入极端乐观状态。 因此他认为，市场仍存在进一步向上突破的空间。 这里真正值得注意的，不是简单地说“美股一定继续涨”。 而是： 如果Agentic AI开始被市场从一个科技产品故事，重新理解成一场生产率革命，那么它能够支撑的估值范围，就不一定只局限在几家AI芯片公司。 这可能才是下一轮行情真正值得观察的变化。 过去三年，我们一直在问： 谁能提供AI需要的算力？ 接下来市场可能开始问： 谁能够利用AI，把自己的收入增长得更快、成本降得更低、利润率做得更高？ 而再往后，还有一个更大的问题： 如果Muse只是第一批真正进入大众市场的Agent，当几十亿个AI Agent每天替人类工作、购物、谈价格、管理订阅和完成交易时，今天哪些行业看起来稳定的利润，其实只是建立在“人类嫌麻烦”这件事上？

1/ 过去不到一年，大型科技公司为 AI 数据中心和芯片融资提供了最高 3000 亿美元担保。 Morgan Stanley 统计，7 家超大规模云厂商和芯片公司的表外承诺及信贷支持已超过 3.1 万亿美元。 AI 基础设施正在通过大量表外担保加速扩张。👇

AI基础设施可能没那么难回本。 按包含15%回报率的年化成本计算，已投运AI资本的收入覆盖率：AI总收入160%，基础设施收入121%。 未来承诺资本所需的收入增速也在下降：未来12个月需29%，未来24个月需44%，远低于近期AI收入超过200%的年复合增速。

1/ Goldman Sachs 预计，2026 年美国主要云服务商的 AI 基础设施资本开支约为 8060 亿美元，中国约为 1100 亿美元，相差超过 7 倍。 美国靠规模，中国拼效率。算力差距依然巨大，但模型竞争并没有按投入比例拉开。 原因如下👇