与「GPU」相关的搜索结果

xAI 成立至今大约只有 3 年。 这期间，它已经建成： - Colossus 1 + Colossus 2，合计约 67 万块 GPU - Grok Imagine - Grok Voice - Grok Build - Grok Bot - Grok 4.7 Grok 的目标显然不只是短暂登顶榜单。 模型、Agent、应用和算力全部集中在同一体系内，而且速度还在加快。

AMD 宣布用约 82 亿美元收购李飞飞创办的 World Labs，这期是彭博科技节目主持人 Ed Ludlow 对两位当事人的联合采访。一位是 AMD CEO 苏姿丰，AMD 做 CPU 和 GPU，OpenAI、Anthropic、Meta 都是它的大客户。另一位是 World Labs 创始人兼 CEO 李飞飞，她主持建立的 ImageNet 图像数据集是这一轮深度学习浪潮的起点之一。两人聊了为什么要做这笔交易、李飞飞在 AMD 的新角色、开放生态，以及 AI 安全该由谁负责。 交易本身 这是一笔全股票交易，也就是 AMD 用自己的股票而不是现金来付款，对 World Labs 的估值约 82 亿美元，预计年底前完成，还需要监管审批。交易完成后，李飞飞出任 AMD 执行副总裁兼首席科学家，直接向苏姿丰汇报，World Labs 团队将成为 AMD AI 模型团队的核心。 两家公司的关系早就开始了。AMD 是 World Labs 的早期投资方，也给它供芯片。苏姿丰说她从 World Labs 只有几个研究员的时候就在看着这个团队成长。两人也都提到彼此认识多年，私下是朋友。 芯片公司为什么要买模型公司 苏姿丰的理由是，AI 现在还在很早期的阶段，而且越来越明显的是，硬件、软件、系统和模型这几层互相影响，对整条链路理解得越透，造出来的系统就越好。收购 World Labs，一方面是拿到李飞飞聚起来的一批顶尖研究人员，另一方面是让 AMD 对模型未来的发展方向有第一手的判断，反过来指导下一代硬件怎么设计。 李飞飞从模型公司的角度讲了同一件事。World Labs 越做越大，对算力的需求也越来越大；和 AMD 合在一起，模型可以用最前沿的硬件加速训练和推理，硬件团队也能提前看到模型未来的工作方式和需求。她把这叫作 AI 软件和 AI 硬件的“共同进化”。 主持人追问 AMD 是不是要开始卖模型、卖软件。苏姿丰说不会改变商业模式，AMD 仍然是一家平台和解决方案公司，软件是用来支撑硬件的。收购的最终目的是让 AMD 更好地服务那些最大的算力客户，也就是各家模型公司。 World Labs 做到了哪一步 World Labs 成立于 2024 年，到现在两年多，专攻空间智能和物理智能，也就是让 AI 理解和生成三维世界、懂得物理规律，这类模型通常叫“世界模型”。李飞飞说，他们想做的是语言模型之外的方向，因为创作者、设计师、教育、医疗都有这方面的需求，机器人技术也快要迎来爆发。 公司目前已经发布了两代模型，先是 Marble，然后是最新的 Atlas。李飞飞介绍 Atlas 是一个多模态的“全能模型”，能生成高质量的画面，同时保持三维和四维（三维空间加上时间）上的一致性，摄像机和智能体可以在它生成的世界里移动和交互。 团队也在扩张。World Labs 最近收购了 SceniX，这家公司做出了一套机器人仿真工作流程，以及训练机器人控制策略的模型，由此给 World Labs 补上了机器人方向的人才。 李飞飞为什么选择加入 AMD 苏姿丰说她给李飞飞的说法是“加入全世界最令人兴奋的 AI 公司”。李飞飞的作用也不只限于 World Labs 团队。苏姿丰说 AI 没有一种方案能通吃，除了大家熟悉的云端 CPU、GPU，物理 AI、机器人、从云端到边缘设备再到个人电脑的端到端 AI，都是 AMD 未来三到十年要重点增长的方向，而这些正好是 World Labs 擅长的领域。 World Labs 今年早些时候刚融过一大笔钱，发展势头也不错，主持人问李飞飞是否考虑过别的出路。她说公司从一开始就以使命为导向，这件事的关键在于双方的愿景是否一致，和有哪些选择关系不大。在她看来，这次合并会是“一加一大于二”，接着她笑着补了一句，AMD 显然比 World Labs 大得多。 至于加入后会不会只做空间智能，李飞飞说两人还没来得及细谈所有计划，World Labs 正在做的工作会继续，但她预计研究方向会扩大、节奏会加快。 开放生态与可选择性 苏姿丰说，AI 未来会同时有开源模型和闭源模型、大模型和小模型，它们跑在不同的硬件上，这一直是 AMD 规划高性能计算和 AI 产品线的前提。她和企业的 CEO、CIO 聊下来，没有人愿意被锁死在某一家的硬件或软件生态里，大家都想在不同时候挑最合适的。所以 AMD 会继续押注开放生态，她和李飞飞也讨论过怎样用 World Labs 已有的成果推动开源生态。 李飞飞补充说，现代 AI 的发展离不开开放。从科学界公开分享神经网络算法，到她自己做的 ImageNet，这个首批开放的大规模数据集就是现代 AI 革命的推动力之一。开放生态能让不同的发现、创新和创业机会互相促进。 AI 安全该由谁负责 主持人提到当前的一个争论：模型能力的进步速度超过了安全和对齐研究的进步速度。苏姿丰说这件事上“没有可选项”，技术必须好，也必须安全。她拿芯片行业做例子：最高性能的处理器在设计时就要把安全和数据保密作为优先事项来考虑，AI 行业也需要把安全放到同样的位置。她说自己是 AI 乐观派，相信行业能建立起合适的流程和防护措施，而且各家应该像硬件行业现在分享安全方面的经验那样，互相分享做法。 主持人进一步问，提供算力的公司对训练是否安全、推理时模型是否按预期行事，要负什么责任。苏姿丰说生态里每一方都要为自己的行为负责。对 AMD 来说，要保证硬件本身安全、按设计运行，模型在上面跑时数据是安全的，还要和模型公司一起处理好软硬件之间的交互。她认为这件事应该由行业主导，但因为 AI 是新东西，各方学习的速度不一样，所以她欢迎更多的行业协作，也欢迎一定程度的第三方评估。 李飞飞说，主持人上周问她监管、第三方评估、前沿实验室自我负责这几种方式该选哪个，她的回答是全都要。她认为 AI 是一项“文明级”的技术，和历史上所有这类技术一样，初衷是让人的生活和工作变得更好，但每项技术都是双刃剑，必须负责任地开发和部署。无论在斯坦福、World Labs 还是现在的 AMD，她都想推动个人、公司、行业和社会四个层面共同承担这份责任。 AMD 的下一步 主持人提到 AMD 市值已经到了 1 万亿美元，苏姿丰近来也多次和美国总统一同公开露面。苏姿丰说 AMD 过去做过好几笔对公司影响很大的收购，World Labs 是下一笔，而且是战略意义很重要的一笔。在她看来，技术如今和经济、国家安全都紧密相关，AMD 有机会真正影响计算的未来走向。 最后主持人请李飞飞预测 AI 下一个重大突破。她没有给具体的技术判断，只说接下来 AMD 和 World Labs 会一起打造未来，而这个未来必须对人类社会和人们的生活有益。苏姿丰在一旁说：“我会让她忙起来的。”

I am technologically illiterate, but in less than 24 hours, Grok Bot has transformed my productivity & personal business outlook. I have agents that are experts / "employees" in real estate development, DTC fashion e-commerce, niche private equity, and HPC/GPU customer acquisition & deployment.

我觉得目前 macOS 的多媒体播放器都太难用了。不仅性能差，功能迭代也很慢。 所以我最近两个月一直在开发多媒体播放器 Khua Player，专为现代 macOS 和 Apple 芯片打造。 为了追求极限性能，用 C/C++ 等原生代码优化播放核心，尽可能压低体积、内存和 CPU/GPU 开销，打开快、操作跟手、播放丝滑。 也用上了 macOS 的原生 AI 能力：本地生成字幕、翻译字幕，再加上实时补帧、4K/HDR、Finder 预览 MKV 格式等。损坏或没下载完的视频，也能尽量救回来播放。 已完全开源，网址：

You can now run Laya Decision models locally on just 4GB RAM! 🔥 Works on CPU, Mac, Windows, Linux and GPU setups. Serve Laya through a Jev-compatible API via Unsloth Desktop. GitHub: Guide:

Modal @modal 这份「GPU 术语手册」做的太友好了，它把整个 GPU 技术栈拆成四个相互勾连的层面：设备硬件、设备软件（执行模型）、主机软件（驱动与工具链）、性能分析，每个词条都密集交叉链接，既可以按需查阅单个术语，也可以从头到尾线性通读。 理解这份手册从「CUDA」开始，CUDA 有三重含义：一种设备架构、一个并行编程模型、一个软件平台。这份手册的四个章节恰好分别展开这三个含义加上性能分析。 GPU Glossary 四个章节： 1. 设备硬件：GPU 的物理解剖 - CPU 用复杂核心避免延迟，GPU 用海量简单线程隐藏延迟 2. 设备软件：CUDA 的执行模型 - 线程层级、内存层级、硬件三层严格同构，程序员亲手管理内存 3. 主机软件：驱动、工具链与库 - Runtime 包着 Driver，闭源库拿来即用，CUTLASS 一系负责构造自己的 kernel 4. 性能分析：完整诊断链 - 定瓶颈 → roofline 定性 → 利用率定位 → warp 机制 → 访存模式 → 资源约束 这三句总结很到位 GPU 的本质是“单周期切换海量简单线程来隐藏延迟”；编程的本质是“沿线程-内存-硬件的同构层级，把数据在正确的层级间搬运，把算术强度做到岭点以上”；性能工程的本质是“沿诊断链逐层定位，用 Little 定律算够并发，不为中间指标（如占用率）本身而优化。

上周跟一个做HIS系统的朋友聊了聊，医生+AI这事他们做了，而且看起来做的还不错，就是把Agent跟诊断报告啥的连起来了，直接给初步诊断和建议，为了隐私问题，还在内部跑了个私有的GPU机器运行模型，投入不小。结果没想到，遭到了基层医生的一致反对，大家猜是为啥？

1/ NVIDIA GPU 正在表现成一种高收益资产。 Ornn 的数据显示： H100 一年总回报约 76%；B300 不到 3 个月总回报约 21%。 租金收入和较强的二手残值，让 GPU 同时具备使用价值与资产属性。👇

这个开源项目系统整理了 35 家 AI 公司的 AI 工程师面试题，全部来自 “公开报告的面试经历” 来自 @outcome_school 团队 @pallavishekhar_ 开源发布，内容几乎涵盖了 OpenAI、Anthropic、DeepMind、xAI、DeepSeek、Kimi、GLM 等 AI Labs，Cursor、Cognition、ElevenLabs 等 AI Native 团队和 Nvidia、Microsoft、Amazon、Apple 等头部大厂。 覆盖的岗位头衔也非常多：AI Engineer、LLM Engineer、Gen AI Engineer、ML Engineer、Research Engineer、Applied Scientist、FDE、MLOps/LLMOps 工程师等。 开源地址： # 内容架构：一个精心设计的双层结构 第一层：跨公司通用题（Common Questions）。 作者把在多家公司反复出现的题目只列一次，标注"Asked at"哪些公司，按十大主题组织： 1. LLM 内部机制与架构 — attention 缩放因子、KV cache 内存公式推导、MQA/GQA/MLA、FlashAttention、BPE、RoPE/YaRN、Chinchilla scaling laws、MoE、解码采样策略、lost-in-the-middle、RMSNorm、SwiGLU 2. 推理、服务与 GPU 性能 — prefill vs decode、continuous batching、PagedAttention、投机解码、量化（FP16→FP4）、五种并行策略、TTFT/TPOT 指标、H100 上的 roofline 计算、vLLM/SGLang/TensorRT-LLM 选型、“如何把服务成本降 10 倍” 3. RAG 与检索 — 分块策略、BM25 vs 稠密检索、重排序器、HyDE、权限感知检索、ANN 索引、索引新鲜度、答案归因 4. Agent 与工具调用 — ReAct、MCP、工具 schema 设计、多智能体编排、Agent 记忆、循环终止条件、人类审批 5. 微调与对齐 — RLHF/DPO/GRPO/RLVR 全谱系、LoRA/QLoRA 数学、灾难性遗忘、“提示 vs RAG vs 微调”决策框架、蒸馏、reward hacking 6. 评估与可观测性 — LLM-as-judge 及其偏差、幻觉检测、基准污染、Agent 评估、回归门禁 7. 安全与负责任 AI — 提示注入（直接/间接）、OWASP LLM Top 10、护栏、Constitutional AI、红队 8. 多模态与语音 — VLM、语音 Agent 延迟预算、barge-in 打断处理、级联 vs 端到端语音、ASR/TTS 评估 9. AI 系统设计 — 十类高频设计题（千万级文档企业 RAG、代码助手、客服 Agent、Text-to-SQL、LLM 网关、数亿用户聊天服务等） 10. 编码题 — 从零实现 attention、KV cache、BPE、采样；LRU 缓存、令牌桶限流器、异步批处理器、SSE 流解析器、最小 Agent 循环 第二层：35 家公司的专属章节，分为五大梯队： 1. 前沿实验室（12 家）：Anthropic、OpenAI、Google DeepMind、Meta、xAI、Mistral、Cohere、DeepSeek、月之暗面（Kimi）、智谱（GLM）、阿里（Qwen）、Sarvam AI（印度） 2. 大厂 AI 组织：Microsoft、Amazon、Apple、NVIDIA、Tesla，以及一组消费级 ML 公司（Uber/Netflix/LinkedIn/Airbnb/Pinterest/Spotify） 3. AI 基础设施公司：Databricks、Groq、Together AI、Hugging Face、Scale AI、Perplexity 4. AI 原生产品公司：Cursor、Cognition（Devin）、Sierra、Harvey（法律）、Glean、 AI（机器人）、Waymo 5. 前向部署/企业 AI：Palantir # 题目分布透露的行业信号同样值得关注 1. 公司的差异化考察方向，和它的商业模式严丝合缝。 这是最能体现整理功力的地方： · DeepSeek、月之暗面、智谱、Qwen 的题目深度绑定自家论文——MLA、auxiliary-loss-free 负载均衡、Multi-Token Prediction、MuonClip、DualPipe、长上下文扩展、GLM 的 thinking 模式。面试这些公司等于面试它们的论文，还要求 PyTorch 从零实现 MoE 路由。 · Groq 的题全是 SRAM-only 架构下的 roofline 重推演：“没有 HBM，decode 的 roofline 论证哪里变了”、“确定性在 p99 层面到底买到什么”。 · Apple 清一色端侧：3B 模型在手机上跑、PTQ vs QAT、不采集用户内容的前提下用设备信号改进模型、30+ 语言区无法记录用户内容的评估方案。 · CharacterAI 是推理经济学：“我们的服务成本被 KV cache 而非权重主导，降一个数量级，代价是什么”。 · Harvey（法律）和 Abridge（医疗） 考的是领域约束下的工程：200 页信贷协议里第 140 页的条款依赖第 8 页的定义术语怎么检索、生成的病历中出现了患者没提过的药怎么当作安全事故处理、PHI 如何约束整个架构。 · Palantir 的招牌是 "decomposition" 轮：把“一家货运铁路公司每年因机车非计划停机损失数千万”分解成工程计划。 2. 编码轮的形态正在发生实质性变化。 文档里反复出现的一类题，与传统 LeetCode 明显不同： · “实现一个内存 KV 存储：先 SET/GET/DELETE，再加事务 BEGIN/COMMIT/ROLLBACK，包括嵌套事务”（OpenAI、xAI 都问） · “给你一个 LLM 推理引擎的调度器类，其中一个方法是空壳，没有规格没有文档。说说你头三十分钟干什么”（xAI） “重构这 120 行能跑但很乱的代码，不许破坏测试”（OpenAI） · “对 5 万个文档跑 LLM 调用，API 限 100 并发、偶发 429 和超时，把 Python 写出来”（Anthropic） 考察重心从算法记忆转向增量需求下的代码演进能力、并发正确性、真实工程约束下的取舍。 3. “AI 协作轮”作为新题型已经进入正式面试流程。 这是文档里最前沿的信号： · Anthropic 部分机器学习岗有 AI-collaboration 轮：现场给你 Claude，考察的是你如何指挥它和验证它的产出，而不是你自己写。 · Meta 2026 年的流程新增三阶段 AI 辅助编码轮（探索修复 → 实现新功能 → 扩展改进）。 · Cursor 的 onsite 是两天在真实 Cursor 代码库上做一个功能（或 8 小时远程版），明确考核你对 AI 工具的使用效率和自主 scoping 能力。 · Sierra 给你两小时和任意 AI 工具，看你选择做什么。 xAI 有四小时限时产品构建。 4. FDE 成为一级岗位类别。 Anthropic、OpenAI、Databricks、Scale、Together、Sierra、Harvey、ElevenLabs、Palantir 的章节里都有 "Applied and Forward-Deployed Scenarios" 专属题库——典型题目如“企业客户说 Claude 幻觉太多，你是驻场工程师，头 48 小时做什么”。这对应了 AI 公司向企业交付方式的转变：模型能力差距收窄后，落地能力成为差异化。 5. 硬核系统题的普及。 "H100 上 70B 模型 batch size 1 的 roofline 计算"、"估算 70B 模型的 GPU 显存（权重 + KV cache + 激活 + 碎片）"、"p99 延迟在部署后翻倍但模型没变，走一遍诊断”——这类题横跨 NVIDIA、Together、OpenAI、Perplexity 等多家，说明推理性能的量化直觉已成为 AI 工程师的通用素养，而非基础设施工程师的专属。

专为 Omarchy 写的磁盘占用可视化工具，Rust + GPUI 做的。默认扫主目录，也能扫整块盘，把结果画成嵌套马赛克，矩形面积就是实际占的空间。