注册并分享邀请链接,可获得视频播放与邀请奖励。

与「算力」相关的搜索结果

算力 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 算力 的内容
做完磷化铟和钨矿这波3连板之后,下一阶段我更想提前埋伏的AI上游稀缺资产,就是氮化铝。 市场最近其实已经把路径走得很清楚了:资金不再只盯着算力硬件本身,而是在不断向更上游、更稀缺、更具供给约束的材料端做扩散。磷化铟炒的是光通信和化合物半导体,钨炒的是高端制造和战略资源,本质上都是AI需求外溢到上游稀缺资产的重估。 那么沿着这条逻辑继续往下挖,氮化铝同样具备高导热、高绝缘、先进封装和功率半导体等多重AI属性,而且市场认知度还没有完全打满,反而更有预期差。 前面的磷化铟和钨,都是等市场涨起来之后大家才开始研究;真正有超额的,永远是题材还没全面发酵之前就把逻辑想明白。 所以接下来,氮化铝值得重点跟踪。
显示更多
0
4
107
8
转发到社区
谷歌组织架构大洗牌! Demis Hassabis 卸任 Google Deepmind 的 CEO,转任 GDM 主席兼 Alphabet 首席科学家,同时继续领导 Isomorphic Labs,把主要精力放在 AGI 的长远方向、全球战略以及用 AI 推动科学与医疗突破上; “我们已抵达人类历史上的一个关键时刻。我一生都在为 AGI 努力,现在,就像你们许多人一样,我感觉它近在咫尺” —— Demis Hassabis Koray Kavukcuoglu 从 Deepmind CTO、Google 首席 AI 架构师升任 Google DeepMind 高级副总裁,直接向 Pichai 汇报,全面负责 Gemini 模型研发、前沿 AI 研究以及 Gemini 应用与开发者团队。其实就是接替 Demis 的管理工作,他在 DeepMind 已工作 13 年,,曾主导 WaveNet、DQN 等成果; 在谷歌工作 27 年的 Jeff Dean 将与资深研究员 Sanjay Ghemawat 一起离开,创办一家独立的公益性质公司 Discovery Loop,专注“全自动科学发现的闭环”研究;Google 会作为创始投资方和云服务合作伙伴继续与他们合作。Dean 告诉 NYT,离开 Google 让他有更多余地专注于科学发现; 三位最初的 Gemini 负责人如今全部离职:Noam Shazeer 去了 OpenAI,Dean 和 Vinyals 去了 Discovery Loop。 我如何看待这次调整? 在 2023 年 Google 合并 Google Brain 与 Deepmind,于是有了 Gemini 的成功;三年后 Google 再次面临大公司病、组织障碍(人才保留上的结构性问题)和工程低效的挑战,于是有了这次必要又意料之外的调整。 部分传言 Demis 因 Gemini 执行不力而被边缘化,换上Koray 是希望把“研究强、产品化慢”这个 Google 的老毛病治好,对比 OpenAI / Anthropic 快速产品化,Google 需要证明也能更快的迭代。所以 Google 全村的希望都在 Gemini 4,内部确认已经有了重大进展。我保留短期观察,长期看好的判断👀 其实 Google 已经证明了目前不用靠模型的能力,只用买算力就能保持盈利优势,Google 是目前唯一的全栈 AI 科技巨头。现在决定内部加速产品化,再利用投资加孵化,既能解决人才保留的问题,又可以抢占 AGI 与科学前沿。 这是 Google 的角色优化,并非危机。执行力与人才保留正在成为新的竞争护城河,技术不再是 Google 的短板,专注和敏捷才是。
显示更多
0
12
12
3
转发到社区
还能这么玩?微软被曝约 70% 的 AI 收入来自 OpenAI。它们为运行 ChatGPT,要向微软持续购买云算力,还要把部分收入分给微软,而微软把这些算作是自己的 AI 收入。 不过市场也在猜疑,这笔收入里,有多少是 OpenAI 真金白银,还是之前投资协议里的服务,和收入分成形成的账面收入。
显示更多
0
68
145
11
转发到社区
我发现日本上司对ChatGPT 也用最高程度的敬语。 OpenAI 发现, 在日本消耗的算力远超其他国家🤣
0
79
680
21
转发到社区
马斯克的SpaceX计划在太空部署AI卫星“STARMIND”(星脑) 单颗卫星翼展75米,高30米,最高提供250kW电力。卫星搭载英伟达Rubin GPU和英伟达Vera CPU,卫星之间通过激光互联,计算结果通过星链发送到地球。卫星运行在太阳同步轨道,24小时太阳能不间断。 在美国,太空算力中心的建设效率可能比陆地更高,不用电网审批、不用土地审批、不用考虑散热耗水、没有周边社区的民众反对,纯纯就是技术和资本问题。 这事只有马斯克能干成,卫星制造、可重复的火箭发射、星链网络,都只有SpaceX有完整的体系。能成为荒坂集团的,目前只有SpaceX。 官方介绍:
显示更多
SpaceX上市后的第一份财报,营收和亏损都好于预期,盘后股价却跌了8%以上。 第二季度营收78.1亿美元,同比增长92%,高于市场预期的69亿美元,净亏损也从约10亿美元收窄至5.41亿美元,Starlink所在的连接业务收入42.9亿美元,同比增长66%。 马斯克同时把年营收达到1万亿美元的时间提前到2030年,还准备继续扩大AI投入。 SpaceX仅第二季度就在AI基础设施上投入158亿美元,计划到2027年底把算力提高到最高10GW,新设备全部采用英伟达Vera Rubin。 财报发布前,SpaceX股价先涨9.4%至125.33美元,财报出来后,盘后一度跌超8%。
显示更多
我翻完梁文锋26岁写的微博才明白DeepSeek的成功,跟技术路线半毛钱关系都没有。 梁文锋26岁那年,一个人开着菲亚特进了西藏阿里无人区。 深入400公里, 被困了一周, 人走出来了, 车永远留在了那里。 12年后他做了DeepSeek, 你要是读过这个故事,就一点都不意外。 2011年底,他开一辆破菲亚特去西藏, 同行的人到了拉萨玩完就飞回去了, 他没回。 一个人继续往西,羊卓雍措,珠峰,希夏邦马,一直扎进阿里无人区400公里。 用的是入门级尼康D50,套头, 但他能等大半天就为了一束光, 拍出来的照片像专业摄影师的。 配文写的是"风萧萧兮易水寒",写的是"古道西风瘦马",写的是"一骑走天下"。 最后一条微博: 被困无人区一个星期,所幸我出来了。但我的菲亚特没有出来。它永远地留在了那片漫无边际的高山草原。That's the END。 就这么个事, 我们回头看DeepSeek,全是同一个人的同一个打法。 别人到拉萨就回去了, 他一个人再往里走400公里。 像不像现在? 大家都在做应用、做商业化、做能快速变现的事情, 他一个人往里走,做基础模型,做AGI,很长时间都不融资,不社交,不出来参加各种大会。 入门级相机,但等半天光线,拍到最好, 像不像DeepSeek? 不堆资源,不烧钱,但把效率做到极致,用别人十分之一的成本做出匹敌的东西。 车扔在无人区了,人走出来了,写一句That's the END。 像不像他的风格? 敢赌,敢输,输了认,然后继续走。 开源就开源,被制裁就被制裁,模型放出去就放出去,车没了但人出来了,下一趟再来。 所有人都在分析DeepSeek的技术路线、成本结构、国运加持, 但你看看这个人26岁干的事,答案全在那。 一个敢独自把车开进无人区400公里的人,他做公司就不会跟在别人后面。 一个把车扔在高原走出来还能写That's the END的人,他不会在乎短期股价和融资新闻。 一个用入门相机等半天光线的人,他做模型就会把每一分算力都榨干。 所以这些都不是什么商业策略, 这就是一个人的性格, DeepSeek不是一份商业计划书的结果, 是一个人的本性,在12年后,自然长出来的东西。 那个在无人区里走了一周的年轻人,和那个把全球AI行业搅翻天的人,是同一个人,一直以来都是。
显示更多
0
47
211
26
转发到社区
转一下苏剑林老师对 K3 架构的复盘。 一句话概括,K3 = KDA + MLA + Stable LatentMoE + AttnRes。整套设计没什么炫技,核心就是在模型效果、计算效率和训练稳定性之间做取舍。 这里稍微解释一下: KDA,一种线性 Attention MLA,一种 KV Cache 较小的 Full Attention 变体 Stable LatentMoE,对 LatentMoE 做过稳定性改造的 MoE 方案 AttnRes,用可学习的跨层注意力,替代固定等权的残差累加 几个比较有意思的点: ① K3 同时使用了 KDA 和 MLA。另外,训练仍然用 Moonlight 版本的 Muon 优化器,Attention 权重改成 Per-Head Muon,每个 Head 独立优化。苏神说这不会直接提高效果,主要是数学和结构上更合理:各个 Head 本来就相对独立,不应该在优化时耦合在一起。 ② 解决MoE“容易炸”的问题。 LatentMoE 会先降维,再使用更多专家,最后升维,在训推成本大致相同的情况下效果略好。不过连续的矩阵投影也让训练更容易出现数值不稳定。 K3 把 SwiGLU 换成了 SiTU-GLU,用 softcap 压住异常激活;又在 LatentMoE 升维前加了一层 RMS Norm。这个 Norm 不只是让训练更稳定,在 Valid Loss 差不多的情况下,不加它,某些 Benchmark 会稳定变差。 (这里有超级多的技术细节,感兴趣的可以看苏神原文) ③ 关于MLA DSV4 看上去都换设计了,K3 怎么还在用 MLA?苏神的答案是,目前 MLA 仍然很难被全面击败。它在训练阶段是 MHA 形态,推理时 KV Cache 较小;在固定训练成本和 KV Cache 大小时,MLA 依然近乎最优。 它的问题是对 MTP(推测解码)不够友好。MTP 的思路是“用计算换速度”,而 MLA 在 Decoding 阶段本身就比较吃计算,再叠一个 MTP,两边就容易抢算力。 换别的方案也有代价。比如换成 128+128 的 GQA8,效果很难打赢 MLA,KV Cache 还是 MLA 的三倍多;换成 256+256 的 MFA(本质上是 MQA),训练和 Prefill 成本又会上去。 目前还没有一个简单的 Attention 设计,能同时占住效果、训练成本、Prefill、KV Cache 和 Decoding 计算量。在 KDA+MLA 的混合架构下,MLA 的部分问题得到缓解,所以 K3 最后还是选了 MLA。 ④ 苏神觉得,DSV4 也不算真正“抛弃 MLA”。 DSV4 看上去重新设计了 Attention,但底层仍然有 MLA 的影子。它采用的是 head_dims=512、K=V 的 MQA,这正是 MLA 在 Decoding 阶段的形态;再加上 Sparse + Compress,前者减少计算,后者进一步压缩 KV Cache,同时减少计算。 方向很激进,不过 Infra 也更复杂。 ⑤ K3 的 MLA 可以去掉 RoPE,是因为 KDA 已经隐含提供了一种广义的位置信息。 这只适用于 KDA+MLA 的混合结构,像 K2 那种全 MLA 模型,直接去掉 RoPE 还是会明显掉效果。 感觉苏神真正的观点是:大模型架构里很少有免费的升级。K3 的设计哲学不是找一个碾压所有方案的新架构,而是在效果、训练成本、Prefill、Decoding、KV Cache 和稳定性之间,找一个当前更合适的组合。 苏神原文里还有很多技术内容,非常值得一看。 原文地址:
显示更多
0
28
326
66
转发到社区
亚马逊现在的市值,已经超过三个马斯克。 8月3日,亚马逊股价上涨5%以上,市值首次突破3万亿美元,成为继英伟达,微软,Alphabet和苹果之后,第5家达到这个规模的公司。 这次上涨主要靠亚马逊云服务,AWS。 这项业务向企业提供服务器,数据存储和AI算力,企业无需自己建设数据中心,可以直接租用亚马逊的计算资源,按使用量付费。 上一季AWS收入422亿美元,同比增长37%,是18个季度以来最快的增速。 AWS只占亚马逊总收入约21%,却贡献了166亿美元营业利润,占全公司约60%,亚马逊赚到的大部分营业利润已经来自这项生意。 想使用AWS的公司越来越多,亚马逊现有的服务器已经不够用了。 今年公司计划投入2200亿美元,新建数据中心,购买芯片和其他设备。 这笔投入也消耗了大量现金。 过去12个月,亚马逊扣除设备投资后,现金净流出76亿美元,去年同期还能净流入182亿美元。 市场看到AWS的收入开始加速,仍然选择继续买入亚马逊,财报公布后,亚马逊股价单日上涨超过15%,创下14年来最大涨幅,一天增加近4000亿美元市值。 亚马逊2018年突破1万亿美元,2024年达到2万亿美元,前一个1万亿用了近6年,从2万亿涨到3万亿只用了两年多。
显示更多
0
24
10
1
转发到社区
开源模型越便宜,GPU 需求反而可能越强? 白线主播 Minta 认为,开源模型正在带来新的 AI 算力需求。DeepSeek 在 OpenRouter 上的 Token 份额从年初约 9% 增长至 6 月约 20%,而 AI Agent 单次请求消耗约为普通请求的 15 倍,可能推动 GPU 推理需求持续增长。 但开源降低 Token 价格的同时,也会压缩利润空间,AI 芯片投资周期能否延续,关键看需求增长是否跑赢价格下降。 内容不构成任何投资建议,请严格遵循当地法律法规。 《白线 WhiteLine》由吴说团队出品,从 Crypto 走向更广阔的资本市场,关注 AI 时代下的趋势变化与交易机会。
显示更多