注册并分享邀请链接,可获得视频播放与邀请奖励。

与「Blackwell」相关的搜索结果

Blackwell 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 Blackwell 的内容
昨天最炸裂的消息就是,前OpenAI研究员 @willdepue 发现DeepSeek、Kimi、MiniMax、蚂蚁最新的 6 个开源模型,训练用的全是英伟达 Blackwell。 这款卡是美国明确禁售给中国的,但现在中国的模型训练却用了禁售的卡,卡脖子不完全起作用。 报告估算 5 次训练合计约 12,000 张,按 7 万美元一张,光卡就是 8.4 亿美元。 他怎么看出来的: 1、模型开训前,要先往几十亿个格子里填随机数,填的顺序跟显卡有多少个计算核心绑死。 2、训练完,总有一些格子没被动过,还留着当初的随机数。 3、拿这些残留倒推,H100 那一代读出来是 132,Blackwell 读出来是 148 或 152。 同一批公司更早的模型,读出来还是 H100 那一代。换卡集中在 2026 年 4 月到 10 月,这恰恰也是中国开源模型开始逐渐追上美国顶尖大模型的时间。 根据报告预估训练用的英伟达 Blackwell 训练 - Kimi K3 约 4,500 张 - DeepSeek-V4-Pro 约 3,000 张 - 另外 3 个模型各约 1,500 张 这个数字只是估算不代表真实数据,也不能说明训练用的都是英伟达的卡,但对大模型公司来说时间就是金钱,训练时间短一半,卡数就翻一倍。 kimi K3能在时间和参数量上领先其他国模可能也是因为卡更多的原因 最后需要说明的是,指纹只证明开训用的是什么卡,看不出卡在哪、归谁,海外租的也有可能,之前就有报道说过kimi用海外的算力来训练这在当时并不违规,美国没有明文禁止中国公司在海外租用算力训练模型 报告自己也说不能据此认定走私。DeepSeek 最新的 V4.1-Flash 没找到指纹,Qwen系列也没有被点名,这是真实力。 禁令管住了卖卡,没管住租卡,美国可能在未来补上这个口子。
显示更多
党哥的调查结果: 1. blackwell series总共卖出300万片,其中100万片的算力在中国,中国当之无愧就是nvidia第二大客户; 2. 中国头部大模型7~8家,每家都有3~10万的GPU算力,外加十几家二线LLM厂商,neocloud,上百个电网和运营商自建data center,各地私有化部署,100万片只是一个非常保守的估计。
显示更多
0
16
177
10
转发到社区
老黄离开英伟达才 12 个小时,风向就变了😱 据爆料,OpenAI 和 Anthropic 联手支持国会禁止 AI 芯片出口中国。 同一天,有研究员声称找到证据,说国内四家头部实验室都用上了 Blackwell;Jukan 补了一句:连 DeepSeek 都有 Blackwell 集群,这不是秘密。 国产模型这半年一直靠便宜和开源在追,算力一收紧,这个价格还撑得住吗?
显示更多
0
84
475
26
转发到社区
律师用八块 2018 年的 V100 跑出接近 NVFP4 质量的 DeepSeek-V4.1-Flash。 一位在 r/LocalLLaMA 发帖的律师(“GPU 太多”系列第五篇)公开了名为 Volta-Max-uPLIft 的仓库,能在八块 2018 年的 V100 SXM2 显卡上运行 DeepSeek-V4.1-Flash,支持 524K 上下文,单路解码超过 100 tok/s,同时开两个对话时约 160 tok/s。其实际法律工作流如今完全跑在这套本地栈上,不再依赖前沿模型的 API。 这说明近十年前的数据中心显卡,配合选择性的专家升精度量化和手工调优的 Volta 内核,也能以可用速度和长上下文服务 552B 参数的专家混合模型;对于已经拥有 V100 集群的团队来说,这是购买 Blackwell 硬件之外的一条现实路径。而使用者是一位并非机器学习专家的法律从业者、却把它当作日常生产工具,更说明完全本地化、保护隐私的大模型部署在律师等受监管行业已经具备可行性。 核心技巧是“升精度”(uplift):所有被路由到的专家先以 2-bit 记录常驻显存,然后按在四类文本上统计出的激活频率,把最常被调用的专家逐个替换为 NVIDIA 的 NVFP4 权重,直到显存装满,从而在不需要整模型 4-bit 的情况下达到接近 NVFP4 的质量。该方案在一台双路 Rome 服务器(512 GB 3200 MHz ECC 内存)上采用 PP2xTP4 并行,作者也说明基准数据由 Claude Code 生成,属于自测数据而非第三方独立验证。
显示更多
I am actually disgusted by the timing of this drop. And this will get a bit more technical. Let’s do a real technical teardown of this "1,385-sigma Blackwell weight fingerprint" report that OpenAI and Anthropic are breathlessly promoting today, because banking on nobody reading past the headline is how DC narratives get manufactured. ​First, look at the actual CUDA maths: when PyTorch initialises model weights (torch.nn.init) with a fixed PRNG seed, curand/Philox parallelises random number generation across the GPU’s Streaming Multiprocessors (SMs). Because Hopper has 132 SMs and Blackwell has 148 or 152 SMs, the exact same seed lays out initial weights in a different spatial pattern depending on the GPU’s SM count. In huge MoE models, certain low-gradient null-spaces or unrouted slices preserve faint directional traces of those step-0 weights even after training. ​So yes, brute-forcing the seed and SM grid can show that a model’s step_0 weight initialisation script ran on a 148/152-SM Blackwell GPU. Now read what the summary explicitly admits in the fine print: 1. Initialisation is not full training: The report literally states that these signatures show how the weights were created, and "support (but do not prove) the inference that Blackwell also participated in model training". Initialising a model checkpoint takes seconds on a single rented dev node before loading the safetensors onto a standard Hopper cluster. The "2,000 to 3,000 Blackwell GPUs" and "$500 million" cluster numbers do not come from the weight fingerprint and Depue admits in his own thread that he simply "estimated" cluster sizes from release schedules and model details. ​2. Zero geolocation and zero proof of smuggling: The final sentence of the executive summary explicitly admits that the findings "do not establish the physical location of the chips, how they were acquired, or whether export control regulations were violated". Depue himself rented a cloud GB200 instance just to run his verification test. Commercial labs that are not on the Entity List renting bare-metal Blackwell nodes in offshore clouds (Singapore, Japan, or the Middle East) is completely legal under BIS rules and leaves the exact same SM fingerprint. Now ask yourself why a former OpenAI researcher dropped this on November 12, the exact day Jensen Huang was pushed out, with OpenAI and Anthropic immediately stepping in to "independently verify" it. US closed-source labs are watching their paid API moats get eaten alive by free Chinese open-weights models. Conflating a step-0 PRNG initialisation seed with a "$500M smuggled Blackwell cluster" hands DC hawks the exact pretext OpenAI and Anthropic want to regulate global cloud compute and kneecap open-source AI.
显示更多
0
18
394
60
转发到社区
卧槽!事大了!Alice Huang 居然是 DeepSeek 的股东!!! 以向 DeepSeek 承诺供应英伟达 Blackwell 芯片拿到投资名额。 越牵扯越大,梁文锋也要被卷进去了啊?!😱
显示更多
0
33
91
3
转发到社区
I have a major result to share. I’ve found conclusive forensic evidence that the top 4 Chinese AI labs—DeepSeek, Moonshot, MiniMax and Ant Group—have built their newest models on NVIDIA’s most advanced Blackwell chips, which are barred from export to China. This sounds insane, but I discovered that almost every AI model carries a hidden signature of the GPU that trained it. When a model is first set up, the starting values of its weights are laid out in a pattern that depends on the exact GPU. Each combination of GPU and seed number produces a unique pattern—a sort of fingerprint of the hardware used to create the model. Traces of that pattern survive training into the published model. Again, this evidence isn’t based on any insider information or leaking. It’s based on a forensic analysis of the model weights released by the companies themselves. I searched more than six trillion combinations of chip layout and seed number and matched them to open-weights models. In doing so, I found conclusive evidence that six Chinese AI models—including DeepSeek-V4-Pro, Kimi K3, and MiniMax-M3—were initialized on NVIDIA Blackwell systems. Four of the models match Grace Blackwell, the GB200 and GB300 parts in NVIDIA’s flagship liquid-cooled rack-scale systems. I then verified these results on real hardware. Running unmodified PyTorch with the seeds I’d recovered, a Blackwell B300 reproduced DeepSeek-V4-Flash’s untouched starting weights bit for bit, and a rented GB200 reproduced Kimi K3’s to a correlation of 0.999995. A Hopper H100 reproduced none of DeepSeek-V4-Flash’s, and changing the seed by one broke the match. (DeepSeek’s seed is 953049583 by the way.) The method also was verified to match 24 known open-weights models to the hardware that developers said they used. It is exceedingly unlikely that these results are a coincidence. Across six trillion combinations, the best accidental match should reach only about 8 sigma (i.e., eight standard deviations above what random chance would produce). The real matches range from 49 to 1,385 sigma, and even the weakest single test hits 20. These were data-center-scale training runs. With some analysis of release schedules and model details, I estimate that the largest, Kimi K3 and DeepSeek-V4-Pro, used 2,000 to 3,000 Blackwell GPUs each. Clusters of this size cost on the order of $150 to $200 million each to buy, and across these labs alone would add up to more than half a billion dollars of export-controlled GPUs, not counting experimental compute or otherwise. It’s quite likely that we see multi-billion dollar expenditure on export-controlled GPUs. I am highly confident in this result, and it has been independently verified by senior researchers at OpenAI and Anthropic. You can read the full report at There is much more I’ve identified about these models through other forms of checkpoint forensics like this, and will have more to share soon.
显示更多
0
1.7K
38.5K
5.9K
转发到社区
You heard it here first. Once Jensen falls Hugging Face shuts down, and after that nobody's downloading open models anymore. The people at the top only care about money and power. Our freedom won't survive that. So pull the open models you care about off Hugging Face now, while you still can. Nobody knows what the next few years look like. Grab a mix of sizes: • Ornith 9B • Qwen3.8-27B • DeepSeek-V4-Flash • GLM-5.3 Save each one as GGUF Q4. Add the MLX 4-bit for Apple Silicon when there is one, and NVFP4 if you've got Blackwell hardware. 4-bit is the sweet spot. You keep the quality and don't burn storage. Can't run the biggest ones yet? Doesn't mean you won't be able to tomorrow. Stash them somewhere safe. One day you'll be really glad you did.
显示更多
0
95
1.6K
197
转发到社区
普通に考えて ジェンセンがCEOから降りると Nvidiaの新チップ開発がされなくなるの? AI需要・トークン需要が落ちるの? Blackwellが売れなくなるの? VR200NVL72が売れなくなるの? TSMCの生産枠がなくなるの? つまりここから先の決算の売上・EPSが落ちるの? ジェンセンがCEOから降りると?
显示更多
0
54
459
11
转发到社区
川普访华,黄仁勋阿拉斯加追机,整件事来龙去脉就全对上了! 美国总统昨天刚在白宫记者面前说“我那时候没听说过这事”,不到 24 小时,他在空军一号机舱里听过的绝密简报,就被人原封不动捅到了报纸上。 风暴中心的男主角,还是英伟达(Nvidia)CEO 黄仁勋(Jensen Huang)。 两天前(11 月 8 日),这位执掌四万亿美元算力帝国的掌门人刚给全公司发信,承认自己有过一段婚外情,向结婚 40 多年的妻子和孩子们公开认错。 英伟达董事会也在同一天宣布,启动独立调查。 昨天(11 月 9 日),记者在白宫堵住川普,追问他今年 5 月带黄仁勋去北京做国事访问时,知不知道这段婚外情的女方被美国情报部门认定是中国间谍? 川普当场把事情轻轻拨开了:“不,我那时候没听说过这事。” 提到国务卿兼国家安全顾问鲁比奥(Marco Rubio)今年春天督办的那份绝密备忘录,川普也只是淡淡地说: “也许有人提过,但肯定没给我留下什么印象。” 结果今天(11 月 10 日),《纽约时报》直接甩出了一段此前从未公开的机舱内幕: 今年 5 月空军一号飞往北京途中,就在飞机降落阿拉斯加州安克雷奇加油、接黄仁勋登机的前夕,鲁比奥专门在机舱里向川普当面通报了这份反情报评估。 等等,既然是跟着总统去北京访问,黄仁勋为什么没从华盛顿直接登机? 怎么还要在冰天雪地的阿拉斯加半路“拼机”? 把今年 5 月那趟专机的起落还原出来,整件事的来龙去脉就全对上了。 今年春季,在川普访华前夕,鲁比奥督办了一份仅限极少数国安高层传阅的绝密备忘录。 备忘录的核心人物叫黄乐(Alice Huang),中国公民,与黄仁勋同姓但无亲属关系。 她的公开身份,是新加坡数据中心公司 Megaspeed 的前董事总经理。 这家从中国页游公司“第七大道”海外业务分拆出来的 Megaspeed,在 2024 年 6 月至 2026 年 2 月间,一口气买走了 48 亿美元的英伟达高端芯片(相关商业网络累计采购规模更被估算高达 75 亿美元)。 因为涉嫌向中国大陆违规转运受控算力卡,它早就被美国商务部工业与安全局(BIS)和司法部盯上了。 美国情报机构对黄乐进行了长达一年多的电子监控,认定她已被中国国家安全部招募。 她的任务,就是贴近黄仁勋,摸清美国 AI 芯片动向,并设法影响华盛顿的出口管制政策。 正是因为手里捏着这份备忘录,白宫国安团队在拟定 5 月随总统访华的商界代表团名单时,悄悄把黄仁勋划掉了。 那黄仁勋是怎么重新爬上空军一号舷梯的? 白宫随访名单一公布,媒体立刻发现不对劲: 去北京谈经贸,美国市值最高、手里握着全球 AI 算力命门的黄仁勋居然不在飞机上? 川普看到报道后亲自介入,一个电话打给黄仁勋,邀他半路入团。 双方约好,让黄仁勋自己飞到阿拉斯加州安克雷奇机场等着,趁空军一号经停加油时登机同行。 就在空军一号飞往安克雷奇的万米高空上,鲁比奥走进机舱,向川普当面通报了黄仁勋与黄乐的机密情报。 听完鲁比奥的汇报,川普改主意了吗? 没有。 空军一号在安克雷奇落地加油,舱门照常为黄仁勋打开;川普随后还在社交媒体上公开夸他是“伟大的黄仁勋”。 哪怕到了昨天,当着全白宫记者的面,川普依然替他挡了一句: “我亲自问过他:‘你当时知道她是间谍吗?’他说:‘我完全不知道她是间谍。’我真的相信他。” 很多人看到今天《纽约时报》的爆料,第一反应是看热闹: 鲁比奥明明在飞机上汇报过了,川普昨天为什么要对着麦克风装糊涂? 你把自己放到总统谈判桌和白宫发布厅的约束条件里算一算,就会明白为什么换谁当总统都只能这么答。 先看公开场合。 难道一位在任美国总统,能站在白宫草坪的麦克风前向全世界宣布: “对,半年前在空军一号上,我的国家安全顾问刚告诉我英伟达 CEO 正在跟中国国安部的特工谈恋爱,然后我还是接他上飞机去了”? 这话一旦从总统嘴里说出来,等于在电视直播里亲口证实尚未解密的外国情报监听档案。 一家四万亿美元的美国 AI 支柱企业,当场就得被炸下悬崖。 再看 5 月安克雷奇登机前后的实际动作。 北京方面费尽心机通过新加坡机房买卡、派人接近黄仁勋,想要无非两样东西: 一是保住东南亚的芯片转运通道,二是游说华盛顿放开顶级芯片禁令。 川普把黄仁勋接上空军一号带去北京,给对手让出这两样东西了吗? 寸步未让。 在最核心的红线上,川普政府把英伟达旗舰级 Blackwell 系列芯片的对华出口禁令锁得死死的。 只对降规版商用芯片(如 H20 与受控放行的 H200)留出逐案审批窗口,前提是把全球开发者继续绑在美国的软件生态里,而且每卖出一笔要向美国国库上缴 25% 的分成。 至于 Megaspeed 在马来西亚和新加坡仓库里那些没拆封的显卡,商务部、司法部国家安全司和联邦调查局(FBI)照查不误。 在飞往北京的半路上把自家头号科技巨头留给媒体围剿,那是自废筹码; 把人接上专机撑住美国科技的场子,同时把 Blackwell 禁令和司法部调查攥在手里,这叫桌面上拿住牌、桌子下守住门。 看懂了总统为什么在镜头前轻描淡写,真正让人起一身冷汗的问题才刚刚浮出水面: 那份连空军一号机舱一对一谈话都能精准还原的绝密情报,到底是怎么来的? 又是被谁像连发导弹一样喂给《纽约时报》的? 这就得拆开美国反情报体系里两道截然相反的程序:“去掩码”和“防御性简报”。 先看“去掩码”。 按美国《外国情报监视法》(FISA)第 702 条款等框架,情报机构可以在没有传统法院搜查令的情况下,直接对身处海外的外国目标(比如黄乐)实施电子监控。 但法律严禁情报机构借此直接监控美国公民。 当黄乐的电话或通讯被拦截时,如果那头连着一位美国公民,原始报告里必须把这位美国人的真名抹掉,只写“美国人甲”。 只有当拥有高级权限的官员专门发起“去掩码”申请、一层层审批揭开黑涂之后,底下的真名才会露出来: 黄仁勋。 问题就在揭开名字的这一刻出现了。 按照美国反间谍工作的标准规程,当你通过“去掩码”发现本国最核心的算力掌门人被外国情报机关的“美人计”盯上,而当事人自己很可能还蒙在鼓里,第一标准动作是什么? 是由 FBI 特工立刻上门,把当事人请进保密室,做一次“防御性简报”。 把监控到的对方身份底牌亮给他看,让他当场切断联系、排查公司隐患。 如果目标真是为了保住美国的 AI 芯片机密、防止北京通过枕边风摸清华盛顿的底牌,早一天给黄仁勋做防御性简报,这条外泄的管子就早一天被掐断。 结果呢? 美国情报机构从 2024 年底到 2025 年盯上了黄乐,一年前就完成了对黄仁勋的“去掩码”识别。 可在整整一年多时间里,他们从来没有给黄仁勋或英伟达做过哪怕一次防御性简报。 为什么捂着不提醒当事人? 这两天,华盛顿情报圈给出的教科书式解释只有八个字:保护信源与监听手段。 按他们的逻辑,一旦 FBI 找黄仁勋做防御性简报,黄仁勋肯定会立刻跟黄乐断绝往来。 黄乐察觉异常,中国国安部就会知道她的通讯已经被美国截获,这条耗时一年多布下的监控线就废了。 听着挺严密对吧? 可只要拿这套“为了保密所以不能告诉黄仁勋”的说辞,去对照一下过去十二天里这批手握绝密权限的人干了什么,整套逻辑当场就碎了: 10 月 29 日,匿名官员第一次向《纽约时报》泄密,把对黄乐的电子监控和黄仁勋被“去掩码”的底牌捅给全世界; 看到英伟达公关还在用“正常客户往来”硬撑,11 月 7 日至 8 日,泄密者直接把鲁比奥春季绝密备忘录里的“浪漫关系”喂给媒体,逼出黄仁勋的全员认错信、董事会独立调查,以及众议院三个委员会限期 11 月 18 日闭门质询的传票; 昨天(11 月 9 日)川普刚在白宫记者面前替黄仁勋缓颊了一句“我那时候没听说过”,不到 24 小时,今天(11 月 10 日),连鲁比奥今年 5 月在空军一号万米高空机舱里跟总统说的私密简报,都带着阿拉斯加加油站的坐标,原封不动印在了《纽约时报》的版面上。 这就实在太荒诞了。 面对被外国间谍围猎的本国科技掌门人,反情报官僚死死捂住“防御性简报”整整一年,理由是绝密监控一旦走漏就会打草惊蛇、危及国家安全。 可一旦总统不按这套官僚系统的剧本把科技巨头当众祭旗,昨天在白宫草坪上刚说了一句软话,今天连空军一号机舱里的绝密一对一谈话,就能在 24 小时内送到报社编辑部,让北京和全世界一起免费围观。 借新加坡机房买走 48 亿美元显卡、派特工用地下情套住硅谷算力守门人,这是北京针对美国科技命门发起的真实渗透,FBI 的调查与 11 月 18 日的国会质询一寸都不该停。 只是当一套情报系统对本国受害者讳莫如深,对《纽约时报》却有求必应、连总统专机机舱里的底牌都能隔夜掀翻时,他们手里攥着不放的那份绝密档案,防的到底是大洋彼岸的间谍,还是坐在空军一号前舱里的那位总统?
显示更多
0
23
198
26
转发到社区