注册并分享邀请链接,可获得视频播放与邀请奖励。

与「算力」相关的搜索结果

算力 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 算力 的内容
200多元上车Gemini Ultra 5倍额度的羊毛先别急着冲,避坑指南看这一篇就够 不少开发者盯上了Google Antigravity生态里的算力红利,想通过低价套餐直接拉满Ultra甚至调用Opus 5.5的高阶模型额度。 实际下单最大的门槛在Google账号的底层归属地和支付风控,直接裸连打开很容易直接遭遇地区墙报错拦截。 想要顺利订阅,必须提前准备原生干净的对应地区IP,并确保Google支付资料的国家与代理出口保持严格一致。 建议优先选择支持本地货币绑卡结算的外币虚拟卡,避开高风控节点,避免反复切换网络导致账号被风控锁死。 #AI工具# #独立开发#
显示更多
End-to-End 4-Bit Training:让大模型用更粗糙的数字格式完成全流程训练,大幅缩短显卡训练时间 训练大模型需要处理海量数据,直接把数字精度压到4位虽然能加快计算,但四舍五入累积的误差会严重拖垮模型的学习效果。 为了解决这个矛盾,Thinking Machines Lab在英伟达GB300显卡平台上开发了名为BBBK的专用底层加速程序。采取了分工策略,在模型向前推理计算时使用高速度的4位数字格式NVFP4,在向后更新参数时切回较精细的8位格式MXFP8,并在传输数据时顺手进行旋转压缩与随机舍入修正,省去了传统训练完成后还要单独做低精度校准的麻烦步骤。 这套方案应用在Inkling 2 Small模型的全流程训练中,显卡的运算管道和传输带宽同时跑满,没有出现互相等待的卡顿。原本需要好几周才能跑完的同体量模型,现在在GB300机柜上只用了68小时就完成了预训练。对比全程使用8位格式训练,新方案在预训练阶段节省了8%的时间,在强化学习阶段直接提速了20%,省下了大量算力开销,同时模型最终的回答准确率几乎没有受到影响。 链接:
显示更多
我一生干了两件事,一是把 NVIDIA从一家做显示卡的小公司,带到了人工智慧的世界中心。三十三年,把 GPU 从游戏机里搬出来,搬进了超级电脑,搬进了数据中心。对这件事持异议的人不多,只有那么几个人,在我耳边叽叽喳喳,无非是嫌我们的显卡太贵,还要排队买罢了。 另一件事你们都知道,就是发动了这场AI大革命。这件事拥护的人不多,反对的人也不少。这两件事还没有完,这笔遗产得交给下一代。怎么交?和平交不成,就在算力竞争中交;搞不好就技术封锁、晶片禁运了。你们怎么办?只有天知道。
显示更多
这回真完了。。。 没有英伟达用资产负债表做全额信用背书,银行团根本不敢给高耗电、高折旧的二线算力中心批出百亿美元贷款。 AI次贷危机?
显示更多
昨天最炸裂的消息就是,前OpenAI研究员 @willdepue 发现DeepSeek、Kimi、MiniMax、蚂蚁最新的 6 个开源模型,训练用的全是英伟达 Blackwell。 这款卡是美国明确禁售给中国的,但现在中国的模型训练却用了禁售的卡,卡脖子不完全起作用。 报告估算 5 次训练合计约 12,000 张,按 7 万美元一张,光卡就是 8.4 亿美元。 他怎么看出来的: 1、模型开训前,要先往几十亿个格子里填随机数,填的顺序跟显卡有多少个计算核心绑死。 2、训练完,总有一些格子没被动过,还留着当初的随机数。 3、拿这些残留倒推,H100 那一代读出来是 132,Blackwell 读出来是 148 或 152。 同一批公司更早的模型,读出来还是 H100 那一代。换卡集中在 2026 年 4 月到 10 月,这恰恰也是中国开源模型开始逐渐追上美国顶尖大模型的时间。 根据报告预估训练用的英伟达 Blackwell 训练 - Kimi K3 约 4,500 张 - DeepSeek-V4-Pro 约 3,000 张 - 另外 3 个模型各约 1,500 张 这个数字只是估算不代表真实数据,也不能说明训练用的都是英伟达的卡,但对大模型公司来说时间就是金钱,训练时间短一半,卡数就翻一倍。 kimi K3能在时间和参数量上领先其他国模可能也是因为卡更多的原因 最后需要说明的是,指纹只证明开训用的是什么卡,看不出卡在哪、归谁,海外租的也有可能,之前就有报道说过kimi用海外的算力来训练这在当时并不违规,美国没有明文禁止中国公司在海外租用算力训练模型 报告自己也说不能据此认定走私。DeepSeek 最新的 V4.1-Flash 没找到指纹,Qwen系列也没有被点名,这是真实力。 禁令管住了卖卡,没管住租卡,美国可能在未来补上这个口子。
显示更多
牛初的回调有多极端? BTC 从 87,396 跌到 66,614,回调 23.8%。2023 年牛初那次,从 25,250 跌到 19,549,回调 22.6%。跌幅几乎一样,但这次难受得多。本次涨幅已经抹掉了 70%。跌了 54 天,还没结束。 把两段摆一起看。2023 年,15,476 起涨,涨 63% 到 25,250,再回调。这次,57,800 起涨,涨 51% 到 87,396,再回调。涨得更少,吐得更多,拖得更久。 为什么会这样,有什么不一样: 1. 均线位置不一样,2023 年没有跌破 120 日均线位置$19,632,这次价格回调直接下穿到120 日均线$75,561,这价格也是微策略持仓成本价 2. 背景不一样,这轮是从 126,200 一路跌到 57,800 之后的反弹,跌了 54%,上面套着的人太多,每涨一段都有人解套卖,这几天下跌加速 3. 杠杆还没洗干净,币安合约持仓 24 小时只降了 2.8%,散户账户多空比 3.24,资金费率几乎是零。 跌了这么多,散户还在抄底做多,这种盘面一般不会马上结束还有插针风险。 按 矿机关机价算,电费 0.06 美元一度,22 款主流矿机的关机价中位数是 62,699。这次 66,614 的低点,再往下是 T21 的 64,572。7 月的低点 57,800,落在 S21 的 59,474 和 S21 水冷版的 54,376 之间。 关机价只算电费是矿工的现金成本线。关机价会随算力规模调整 关键看 57,800。守住,这次就是一次偏深的二次探底,和 2023 年的节奏还能对上。跌破7 月那个低点57,800就不算这轮周期的底。
显示更多
最近看到一个比较冷门的 PoW 项目 Soqucoin,值得关注的不是短期币价,而是它在尝试解决一个长期问题:量子计算对传统钱包签名的威胁。 Soqucoin 主网在10月13日启动,采用 Scrypt 工作量证明,交易签名使用 NIST 标准化的 ML-DSA-44,也就是后量子签名方案 Dilithium。 它还实现了 PAT,用 Merkle 聚合方式提交批量签名证明。 但不要把项目路线图全部当成已经落地: SoquObscura 隐私交易系统目前仍处于研究阶段,没有在任何网络激活。官方明确说明,相关性能数据来自研究实现,不代表主网已经具备这些功能。 节点运营者还要留意一个时间点:2.6.0 设定从主网区块高度67,000开始强制检查 Chain ID,原先预计约11月23日触发;当前最新维护版本是2.6.1。 如果运行节点,建议直接检查官方版本和后续高度调整公告。 项目代码: 后量子叙事不稀缺,真正值得观察的是:签名方案是否经过长期实战、网络有没有持续算力和用户,以及新机制能否稳定运行。
显示更多
最近 AI 赛道有个变化值得关注,Anthropic 冲刺 IPO,让我感觉整个行业正在进入新的阶段。 以前市场炒 AI,更多看的是想象空间,只要和大模型、算力沾边,资本就愿意给高估值,至于什么时候盈利,反而没那么重要。 但现在风向似乎变了,市场开始关注 AI 公司的真实价值,不再只看技术和故事,而是更在意营收、商业化能力以及未来能不能真正赚钱。 我觉得这不一定是坏事。AI 行业正在从炒预期转向看业绩,估值回归理性,对真正有实力的公司反而是一次筛选。 对投资者来说,接下来不能只看概念就盲目追高了,还得关注项目的实际竞争力和盈利能力。 过去我们投资 AI,更多是在押注梦想;现在市场开始认真计算,这个梦想到底值多少钱。AI 的长期空间依然很大,但投资逻辑确实需要改变了。
显示更多
0
23
21
1
转发到社区
# 模型缩小四倍还不翻车?不是压得够狠,是量得够准 先说结论:大多数人以为量化是把模型压小一点、省一点显存,压得越狠、省得越多,这个想法只对了一半。量化真正值钱的地方不是省显存,是省钱加变快,模型缩小两到四倍之后,小批次推理常常反而更快,因为瓶颈不在算力,在记忆体频宽,搬的位元组少了,每秒吐出的字元单位就多了。作者第一次把大模型推到真实使用者面前,七 B 模型用十六位元载入,光权重就吃掉十四 GB 左右的显存,帐单难看得很,有人随口问一句要不要试试量化,她当晚掉进一堆缩写的兔子洞,才整理出这篇指南。 先说清楚底线:十六位元每权重两位元组,七 B 模型约十四 GB、十三 B 模型约二十六 GB。压到八位元,七 B 模型约七 GB、十三 B 模型约十三 GB。压到四位元,七 B 模型约四 GB、十三 B 模型约七 GB,模型缩小两到四倍。作者打了一个很准的比方,量化就像把照片从巨大原始档压成调校过的压缩图,手机上看起来几乎一模一样,体积却只剩一小部分。权重就是模型的照片,十六位元是原始档,四位元是压缩图,压得好,大多数人看不出差别,压得不好,细节先糊掉。关键在压得好不好,不在压得多不多。 怎么做?顺序只有一个,先用五分钟实验确认方向,再挑上线或随处跑的格式,最后拿自己的提示词量过再灰度发布。五分钟实验用四位元载入工具快速试,零校准资料、零转换步骤,一个下午就能知道显存占用下降约七成、模型还能不能讲话。显卡上线用服务引擎带量化参数直接起一个相容接口,热门模型在模型仓库里已经有现成的四位元检查点,不用自己压,没有就用压缩工具自己做一个。随处可跑的路是转成通用格式再量化,中央处理器、笔电和苹果晶片都能跑,四位元中档是尺寸与品质的甜蜜点,更保险就往上走五位元或六位元。 小心三件事。第一,压完只跑几个提示词就上线一定翻车,作者就是这样翻车的,结构化资料输出偶尔格式损坏,两天后才被使用者抓到,通用评测完全没抓到。第二,只看困惑度就放行不够,困惑度看起来没问题,任务品质可能已经悄悄下滑,它只能当参考,不能当唯一的验收标准。第三,别以为压完就一定变快,一种格式只有在服务引擎有对应的最佳化核心时才会真的变快,没在你自己的机器上实测过,纸上变快不算数。还要记住,键值快取不随权重量化缩小,长上下文服务照样可能爆记忆体,瓶颈在这里要另外看。 再往上加东西也有顺序:先写五十到一百条真实提示词,对照十六位元基线一条一条比,刻意去测最先崩的几类任务,长上下文、结构化 结构化资料 与函式呼叫、数学、程式码、非英文。验收不是打分数,是找变差的任务集中在哪里,集中在 结构化资料格式就升那类任务的位元,散在各处就整体升一档。真实负载下测延迟与吞吐量,不是空闲显卡上跑一条请求。最后先切一小部分流量灰度发布,没问题再全量,出问题立刻切回十六位元版,不要等到全部使用者都中奖才动手。 一句话:量化不是免费压缩,是一场交易,你只有量得够准,才有资格拿这场交易去换更小的帐单。今晚就能做的事:挑一个你正在跑的模型,用四位元载入工具跑一次五分钟实验,看看显存占用下降约七成之后,它回的第一句话还像不像它自己。 S1哥观点:别再问量化是不是把模型压坏的便宜行事,压坏模型的从来不是量化本身,是你压完只跑几个提示词、看一眼困惑度就敢上线。作者的教训就摆在那里,结构化资料输出偶尔格式损坏,通用评测完全没抓到,两天后使用者才回报。量化真正值钱的地方也不在省显存那一行,是小批次推理反而可能更快,因为瓶颈在记忆体频宽,搬的位元组少了,每秒吐出的字元单位就多了。更值得问的是,你现在跑的那个模型,是卡在帐单、卡在显卡太小,还是卡在速度?那个卡点,决定了你该挑哪种格式、压到几位元。你第一个想压小上线的模型是哪一个?评论区说说。 收藏用清单(照着做): 1. 先算帐再动手,七 B 模型约十四 GB,压到四位元约四 GB,模型缩小两到四倍,再留键值快取和执行开销的位置。 2. 挑对格式再压,快速实验用四位元载入工具,显卡上线用四位元的两种主流方法,笔电用通用格式,新款卡用八位元浮点。 3. 跑五分钟实验,确认显存占用下降约七成、模型回复正常,再写五十到一百条真实提示词对照十六位元基线逐条比。 4. 刻意测最先崩的五类任务,真实负载下测速度,先切小流量灰度发布,没问题再全量。 转给还在为模型帐单头痛的朋友,压小两到四倍再上线,量得准才不会翻车,他今晚就能先跑五分钟实验。
显示更多
网友:老黄走了,新法案落地了,从下个月开始,中国彻底没有海外的卡用了。所有的国模的训练都有可能会暂停,东南亚的百万卡的中国集群要彻底被切断了,无论是H100, H200+,还B200, B300+。当年华为为了一己之私,强行阻断了本来两国都已经批准的H200进口,拍着胸脯说自己能供给上,现在彻底被卡了。等华为明年能真正开始供给的时候,美国的AI在前方看不见的地方了。 老黄真是对中国最友好的CEO,过去几年用各种方法全力游说解除对中国的管制,并且对中国厂商的各种行为睁一只眼闭一只眼。各种沸腾还骂他,现在老黄也要下台了。你要知道,过去几年支撑中国大模型发展的,包括DeepSeek,支撑他们的其实是老黄,而不是华为。要不是老黄,根本就不会有国模的进展。 现在对中国最友好的老黄要下台了,之后怎么样? 华为的昇腾,单卡算力太低,即使有超节点,也很难训练大模。而且国内HBM+,良率极低,灰色通道进口的HBM数量极少,根本没法大规模供应。东南亚集群一旦断了,下一代大模型的路就会被堵死很长一段时间。
显示更多
0
34
181
17
转发到社区