注册并分享邀请链接,可获得视频播放与邀请奖励。

与「加速器」相关的搜索结果

加速器 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 加速器 的内容
📚 李博杰刚开源了一本《深入理解 AI Infra》,想搞懂大模型推理和训练到底卡在哪,这本书直接从硬件极限一路算给你看。 《深入理解 AI Infra》的仓库 8 月下旬才建,现在已经 7500 多 star。它是李博杰《深入理解 AI Agent》的姊妹篇,那本在 GitHub 上是 5 万+ star。 以前学 AI Infra,看到的多是「用了什么框架、调了哪些参数」,为什么要这么设计,往往没人讲透。 这本书反过来,从约束推导设计,反复追问五个问题:搬什么、搬多少、搬几次、经过哪里、谁必须等它。十二章从模型架构、加速器、超节点、数据中心网络,一路讲到推理优化、分布式推理、训练系统和端边云协同。 配套的计算工具只要 Python 标准库就能跑,不用 GPU,也不用下模型权重,书里的数可以自己算一遍。中文原版之外还有英文、繁中和俄语的社区译本,PDF、EPUB、在线阅读都有。 要说明的是,书稿目前还是初稿,作者在持续修订。 想把 AI Infra 从「会用」学到「会算」,这本值得放进书单。 GitHub:
显示更多
0
9
510
85
转发到社区
昨天 DeepSeek 开源的 TileLang Ascend 很有意思。抽象层次跟我 2019 年在昇腾里做的 AKG 里面的 isl schedule 很类似,都是把 L0 A/B/C(矩阵计算的输入输出缓冲)、UB(向量计算的缓冲)等显式分配出来,然后编排数据搬移和计算。 一直有不少人说,昇腾难编程;架构是为 CNN 定制的,不适合 Transformer。我认为这两个说法都站不住脚。 首先,随便写个 CUDA 算子确实是不用关心片内的缓存层次,也不用做矩阵和向量计算单元之间的同步,也不用让数据按照 16 的倍数对齐。但是要把性能优化到极致,还是必须考虑 GPU microarchitecture 的。不想自己折腾数据搬移和同步的可以试用我们开源的 AKG 自动生成算子,写 Python 总比写 CUDA 简单。 其次,昇腾跟 TPU 等很多加速器类似,都是考虑到 Transformer 等神经网络的计算特征(QK 矩阵计算 -> Softmax 向量计算 -> PV 矩阵计算这样交错进行),使用专用缓冲区甚至 950 中的专用数据通路来降低数据搬移开销。Img2col 这些为 CNN 定制的指令也换成了为 Transformer 定制的 NDDMA 数据重排指令。要知道,950 的制程跟 A100 是相当的,但性能可达 H100,就是靠架构优化。 截图出自我的开源书《深入理解 AI Infra》
显示更多
0
4
122
10
转发到社区
6/ Neo 又押中了一次 Listen Labs 早期曾进入 Neo 加速器,并获得一张 60 万美元的 SAFE。 据估算,这笔投资如今价值超过 2500 万美元。 而就在三个月前,Neo 还通过 Cursor 的收购获得了超过 1000 倍回报。 这笔交易几乎让所有参与者都赢了:Sequoia、Ribbit、Conviction、Pear、Neo,以及 Listen Labs 的创始人与团队。
显示更多
人民警察提醒您: 1网络非法外之地,私自“翻墙”必受追究 2不装VPN、不搭梯子、不连非法境外信道 3翻墙=违法+泄密+丢工作+担刑责 4查资料不限境内,走合法渠道才安全 5涉密不上网,上网不涉密,坚决不翻墙 6一次猎奇翻墙,终身留痕追责 7拒绝“免费加速器”,远离木马与窃密
显示更多
0
195
160
7
转发到社区
跨境 B2B 做得再大,手續費跟匯損也吃掉不少利潤?💸 做全球貿易,最怕的不是沒有訂單,而是資金卡在路上、收付卡關。 給 PhotonPay 一分鐘,解鎖你的全球收付加速器: 全球收付,輕鬆無阻滯 跨境資金流動從此像本地轉帳一樣快
显示更多
从数据中心建设节奏说说为什么光互联现在进入了业绩爆发期?最早是7月下旬提到光互联业绩兑现空间也很好。8月4号还详细写了一篇看好光互连的逻辑、一周过去多光好像成为了共识。除了之之前聊到的逻辑,再从数据中心建设节奏的角度聊聊: 1、云厂商CapEx节奏与数据中心建设时间线 超大云厂商资本开支大规模提速在25年下半年,看看数据中心建设典型节奏: 1)前期(数月到1年+):选址、许可、土建、厂房、电力基础设施(变电站、变压器、冷却)。 2)中后期(建设后半年至1年多):机柜/服务器进场、网络布线、组网调试。AI机柜功率密度极高(单机柜几十到上百kW),需要密集光纤和高速互联。 能看出什么来? 去年下半年开始的大规模数据中心建设在今年二季度现在正好进入了服务器进场,网络布线、组网调试阶段。时间线就是: 1)2025 H2-2026年初土建/电力推进,2)2026年进入服务器密集部署窗口,光模块需求同步或略提前爆发(因供应链长周期需提前锁定)。 2、AI集群越大对互联的要求越高 GPU/ASIC间参数同步、scale-up(机柜内/跨机柜)、scale-out(集群间)、scale-across(多数据中心)都需要大量高速光模块。传统铜缆在距离、带宽、功耗上受限,光成为刚性需求。单个加速器配比光学连接数上升(从约1:3到1:4.5甚至更高),光在总CapEx中的占比提升也很快。 而且整体还在从从400G/800G向1.6T迁移,单模块价值更高;scale-up场景光学渗透提升。未来NPO到CPO也陆续在落地。 简单说这就是数据中心建设的滞后效应的体现: CapEx公告 → 土建/电力(2025)→ 服务器部署(2026)→ 光模块密集消耗。然后AI集群规模从万卡向十万卡级扩展,进一步放大光学需求。 而这两天热议的“多光空存”,放在当下这个时间节点看、“空存”其实已经不具性价比了,毕竟存储板块已经经过了大幅度调整,调整本身就是释放了风险。个人认为现在看存储还是有空间、只是涨幅最暴力的阶段过去了、不那么easy了,走势也不会像上半年那么丝滑了。 如果存储现在是个复杂题、 光互连可能就是当下的这道简单题了。
显示更多
0
38
74
10
转发到社区
腾讯的网络加速器一直不温不火的,各大网吧都是被网易UU加速器垄断,对于腾讯来说剩下的就只有网吧特权了 上个月向TGPA进行了申请,起因是看到某OS的应用市场内置了这个组件,可以优化腾讯游戏在家用路由场景的使用体验。例如组团开黑、预下载等 当然,腾讯作为一家大厂,居然能不收费授权。第一次感受到腾讯的格局之大,如果能给C端消费者带来更好的体验,那对于我们的投入都是值得的
显示更多
TTCLOUD加速器 一键客户端,GIA线路,多AI平台优化 欢迎品鉴
🚀 银狐VPN加速器,让全球网络触手可及! 🦊 银狐VPN 为你提供高速稳定的全球网络连接,一键畅游互联网世界。 ⚡ 高速节点,极速连接 精选全球优质节点,低延迟、高带宽,轻松告别网络拥堵。 📱 一键连接,简单易用 新手也能轻松上手,随时随地开启高速、安全、稳定的网络体验。 立即下载银狐VPN,开启属于你的自由网络新时代!
显示更多
0
34
44
0
转发到社区
学习和成长加速器有两种:跟对人、多阅读; 当下,还应加上一条:用好AI。 1.跟人: 向那些已做出过成绩的人学习,当然少走弯路,“敢于天下后”是这个逻辑。先观察别人怎么做,怎么错,怎么改。 另一个困难是持久性。如何走正道,少掉入诱惑陷阱?关键在于认识与理解世界的运行规律,并建立起框架认知。
显示更多