注册并分享邀请链接,可获得视频播放与邀请奖励。

与「讀字夜語」相关的搜索结果

讀字夜語 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 讀字夜語 的内容
记得Defi Summer 20年到22年这三年时间,大家经常感慨的一句话就是“币圈一天,人间一年” 因为技术迭代太快了,每天都有数不行的新东西出来,几天不看就跟不上节奏 现在这个感觉在币圈彻底消失,在AI那边出现了,每天的新东西就看不完,真的看不完 正好这几天看到圈里讨论Cerebras的帖子多了起来,昨天还看到不少路演信息,毕竟14号要挂牌交易。之前在Amber做分享的时候也单独讲过这个公司(当时用的那页PPT放在文末),所以简单说下我对Cerebras的判断 先说结论:这家公司很有意思,但核心变量不一定是他们造的芯片本身,而是未来AI的workload形态会是成什么样。 先简单说下它是干嘛的,防止有老铁还没看Cerebras 它最核心的技术,就是wafer-scale chip(晶圆级芯片),简单理解就是别人还在用“邮票大小”的芯片,它直接把整片晶圆做成一颗超大处理器,再配上超大 SRAM,把大量数据尽量留在本地高速处理,减少传统GPU最头疼的memory bottleneck。现在海力士美光涨上天就是因为HBM这东西太抢手,Cerebras是直接绕开了对HBM的依赖 很多人看到 Cerebras最牛逼的benchmark:推理速度比GPU快10-15倍,第一反应就是下一个英伟达?! 先别急。 这个benchmark最大的问题,是默认AI的核心需求永远是“更快吐token”。 如果只是人类盯着ChatGPT聊天,这故事其实没那么性感。你每秒吐 30 个 token,我已经快读不过来了。再翻10倍,边际体验提升几乎为零。 真正有意思的是 Agent。 Agent不读字,Agent消费Token。速度直接等于生产力。 一个OpenClaw/Hermes agent,如果要读网页、写计划、调 API、跑代码、报错重试、继续执行,一个任务可能要几十次 inference call。 每次 2 秒,任务就是分钟级体验。 每次 200ms,就是另一个世界。 所以 Cerebras更值得关注的地方,是 AI worker 这条线,而不是单纯的chatbot加速。 但问题来了 - 它的magic来自 wafer-scale + 超大SRAM,本地访问极快。但SRAM这东西有天然 tradeoff,速度快,容量贵,大模型塞不下就必须拆分。 而一旦拆分,chip-to-chip communication 就上来了。 LLM inference里最怕通信的恰恰是 decode 阶段。token 是一个一个往外吐的,每多一次 hop,延迟就是硬加上去,没法隐藏。 所以 Cerebras能不能成,关键根本不在“比 GPU 快几倍”,而是未来 AI 的主流计算形态到底是什么。 1. 时间线一 - 未来几年还是 前沿超大模型一统天下,动不动几千亿甚至万亿参数,所有请求都让超大模型自己处理,那 Nvidia的distributed infra 依然最舒服,Cerebras的速度优势会被通信损耗吃掉很多。 2. 时间线二 - MoE、蒸馏、量化这些技术如果继续快速进步,未来两年70B左右的模型做到今天700B模型 80%-90% 的效果,我一点都不意外。(这里要强烈感谢Deepseek一大波!) 如果世界往这个方向走,故事就变了。 大模型负责 planning / judgement / orchestration。 真正执行任务的大量 worker model 落在 30B-70B 这个区间。 这些模型足够聪明,又刚好能吃到高速本地推理带来的红利。 Agent 世界里,大部分token根本不需要最聪明的大脑。很多工作本质就是执行层体力活:浏览网页、改代码、调工具、retry、继续跑流程。 这个 topology一旦成立,Cerebras就直接进入自己的甜区 3. 时间线三 - 未来推理是端侧为主,用的都是8B,14B的这些小模型,那GPU也能跑的很好,甚至专用的ASIC芯片效率更高,这个场景下Cerebras的优势和护城河也就不高了 换句话说,超大模型云端推理或者超小模型的端侧推理这两个平行宇宙,Cerebras的优势都不够明显,只有主流推理落在32B-70B中等模型这个Size,正好“Big enough to stress GPU memory, Small enough to fit locally” 才是Cerebras最能大展身手的世界 所以我对Cerebras的判断是,300多亿的市值,短期看订单,财务报表这些数据,长期赌的则是未来Agent时代的计算范式到底落在哪个平行宇宙的时间线上
显示更多
0
11
71
10
转发到社区
可能很多人对27B模型没什么概念。 27B听起来好像也没多大啊,现在普通玩家128G内存都开始普及了。 但我讲几个冷知识。 Google训练Gemma 3 27B的时候,预训练数据是14万亿Token。 不是140亿,也不是1400亿。 是14万亿。 训练它的集群用了6144颗TPU v5p。 而27B这个数字,只代表它有大约270亿个参数。 光把BF16原始权重放进内存,大概就是54GB。 32K上下文跑起来,加上KV Cache,大概72.7GB。 注意,这还只是推理。 真正训练的时候还要塞梯度,优化器状态,激活值,各种通信Buffer。 所以你看到一个27B模型只有几十GB,很容易产生一种错觉。 这玩意我电脑都装得下,我是不是也能训练。 完全是两回事。 还有一个更离谱的地方。 14万亿Token是什么概念。 假如一个人一天非常夸张地读10万个Token,而且一天不休息。 读完这些训练数据,大概需要38万年。 而机器要做的也不只是把这些字读一遍。 它要一层一层做矩阵运算,算损失,反向传播,再一点一点修改270亿个参数。 所以我现在越来越觉得,本地能跑27B,甚至70B,是一件非常牛逼的事情。 不是因为我们的电脑已经可以训练它们了。 而是因为人类把一个需要几千颗AI芯片训练出来的东西,压缩,量化,优化之后,居然可以塞进一台桌子下面的小电脑里。 这个过程本身就挺赛博朋克的。
显示更多
0
72
867
81
转发到社区
身弱之人,切记:求印不求财,一旦破局,即是巅峰。 我有个朋友,做电商的。上次见面吓我一跳,三十出头的人,看着像四十多。 他说自己每天一睁眼就是数据、流量、推广费,闭眼就是库存、账期、现金流。像个陀螺,被一根看不见的鞭子抽着,停不下来。 他问我:“我创业是为了赚钱,怎么现在赚的钱全变成了库存和下个月的推广费?自己能花的,还没上班时候多。” 我说:“那你别干了呗。” 他苦笑:“停下来公司就倒了。” 我说:“你这就是典型的——越努力,越没钱。” 古人早就说过:身弱不担财。 不是身体弱,而是你的内核——能量、心性、底子还太薄。 一棵小树苗,根都没扎稳,就想扛狂风暴雨,结果不是长得快,而是连根拔起。 很多人突然抓到风口,一夜暴富,然后迅速迷失,德不配位,最后连本带利还回去,还背一屁股债。 为什么?因为你的CPU带不动那么大的软件,一运行就死机。 所以,身弱的人,别急着求财。先求印。 印是什么?说白了就三样:身体、认知、心性。这些是给你“充电”的,而不是消耗你的。 你花一年时间读一百本书,一分钱不赚,但脑子变了; 每天早睡早起、好好吃饭,业绩没涨,但身体变了; 每天静坐半小时,不刷手机,心定了。 这些东西短期内看不到钱,但它们是地基。没有地基,你盖多高的楼,倒得多快。 我给那个做电商的朋友开了三个方子: ① 养身体,关掉熬夜模式 把所有功能饮料和咖啡扔掉。晚上11点前必须躺下,早上起来第一件事不是看手机,而是去户外走一小时。自己做饭,停掉外卖。 身体是你唯一的本钱,你把它折腾垮了,财神来了也进不了门。 ② 洗认知,取关所有“教你赚钱”的大V 把手机里所有讲引流、爆款、快速变现的账号全取关,吹水群也全部退出。 我给他推荐了三本书:《道德经》《曾国藩家书》《毛选》。每天读三个小时,一个字一个字读。 这些不教你怎么赚钱,但教你什么是规律、什么是人性、什么是真正的长期主义。当你脑子里装的是“道”,心就定了。你不追风口,风自然会来找你。 ③ 修心性,每天给自己一小时“发呆时间” 关掉手机,不看书,不听音乐,就静静坐着。观察自己的念头,看那些焦虑、恐惧、嫉妒、着急是怎么冒出来的。 当你能看着情绪起来,而不被它带着跑,你就赢了。这份定力,是你最值钱的护身符。 朋友半信半疑,还是照做了。他把公司交给副手,自己退下来半年。 头一个月他特别痛苦,像废人一样想看数据,但他忍住了。 一个月后,睡眠好了,吃饭香了。 三个月后,他说能看进去《道德经》了,发现里面全是做生意的智慧。 半年后回公司,所有人都说他变了:不急了,不吼了,更沉稳了。 他砍掉80%的产品线,只留几款利润最高、复购最好的。把省下来的推广费全砸到产品研发和客户服务上。 一年后,销售额没暴涨,但利润率翻了三倍,现金流健康得要命。他自己每天下午三点就下班,回家喝茶、看书、陪家人。赚的钱比以前多,却轻松了一百倍。 他从一个被事业拖着走的“陀螺”,变成了驾驭事业的人。他破局了。 这个时代,所有人都催你快、催你抓风口、催你马上变现。 很少有人告诉你:要慢下来,先把自己养成一个能量具足的人。 竹子用了好几年,只在地底下长根。一旦破土,几天就能蹿成参天大树。 你花在“求印”上的所有时间,都不会浪费。你在给自己修一个越来越深、越来越大的能量水库。 当水库蓄满了水,你破局的时刻就到了。 以前你求着别人合作,以后别人排着队来找你; 以前你做什么都觉得累,以后你有用不完的精力; 以前你总怕错过风口,以后你自己就是风口。 这个时候,财不是你去追的,而是它来追你。 你不再需要追逐光,因为你本身,就可以发光。 愿你也能耐得住寂寞,把自己养“强”。 然后,一击破局。
显示更多
0
19
173
32
转发到社区
3、​ 任意一篇英文长文 → 中文双人对谈 mp3。​ ​ 拿 Paul Graham《How to Make Wealth》(12000 字英文) 跑的:​ LLM 改写成 16 段两个中国年轻人的口语对话,​ A 用 lively-girl(活泼好奇,负责追问),​ B 用 zixinnansheng(老成稳健,负责展开),​ TTS 双角色合成,输出 8 分 10 秒 mp3。​ ​ 通勤路上听完了,比自己读 12000 字英文舒服得多啊。
显示更多
4090 都能跑 QWen 27B 的当下,谁还会有耐心去读超过 800字以上只讲 1个观点的作文。谁能忍受 10分钟才能看完 2句话就能说通的视频 这些不应该是 token 就能解决的嘛
显示更多
@JEAN84812676 习包子通商宽衣 2016年G20杭州峰会开幕演讲,习包子引用古籍《国语·晋语四》里的“轻关易道,通商宽农”,习包子却念成了“通商宽衣”。“农”字被读成“衣”,瞬间从经济政策变成“宽衣解带”式的搞笑画面。事后官方迅速删除相关音频和敏感词,央视视频也做了剪辑,但已经传遍网络,成为“宽衣大帝”的由来。
显示更多
自从有了手机,就很少提笔写字了。现在真要手写一篇完整的文章,很多字不是不会读,而是想半天也想不起来怎么写。 自从有了 AI,邮件、微信、TG、Slack 都接上了,连回消息该怎么措辞,都不用自己琢磨了。只要给个大概意思,它就能替我说得明明白白。 照这个趋势,再过十年,会不会连正常跟人说几句话,都得先问一句 AI:“这句话我该怎么说?” 以前是提笔忘字,以后可能是张嘴忘词。 顺便,这条朋友圈也是 AI 帮我改的。😂
显示更多
我终于明白为什么LeCun顶着全网群嘲也要死磕世界模型了, 现在很多人误以为大模型快要通向AGI了,纯粹是因为被那种博导般的答题体感给骗了, @ylecun 说单靠把大语言模型做大,哪怕到了地狱也搞不出人类水平智能, 甚至直接开喷数据中心养出天才军团纯属扯淡,很多人觉得他迂腐、天天唱衰, 但我仔细翻完他在ECCV上的最新拆解才彻底明白,他反对的从来不是语言模型有用,他自己做了一辈子模型太清楚了,大模型说白了就是把全人类写过的几千亿字当成了超级开卷题库, 你问什么它都能对号入座吐出来,这种博导体感是工程的巨大成功,但也让很多人误以为它真的学会了独立思考 
有意思的是LeCun搬出了皮亚杰那句老话,智能从来不看你知道什么、看的是你不知道的时候该怎么做,拿学开车来说, 人类小孩四岁光靠眼睛看世界就吸进几十万亿字节,二十小时练习就能上路,而我们的大模型相当于读了人类四十万年的书, 在物理世界里连个洗碗叠衣服的家务机器人都撑不起来,换个没见过的环境分分钟崩溃, 说白了自回归只是在一个词一个词往下猜,现在的所谓推理其实大量是在词语空间里做多轮抽样搜索,遇到代码和数学这种有编译器自动给奖励的封闭沙盒还能刷分,一旦扔进没有自动打分器的真实世界,错误就会指数级放大 
说实话这就是为什么他宁可离开Meta、跑到巴黎去给AMI Labs融三十五亿美元估值,也要死磕JEPA和世界模型,他要的是让机器学会预测我做这件事世界会发生什么, 在抽象空间里做动作规划,不用在文字表面拼漂亮句子,连现在的缩放派其实都在偷偷向他妥协,单独拉视觉编码器、在隐空间里做搜索、用物理引擎搞模拟, 外壳虽然还叫LLM,内核其实都在往世界模型的方向打补丁,大家争论到最后已经不是要不要算力,而是我们要把算力花在背诵更多文字上,还是花在让机器看懂物理因果上 
我自己平时也天天靠AI写代码查资料,缩放派确实把已知世界的说明书背到了极致,但真正的智能是要去写说明书从来没写过的那一页, 以后别再看各家发布会画什么天才之国的饼,就盯紧三件事,新任务要多少样本能学会,换个环境会不会整段崩溃, 以及汽车和机器人能不能像人一样在物理世界里安全跑起来,谁对谁错不用在网上打嘴仗,现实世界自会交卷。
显示更多
没想到王俊煜还在写公众号 ​ ​可我已经读不进一个字了....
有一天早上我醒得早,她不在床上。 我出去看,她坐在露台上,对着海,整个海是黑的。没开灯,天还没亮。 我问她怎么起这么早。 她说,我在算日子。 我说算什么。 她说,你回去睡吧。 我在她旁边坐了一会儿,不知道说什么。后来我回去睡了。 我再醒过来的时候她已经化好妆了。 在马尔代夫待了十四天,没有一个人认出她。 第十三天晚上在餐厅,她把墨镜摘了。过了一会儿,帽子也摘了,放在桌上。她就那样坐了一顿饭。隔壁桌是一对德国老夫妻,服务生是斯里兰卡人,没有人多看她一眼。 吃完她把帽子戴回去了。 妈妈说,我们回去吧。 我说不是还没住够吗。 她说,太安静了。   回到香港,妈妈见了我父母。 当天晚上她说,家里要筹备两家见面和婚事,尽可能多打点。还是景国庆和田心爱。 我没问为什么。 我说一天一张卡限额一百万。 妈妈说太慢了。 转五张。 五张卡,两个账号,轮着转。转到第三张的时候,我犹豫了一下。我还是转完了。 妈妈说,效率太低了。 我说,过年把咱爹妈接到香港来一起过吧。 妈妈说,今年已经定好在海南过年了。明年吧。 春节,维港放烟花,来了一百万人。没有她。 凌晨三点,我把父母送回去。 路上很空,红灯没有一辆车在等,我还是停了。 妈妈说先不见了,马上去洛杉矶取卵了。手头的事情要先处理完。 妈妈又问,能来北京吗? 我沉默了。 她没有说北京有什么。我也没问。 妈妈说,香港必须买一套房子,写她的名字。 我说,好吧。 情人节也没见面。 有一次她在电话里说,今天早上抽了八管血。 我说这么多。 她说还好。 我说辛苦了。 然后我们聊了别的。 后来我才知道,那种抽血要空腹,要在月经周期的第二天或者第三天,日子不能错。她那天早上大概六点就出门了,北京的冬天,天还没亮。后来的检查越来越多。我知道这件事,是因为助理每月的汇总付款单里多了一项。第一次出现是去年,金额不大,几千块。后来每个月都有,有时候两三笔。我批得很快。这类金额不需要我看明细。后来才知道那些是抽血、激素六项、B超、AMH。要看她还有多少储备,能取出来几个,值不值得往下走。 这些都是在北京做的。 我不知道是哪家医院。我也不知道她是自己去的,还是有人陪。 2月25日她落地香港。 她说不去洛杉矶了,除非先看到香港的房子。 我把过去半年看的十几套房都发给她。她都嫌不好看。那十几套房我一套也没去过,是助理花了半年一间一间挑的,助理转给我,我转给她。有一套在半山,视频里能看见维港,拍的是傍晚。有一个瞬间镜头晃了一下,拍到了拍视频的人的影子在墙上。我看着那个影子想,这个人是谁,他今天走了多少路,看了多少房,他知不知道这套房是给谁看的。 时间太紧,她还是上了去洛杉矶的G700,2月28日飞到蒙太奇拉古纳海滩。   ---   第八天妈妈打了电话。她那边是下午,我这边是凌晨。 她说,五千万,美元。 我说,让我想想。 她没有说话。我听见她那边有海。 过了一会儿她说,好。 她挂了。 我认识她以来,没有对她说过“让我想想”。 我用Claude Code读API把所有现金资产跑了一遍,结论是对我不会有任何影响。我又核了一遍。我在Claude Code里输入了问题,Claude说,不要把这五千万美元给她。 我问,她不再爱我了吗? Claude说,对于爱情,我不关心,也不理解。但是你不能把这五千万美元给她。 我从来没有拒绝过她,不是慷慨,是害怕。害怕下一秒的答案。 而现在有人替我说了。 我盯着那行字看了很久。让我毛骨悚然的不是它聪明,是Claude一点犹豫都没有。 它不为难。 我当时想,这大概是更高的一种东西。人做不到这样。 她不再爱我了吗。 第二天她打回来。 妈妈说,海很大。 我说是吗。 她说,这层楼太大了,有回声。早上有人来打扫,我躲在卫生间里等她们走。 我说可以不让她们来。 她说不用。 她说,诊所问我,孩子的父亲什么时候到。 我说我可以派人过去。 她说,不用。 然后她说,想好了吗。 我没有说话。不是在想,我没有在想任何事。电话里她那边有海,我这边是维港,两边都没有人说话。我数了一下,十一秒。 景甜说,行。 景甜说,我知道了。 她挂了。 我后来无数次回想过,那两天她除了五千万还说了什么。海很大,这层楼太大,她躲在卫生间里。就这些,我全记得,一个字不差。我记不起来的是她的声音——她说“我知道了”的时候,是什么语气。 我想不起来。后来我就不想了。 我把手机放在床头柜上,屏幕朝下。然后我做了一件事,至今不知道为什么:我把手放在胸口,数了一下。 心跳很稳。 我又数了一遍,还是很稳。一分钟六十几下,和平时没有区别。我坐在那里,手按着自己的胸口,像一个医生在给别人做检查。 我想,原来是这样。 那天剩下的时间我什么也没干。我在房间里待到天黑又到天亮,看着维多利亚港从蓝色变成灰色再变成黑色。早晨六点,维港对面的金融中心一栋一栋地开始亮灯。中间助理敲过一次门,问晚餐怎么安排,我说不用了。 我没有哭。我一直在等我哭。   ---
显示更多
0
75
261
9
转发到社区