与「兔子洞」相关的搜索结果

# 模型缩小四倍还不翻车？不是压得够狠，是量得够准 先说结论：大多数人以为量化是把模型压小一点、省一点显存，压得越狠、省得越多，这个想法只对了一半。量化真正值钱的地方不是省显存，是省钱加变快，模型缩小两到四倍之后，小批次推理常常反而更快，因为瓶颈不在算力，在记忆体频宽，搬的位元组少了，每秒吐出的字元单位就多了。作者第一次把大模型推到真实使用者面前，七 B 模型用十六位元载入，光权重就吃掉十四 GB 左右的显存，帐单难看得很，有人随口问一句要不要试试量化，她当晚掉进一堆缩写的兔子洞，才整理出这篇指南。 先说清楚底线：十六位元每权重两位元组，七 B 模型约十四 GB、十三 B 模型约二十六 GB。压到八位元，七 B 模型约七 GB、十三 B 模型约十三 GB。压到四位元，七 B 模型约四 GB、十三 B 模型约七 GB，模型缩小两到四倍。作者打了一个很准的比方，量化就像把照片从巨大原始档压成调校过的压缩图，手机上看起来几乎一模一样，体积却只剩一小部分。权重就是模型的照片，十六位元是原始档，四位元是压缩图，压得好，大多数人看不出差别，压得不好，细节先糊掉。关键在压得好不好，不在压得多不多。 怎么做？顺序只有一个，先用五分钟实验确认方向，再挑上线或随处跑的格式，最后拿自己的提示词量过再灰度发布。五分钟实验用四位元载入工具快速试，零校准资料、零转换步骤，一个下午就能知道显存占用下降约七成、模型还能不能讲话。显卡上线用服务引擎带量化参数直接起一个相容接口，热门模型在模型仓库里已经有现成的四位元检查点，不用自己压，没有就用压缩工具自己做一个。随处可跑的路是转成通用格式再量化，中央处理器、笔电和苹果晶片都能跑，四位元中档是尺寸与品质的甜蜜点，更保险就往上走五位元或六位元。 小心三件事。第一，压完只跑几个提示词就上线一定翻车，作者就是这样翻车的，结构化资料输出偶尔格式损坏，两天后才被使用者抓到，通用评测完全没抓到。第二，只看困惑度就放行不够，困惑度看起来没问题，任务品质可能已经悄悄下滑，它只能当参考，不能当唯一的验收标准。第三，别以为压完就一定变快，一种格式只有在服务引擎有对应的最佳化核心时才会真的变快，没在你自己的机器上实测过，纸上变快不算数。还要记住，键值快取不随权重量化缩小，长上下文服务照样可能爆记忆体，瓶颈在这里要另外看。 再往上加东西也有顺序：先写五十到一百条真实提示词，对照十六位元基线一条一条比，刻意去测最先崩的几类任务，长上下文、结构化 结构化资料 与函式呼叫、数学、程式码、非英文。验收不是打分数，是找变差的任务集中在哪里，集中在 结构化资料格式就升那类任务的位元，散在各处就整体升一档。真实负载下测延迟与吞吐量，不是空闲显卡上跑一条请求。最后先切一小部分流量灰度发布，没问题再全量，出问题立刻切回十六位元版，不要等到全部使用者都中奖才动手。 一句话：量化不是免费压缩，是一场交易，你只有量得够准，才有资格拿这场交易去换更小的帐单。今晚就能做的事：挑一个你正在跑的模型，用四位元载入工具跑一次五分钟实验，看看显存占用下降约七成之后，它回的第一句话还像不像它自己。 S1哥观点：别再问量化是不是把模型压坏的便宜行事，压坏模型的从来不是量化本身，是你压完只跑几个提示词、看一眼困惑度就敢上线。作者的教训就摆在那里，结构化资料输出偶尔格式损坏，通用评测完全没抓到，两天后使用者才回报。量化真正值钱的地方也不在省显存那一行，是小批次推理反而可能更快，因为瓶颈在记忆体频宽，搬的位元组少了，每秒吐出的字元单位就多了。更值得问的是，你现在跑的那个模型，是卡在帐单、卡在显卡太小，还是卡在速度？那个卡点，决定了你该挑哪种格式、压到几位元。你第一个想压小上线的模型是哪一个？评论区说说。 收藏用清单（照着做）： 1. 先算帐再动手，七 B 模型约十四 GB，压到四位元约四 GB，模型缩小两到四倍，再留键值快取和执行开销的位置。 2. 挑对格式再压，快速实验用四位元载入工具，显卡上线用四位元的两种主流方法，笔电用通用格式，新款卡用八位元浮点。 3. 跑五分钟实验，确认显存占用下降约七成、模型回复正常，再写五十到一百条真实提示词对照十六位元基线逐条比。 4. 刻意测最先崩的五类任务，真实负载下测速度，先切小流量灰度发布，没问题再全量。 转给还在为模型帐单头痛的朋友，压小两到四倍再上线，量得准才不会翻车，他今晚就能先跑五分钟实验。

50 个传奇级的互联网兔子洞，够你逛上好几个小时👇 1. — 通过实时卫星图像看世界 2. — 查看当前天空中每一架飞机 3. — 实时追踪海上所有船只 4. — 风和风暴的实时地图 5. — 实时观看击中地球的闪电 6. — 近期地震的实时列表 7. — 承载互联网的海底电缆 8. — 从太空看森林消失 9. — 世界统计数据，每秒更新 10. — 当前正在发布的推文和搜索数量 11. — 比较各国的真实大小 12. — 几个世纪前的地图 13. — 15 万张历史地图的档案 14. — 由志愿者绘制的世界地图 15. — 看看世界上某个随机的人窗外是什么样 16. — 在城市中虚拟漫步 17. — 传送到地球上随机一个地点 18. — 世界上最奇怪地点的目录 19. — 互动式知识体验 20. — 从原子到宇宙的尺度之旅（已更新 HTML5 链接） 21. — 以 3D 方式探索太阳系 22. — 浏览器里的真实星空图 23. — NASA 的每日天文图片 24. — NASA 的全部视觉档案，免费 25. — 用数据讲述的视觉文章 26. — 用真实数据看世界现状 27. — 我们对世界的错误认知 28. — 将复杂数据可视化 29. — 世界银行的开放数据 30. — 土耳其官方统计数据库 31. — 数百万本书、电影和软件的档案 32. — 7 万本版权已过期的免费书籍 33. — 世界上每一本书的记录 34. — 美国国会图书馆数字档案 35. — 欧洲文化遗产档案 36. — 美国的数字图书馆收藏 37. — 在家参观博物馆 38. — 下载高分辨率艺术作品 39. — 25 万件艺术品的档案 40. — 历史上被遗忘的视觉珍宝 41. — 免费的文化与教育档案 42. — 大都会博物馆的开放收藏 43. — 音乐流派的家谱 44. — 选一个国家和年代，听那个时代的音乐 45. — 把维基百科的编辑变成音频 46. — 随机知识之井 47. — 时间、日出和天象事件 48. — 科学新闻的实时流 49. — 科学论文的免费预印本 50. — 用实时代码可视化数据 收藏这条。你以后肯定会用到其中一些。🔖

📷五月月票特典 『水手兔』20P “歡迎光臨我的兔子洞~” "Welcome to my rabbit hole..." 盒岛： Subscription： Fantia購入：

没记错的话是24年的老项目了，还是炼油...... 我印象中，当时人物NFT好像是56刀一个还是86刀一个，忘了，宠物mint价格也不便宜 好像当时和那个 @Treasure_DAO 关系还很紧密，当时NFT交易市场都是用 magic 代币交易 估计当时没少人花钱买人物和宠物，应该没几个赚钱的吧 😂 这时隔2年要发币了？学习那个兔子洞，早不发晚不发，现在又开始秽土转生了？？？

Web3 中文播客汇总清单： 01倾听构建者、投资人与思想领袖的一线声音 🎙️Web3 101 •简介：探索区块链技术、商业与人文的交汇，关注影响行业发展的重大转折点。 •主理人：泓君（硅谷101主播）、FengLiu •主理人X： @hongjun60 @fishkiller @Web3_101 •收听链接： 🎙️吴说不加密播客 •简介：吴说区块链出品，深度对话行业内有趣有料的专业人士，多为深度采访文章的音频版。 •主理人：Colin Wu •主理人X：@colinwu •收听链接： 🎙️Sea Talk •简介：以人为本的访谈，主理人 Sea 哥拥有十多年产品经理经验，挖掘局内人关于技术、产品与投资的洞察。 •主理人：Sea 哥 •主理人X：@SeaTalk_ •收听链接： 🎙️HODLong 后浪 & 51% （双语） •简介：由 Mable Jiang 主理。旨在探索 Web3 社区、项目运营者与投资人的真实想法。 注：经典播客《51%》已停更，精彩内容现已合并至《后浪》栏目中重新播出。 •主理人：Mable Jiang (前 Multicoin Capital) •主理人X：@mablejiang •收听链接： 🎙️社长会客厅 •栏目介绍：Web3 营销研习社出品。邀请行业最具判断力的营销负责人、品牌主理人与投资人，从一线视角拆解 Web3 营销背后的方法论、抉择与结构性机会。 •主理人：yuanyuan（15年市场媒体人，Web3从业7年） •主理人X：@cryptoyuanyuan •收听链接： 🎙️币市观察局 •简介：BitMart 推出的深度栏目。围绕金融创新、技术演进与长期趋势展开对谈，留下对行业真正有参考价值的判断。 •出品方X：@BitMartExchange、@BitMart_zh •主理人：yuanyuan （@cryptoyuanyuan） •收听链接： 02 全球视野与跨界对话 连接东西方，探索科技、人文与全球化叙事 🎙️Bill it up •简介：致力于打造全球首个连接东方与西方、科技与人文的跨界沟通平台（含中英文访谈）。 •主理人：Bill Qian（常驻迪拜，全球首个创立科技企业在中东IPO的华人） •主理人X： @bill_qian •收听链接： 🎙️Day1 Global 生而全球 •简介：探索如何通过 Web3 & AI，在全球化时代打造超级个体，让价值回归个人。 •主理人：Ruby & Star •主理人X： @Rubywang & @starzq •收听链接 🎙️Cryptoria •简介：Web3 的 Builder 和观察者，致力于用简单的语言，讲述纷乱繁杂的加密世界，连接东西方认知。 •主理人：Vivienne Su & Z.Ou •主理人X：@Vivienne_smile / @zhiyangxyz （艺术家和经济学家的Web3碎碎念） •收听链接： 🎙️加密厨房 CryptoKitchen •简介：美食与加密的奇妙碰撞，一起钻兔子洞。 •主理人：Jean Chen & •主理人X：@cryptojean27 @kaylawangnow @CryptoKitchenCN •收听链接： 03 每日资讯与市场追踪 碎片化时间，快速捕捉全球动态 🎙️Web3的加密吗喽 •简介：每日人工筛选全球数百条资讯，专注政策监管、技术进展及机构动向。 •更新：每周5更 •主理人：菜菜 •主理人X：@TaiCai8864 •收听链接： 🎙️PA加密圆桌派 •简介：PANews 出品，每日更新的加密新闻日报与行业话题解析。 •出品方X：@PANews •收听链接： 🎙️Web3+ •简介：AI 播客拆解热点，聊聊 Web3 里的科技、人文与商业。 •主理人：Eric •收听链接： 🎙️Let's Flow •简介：深潮 TechFlow 出品，解读新闻背后的故事，AMA 音频化。 •出品方X：@TechFlowPost •收听链接： 04 垂直赛道：支付、稳定币与AI 聚焦细分领域，看懂落地应用 🎙️支无不言 •简介：聚焦稳定币支付、AI Agent 经济与合规，讨论加密技术的商业落地。 •主理人：Hazel Hu (华语公共物品基金GCC主理人) & Ivy Zeng (Agentic Payment 运营负责人) •主理人X：@0xHY2049 @IvyLeanIn •收听链接： 🎙️锵锵Web3人行 •简介：立足香港，关注 RWA、稳定币、加密支付等宏观叙事与具体赛道。 •主理人：EstherJ •主理人X：@estherinweb3 •收听链接： 🎙️精通稳定币 •简介：解码稳定币经济体系，将复杂的金融轨道转译为可落地的分析框架。 •主理人：Jean Chen &中本姜 •主理人X：@cryptojean27 @MstrStablecoin •收听链接： 05 投资逻辑与商业思考 从资本与商业角度，复盘逻辑与趋势 🎙️The Wanderers 流浪者 •简介：投资与科技领域好友的半严肃对话，关注 AI、美股与 Web3。 •主理人：易然 Jason @Jhy256 Vinvent •收听链接： 🎙️Web3 Mint To Be •简介：Mint Ventures 出品，厘清行业热点背后的真实，提供商业洞察。 •主理人：Alex (Mint Ventures投资合伙人) •主理人 X：@xuxiaopengmint •收听链接： 🎙️币思达研究院 •简介：专注二级市场与基本面研究，用数据辅助投资决策。 •收听链接： 🎙️猜想与反驳 •简介：E2M Research 发起，将书本思想应用于投资实践。 •常驻嘉宾：@bitfish @pcfli （都是大佬👍） •收听链接： 06 个人成长与生活 Web3 之外的内心探索与烟火气 🎙️游客 2 号 •简介：分享商业见解与自我成长的陪伴型播客。 •主理人：Linda (@goldwillcapital 创始人) •主理人X：@lindatian521 •收听链接： 🎙️人生拐点 •简介：记录创业中途的停顿与转向，探讨何时坚持、何时止损。 •主理人：Yuki (Stablehunter CEO) •主理人X：@Yukiiiiiya •收听链接： 特别说明 · 整理不易，如转载转发请注明作者出处 @cryptoyuanyuan ，如有信息需要添加或更正也可以联系更新。 · 大部分节目都可在小宇宙 App 搜索订阅，海外用户推荐使用 Apple Podcast 或 Spotify。 · 如果喜欢这些播客内容，一定要记得常听常分享。 · 希望大家都能一起学习，突破认知，实现成长。