注册并分享邀请链接,可获得视频播放与邀请奖励。

与「保险」相关的搜索结果

保险 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 保险 的内容
# 模型缩小四倍还不翻车?不是压得够狠,是量得够准 先说结论:大多数人以为量化是把模型压小一点、省一点显存,压得越狠、省得越多,这个想法只对了一半。量化真正值钱的地方不是省显存,是省钱加变快,模型缩小两到四倍之后,小批次推理常常反而更快,因为瓶颈不在算力,在记忆体频宽,搬的位元组少了,每秒吐出的字元单位就多了。作者第一次把大模型推到真实使用者面前,七 B 模型用十六位元载入,光权重就吃掉十四 GB 左右的显存,帐单难看得很,有人随口问一句要不要试试量化,她当晚掉进一堆缩写的兔子洞,才整理出这篇指南。 先说清楚底线:十六位元每权重两位元组,七 B 模型约十四 GB、十三 B 模型约二十六 GB。压到八位元,七 B 模型约七 GB、十三 B 模型约十三 GB。压到四位元,七 B 模型约四 GB、十三 B 模型约七 GB,模型缩小两到四倍。作者打了一个很准的比方,量化就像把照片从巨大原始档压成调校过的压缩图,手机上看起来几乎一模一样,体积却只剩一小部分。权重就是模型的照片,十六位元是原始档,四位元是压缩图,压得好,大多数人看不出差别,压得不好,细节先糊掉。关键在压得好不好,不在压得多不多。 怎么做?顺序只有一个,先用五分钟实验确认方向,再挑上线或随处跑的格式,最后拿自己的提示词量过再灰度发布。五分钟实验用四位元载入工具快速试,零校准资料、零转换步骤,一个下午就能知道显存占用下降约七成、模型还能不能讲话。显卡上线用服务引擎带量化参数直接起一个相容接口,热门模型在模型仓库里已经有现成的四位元检查点,不用自己压,没有就用压缩工具自己做一个。随处可跑的路是转成通用格式再量化,中央处理器、笔电和苹果晶片都能跑,四位元中档是尺寸与品质的甜蜜点,更保险就往上走五位元或六位元。 小心三件事。第一,压完只跑几个提示词就上线一定翻车,作者就是这样翻车的,结构化资料输出偶尔格式损坏,两天后才被使用者抓到,通用评测完全没抓到。第二,只看困惑度就放行不够,困惑度看起来没问题,任务品质可能已经悄悄下滑,它只能当参考,不能当唯一的验收标准。第三,别以为压完就一定变快,一种格式只有在服务引擎有对应的最佳化核心时才会真的变快,没在你自己的机器上实测过,纸上变快不算数。还要记住,键值快取不随权重量化缩小,长上下文服务照样可能爆记忆体,瓶颈在这里要另外看。 再往上加东西也有顺序:先写五十到一百条真实提示词,对照十六位元基线一条一条比,刻意去测最先崩的几类任务,长上下文、结构化 结构化资料 与函式呼叫、数学、程式码、非英文。验收不是打分数,是找变差的任务集中在哪里,集中在 结构化资料格式就升那类任务的位元,散在各处就整体升一档。真实负载下测延迟与吞吐量,不是空闲显卡上跑一条请求。最后先切一小部分流量灰度发布,没问题再全量,出问题立刻切回十六位元版,不要等到全部使用者都中奖才动手。 一句话:量化不是免费压缩,是一场交易,你只有量得够准,才有资格拿这场交易去换更小的帐单。今晚就能做的事:挑一个你正在跑的模型,用四位元载入工具跑一次五分钟实验,看看显存占用下降约七成之后,它回的第一句话还像不像它自己。 S1哥观点:别再问量化是不是把模型压坏的便宜行事,压坏模型的从来不是量化本身,是你压完只跑几个提示词、看一眼困惑度就敢上线。作者的教训就摆在那里,结构化资料输出偶尔格式损坏,通用评测完全没抓到,两天后使用者才回报。量化真正值钱的地方也不在省显存那一行,是小批次推理反而可能更快,因为瓶颈在记忆体频宽,搬的位元组少了,每秒吐出的字元单位就多了。更值得问的是,你现在跑的那个模型,是卡在帐单、卡在显卡太小,还是卡在速度?那个卡点,决定了你该挑哪种格式、压到几位元。你第一个想压小上线的模型是哪一个?评论区说说。 收藏用清单(照着做): 1. 先算帐再动手,七 B 模型约十四 GB,压到四位元约四 GB,模型缩小两到四倍,再留键值快取和执行开销的位置。 2. 挑对格式再压,快速实验用四位元载入工具,显卡上线用四位元的两种主流方法,笔电用通用格式,新款卡用八位元浮点。 3. 跑五分钟实验,确认显存占用下降约七成、模型回复正常,再写五十到一百条真实提示词对照十六位元基线逐条比。 4. 刻意测最先崩的五类任务,真实负载下测速度,先切小流量灰度发布,没问题再全量。 转给还在为模型帐单头痛的朋友,压小两到四倍再上线,量得准才不会翻车,他今晚就能先跑五分钟实验。
显示更多
黄仁勋卸任英伟达,想留3亿美金给孩子 A:银行存3亿美金 B:1500万买一张终身寿,剩下2.85亿继续投资,或者吃喝玩乐做慈善,交女朋友(不是...),随你便 选A呢,身后这钱还指不定是谁的,而且在美国还有高额的遗产税和赠与税。 选B呢,大佬的生命加了杠杆,把死亡这件一定会发生事情变成了一种看跌期权,行权就有20倍的杠杆,做金融的人都懂 最关键,最关键是还不用交税 这几天三件大事,连起来看 1 香港这边,富卫保险FWD完成一单3.2亿美金终身寿险,打破吉尼斯世界纪录 2 内地这边,常委建议尽快落地遗产税和赠与税。 3 另外,离岸信托征收个人所得税近1600亿人民币 超级终身寿大单的背后,是顶级财富生前的绝对控制,是身后的信托意愿,是全球的 #免税资产# 高净值家庭,共同使用一个工具,用100%的确定性,穿越不确定的周期 作为高净值人士的你,想有大佬同款终身寿吗,想给孩子留一笔确定性的财富吗? 私信我,领取专属财富方案❤️ #终身寿险# #黄仁勋# #马斯克# #香港保险# #富卫# #遗产税# #离岸信托#
显示更多
币安宣布全额覆盖63.4亿美元黑客攻击损失 币安宣布已用公司资金(包括SAFU用户保障基金部分、期货保险基金及公司金库)完成对10月29日史上最大加密盗窃(约63.4亿美元,朝鲜关联黑客组织TraderTraitor)中受影响用户资产的全额补充,并发布新的储备证明快照。 这并非追回被盗资产,而是由交易所自行垫资补齐。
显示更多
神他妈宠物色情带色情服务,当保险公司跟你一样是傻子吗 按按摩,嫖个娼最多治安处罚。骗保,可是刑事案件了… 还说开票是消费过后的事,查也查不出骗保 乐死了😂
显示更多
0
10
87
0
转发到社区
这两天一直在做 @primus_labs 的 XP 任务 做着做着,我发现它很多任务其实都在反复干一件事 不是让我把资料交出去 而是让我证明:这件事是真的 这个区别看起来很小,但我后来想到机构场景,突然就理解了 —————— ฅ՞• •՞ฅ —————— 比如一个稳定币项目告诉你: “我们有足够的储备。” 以前最常见的做法是什么? 发审计报告、贴账户截图、做一个 Dashboard…… 平时看着没问题。 但市场真开始质疑的时候,我最想知道的其实是 这个数字能不能自己证明它是真的? Primus 的 PoR 就在做这件事 它会把链上资产和 CEX 等链下账户的数据一起验证 zkTLS 负责确认 这份余额确实来自真正的数据源 但 API Key、完整账户信息、原始余额明细又不需要直接公开 后面再通过 zkVM 把不同地方的储备汇总,最后只把需要公开的结果和证明拿出来 这个思路挺好的 你不用把保险柜打开让我进去数 但你得让我确认,里面确实有这么多 —————— ฅ՞• •՞ฅ —————— Primus 其实已经和 Unitas、Brevis 做过 USDu 的实时储备证明 这不是隔几个月更新一次 PDF 而是把链上 + 链下储备来源持续接到验证流程里 这个场景比我之前看那些“隐私概念”更容易理解 因为机构最怕的可能不是别人知道: “我有钱。” 而是为了证明自己有钱, 顺手把账户在哪、具体持仓、对手方、资金路径…… 全部一起交代了 这就有点离谱🤣 Primus 做的反而是: Claim 可以公开 Evidence 不一定要全部公开 我说我储备够, 你可以验证。 但不代表我要把整个后台给你看。 —————— ฅ՞• •՞ฅ —————— 所以最近 Primus 一直讲 Verifiable + Confidential 一个管:“你说的是真的假的?” 另一个管:“为了证明是真的,我到底需要告诉你多少?” 把这两个问题同时解决, 机构才比较有可能真的把财务活动搬上公链。 不然所谓透明, 很容易从“可信” 变成底牌全放桌上 —————— ฅ՞• •՞ฅ —————— Primus × Kaito 的 Epoch 2 已经开始了 时间是 10 月 23 日—11 月 21 日 整个 Katalyst Campaign 分配 0.3% $PRIM 其中创作者和 Kaito Staker 分开计算 Primus Points 这边也会继续每周加新的验证任务 我建议不要只为了 XP 点完就走 真正做一次验证以后 会更容易明白 Primus 到底在解决什么 一起来完成 XP任务 👇
显示更多
0
62
73
1
转发到社区
马斯克的好朋友,觉得马斯克性格特别冲动鲁莽。 而且他总是半夜头脑一热就发推特,引起各种风波。 为了帮马斯克改掉这毛病,他把马斯克手机,锁在了酒店保险柜里,密码只有自己知道。 结果马斯克凌晨3点犯了网瘾,直接叫酒店工作人员打开保险箱拿出了手机😆 朋友的改造计划,第一天就宣告破产😂 这个朋友是马斯克多年的老友,特斯拉早期投资人安东尼奥·格拉西亚斯。 格拉西亚斯这么做,是因为他觉得,马斯克要引领一个人类的新时代,就必须达到一种谨慎克制,超然物外的状态,不要一点就着。 不过仔细想想,一个懂得节制谨慎的⻢斯克,真的还会像⼀个⾃由不羁的马斯克 一样取得这么大的成功吗? 伟⼤的创新者,有时候真的就是一群鲁莽草率,狂妄自大,甚至有时候执着到疯狂的人。
显示更多
真的假的,汇丰一百多年前的单还能搞? 以前友邦倒是宣传过自己能兑现保险,存款也行吗?
0
100
868
25
转发到社区
蔡康永给“台独分子”站台塌方后,一段与他们家有关,发生在上海滩的海难悲剧,也一同被曝光。 蔡康永多次在节目中提到太平轮,说这是他们家的船。 这船属于中联轮船公司,蔡康永的父亲蔡天铎是公司股东之一,周曹裔、周庆云兄弟也是股东。 1949年,原本载客508人的太平轮,挤了上千人,在舟山海域与货轮相撞,近千人遇难。 海难发生后,保险公司直接恶意破产,赔偿压到了股东头上。 蔡天铎带着家人,离开上海,跑到台湾,改行做律师。周家兄弟,则变卖家产,子女接力还债,前后花了三十多年,才把所有债务还清。 蔡康永为了立贵族人设,只提太平轮是他们家的,却只字不提海难之后他们家逃废债的恶劣行径。
显示更多
0
106
610
30
转发到社区
我的前家庭医生是中国人,他毕业于华西医科大学,在霍普金斯念了好多年。 他在国内从事外科,在美国念书因不确定哪个专业适合他,换过一次专业,念了很多年才确定做家庭医生。 有一次看到我先生身上的痣,他立马操刀割了下来送检,隐约还能看到当年外科医生的影子。 他笑说,他爸爸当年部队培训了三个月就做了医生,他读了十几年才够格做医生。 我离开马里兰时,他一再叮嘱我,肠镜检查一定要求同时做胃镜,中国人胃癌高发,老外不会常规查胃镜的。 我每次约肠镜时都告诉医生,我反酸,嗳气,上腹部有饱胀感,不定期吃Costco的Nexium,医生叮嘱我吃的。 如果你不说上面这段话,保险不付你的胃镜,需要自费。 Jose的前妻,一做胃镜就是晚期,胃癌特别喜欢纠缠中国人。 大家谨记!
显示更多
0
23
198
31
转发到社区
2024年比特币现货ETF通过的时候,华尔街说这是 BTC 的巅峰时刻。 他们没想到,真正的颠覆才刚刚开始。 过去两年,机构用ETF买了600万枚BTC,把价格推到了历史新高。 但有一个问题他们没解决:这些BTC买进来之后干什么?存在钱包里不动,等着升值。就像把黄金锁进保险箱 安全,但没有产出。 这就是 Bitcoin 现在的困局。它是最安全的资产,但也正在变成最被动的资产。 我一直关注 @OPCATLayerCN 的项目,看完觉得这个困局可能要有解了。 简单说,他们在做一件事:让链上的 BTC 能真正动起来。 不是 wrapping 到以太坊再跑 DeFi,不是锁定在侧链里担心中继器作恶,而是直接在比特币主网上跑智能合约、管理流动性、执行交易策略。 这听起来不难,但技术上是个巨大的跨越。 比特币的脚本系统本来就不支持复杂逻辑,要在不改变共识规则的前提下加上可编程性,需要的是一个极其精巧的设计。 OPCAT Layer 用的是 BIP 110 路线 通过激活 OPCAT 操作码来扩展比特币的原始能力。 这不是 sidechain,不是 bridge,是在比特币原生层上加了一个执行层。这意味着你不需要信任任何中间环节,你的 BTC 始终在比特币的安全模型下运行。 有意思的是,他们把 AI Agent 当成了核心使用场景之一。 现在 AI Agent 的概念很火,但真正能在区块链上跑起来的不多。 为什么? 因为 Agent 需要低成本、高频率的交易能力,需要隐私保护,需要自主管理资产。以太坊 gas 费太高,比特币又不够灵活。 OP_CAT Layer 的定位正好填补了这个缺口 用 Merge Mining 获得和 BTC 同等的算力保护,同时保持低费用和可编程性。 这不是空想。SatSwap、CatGo、Catmint、Catena Wallet 这些项目已经在跑了,不是 PPT 阶段。 5800多个关注者,870多条推文,还在早期。但我觉得这个项目最值得关注的点不是技术本身,而是它踩中了两个趋势:机构 BTC 存量需要流动起来,AI Agent 需要一个安全且廉价的执行
显示更多