TopicDigg
最新
社区
登录
注册
注册并分享邀请链接,可获得视频播放与邀请奖励。
立即注册
与「讀字夜語」相关的搜索结果
搜索结果
讀字夜語
讀字夜語 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含
讀字夜語
的内容
Lao Bai
@Wuhuoqiu
2026.05.13 11:30
记得Defi Summer 20年到22年这三年时间,大家经常感慨的一句话就是“币圈一天,人间一年” 因为技术迭代太快了,每天都有数不行的新东西出来,几天不看就跟不上节奏 现在这个感觉在币圈彻底消失,在AI那边出现了,每天的新东西就看不完,真的看不完 正好这几天看到圈里讨论Cerebras的帖子多了起来,昨天还看到不少路演信息,毕竟14号要挂牌交易。之前在Amber做分享的时候也单独讲过这个公司(当时用的那页PPT放在文末),所以简单说下我对Cerebras的判断 先说结论:这家公司很有意思,但核心变量不一定是他们造的芯片本身,而是未来AI的workload形态会是成什么样。 先简单说下它是干嘛的,防止有老铁还没看Cerebras 它最核心的技术,就是wafer-scale chip(晶圆级芯片),简单理解就是别人还在用“邮票大小”的芯片,它直接把整片晶圆做成一颗超大处理器,再配上超大 SRAM,把大量数据尽量留在本地高速处理,减少传统GPU最头疼的memory bottleneck。现在海力士美光涨上天就是因为HBM这东西太抢手,Cerebras是直接绕开了对HBM的依赖 很多人看到 Cerebras最牛逼的benchmark:推理速度比GPU快10-15倍,第一反应就是下一个英伟达?! 先别急。 这个benchmark最大的问题,是默认AI的核心需求永远是“更快吐token”。 如果只是人类盯着ChatGPT聊天,这故事其实没那么性感。你每秒吐 30 个 token,我已经快读不过来了。再翻10倍,边际体验提升几乎为零。 真正有意思的是 Agent。 Agent不读字,Agent消费Token。速度直接等于生产力。 一个OpenClaw/Hermes agent,如果要读网页、写计划、调 API、跑代码、报错重试、继续执行,一个任务可能要几十次 inference call。 每次 2 秒,任务就是分钟级体验。 每次 200ms,就是另一个世界。 所以 Cerebras更值得关注的地方,是 AI worker 这条线,而不是单纯的chatbot加速。 但问题来了 - 它的magic来自 wafer-scale + 超大SRAM,本地访问极快。但SRAM这东西有天然 tradeoff,速度快,容量贵,大模型塞不下就必须拆分。 而一旦拆分,chip-to-chip communication 就上来了。 LLM inference里最怕通信的恰恰是 decode 阶段。token 是一个一个往外吐的,每多一次 hop,延迟就是硬加上去,没法隐藏。 所以 Cerebras能不能成,关键根本不在“比 GPU 快几倍”,而是未来 AI 的主流计算形态到底是什么。 1. 时间线一 - 未来几年还是 前沿超大模型一统天下,动不动几千亿甚至万亿参数,所有请求都让超大模型自己处理,那 Nvidia的distributed infra 依然最舒服,Cerebras的速度优势会被通信损耗吃掉很多。 2. 时间线二 - MoE、蒸馏、量化这些技术如果继续快速进步,未来两年70B左右的模型做到今天700B模型 80%-90% 的效果,我一点都不意外。(这里要强烈感谢Deepseek一大波!) 如果世界往这个方向走,故事就变了。 大模型负责 planning / judgement / orchestration。 真正执行任务的大量 worker model 落在 30B-70B 这个区间。 这些模型足够聪明,又刚好能吃到高速本地推理带来的红利。 Agent 世界里,大部分token根本不需要最聪明的大脑。很多工作本质就是执行层体力活:浏览网页、改代码、调工具、retry、继续跑流程。 这个 topology一旦成立,Cerebras就直接进入自己的甜区 3. 时间线三 - 未来推理是端侧为主,用的都是8B,14B的这些小模型,那GPU也能跑的很好,甚至专用的ASIC芯片效率更高,这个场景下Cerebras的优势和护城河也就不高了 换句话说,超大模型云端推理或者超小模型的端侧推理这两个平行宇宙,Cerebras的优势都不够明显,只有主流推理落在32B-70B中等模型这个Size,正好“Big enough to stress GPU memory, Small enough to fit locally” 才是Cerebras最能大展身手的世界 所以我对Cerebras的判断是,300多亿的市值,短期看订单,财务报表这些数据,长期赌的则是未来Agent时代的计算范式到底落在哪个平行宇宙的时间线上
显示更多
0
0
11
71
10
转发到社区
AI最严厉的父亲
@dashen_wang
2026.08.15 20:02
可能很多人对27B模型没什么概念。 27B听起来好像也没多大啊,现在普通玩家128G内存都开始普及了。 但我讲几个冷知识。 Google训练Gemma 3 27B的时候,预训练数据是14万亿Token。 不是140亿,也不是1400亿。 是14万亿。 训练它的集群用了6144颗TPU v5p。 而27B这个数字,只代表它有大约270亿个参数。 光把BF16原始权重放进内存,大概就是54GB。 32K上下文跑起来,加上KV Cache,大概72.7GB。 注意,这还只是推理。 真正训练的时候还要塞梯度,优化器状态,激活值,各种通信Buffer。 所以你看到一个27B模型只有几十GB,很容易产生一种错觉。 这玩意我电脑都装得下,我是不是也能训练。 完全是两回事。 还有一个更离谱的地方。 14万亿Token是什么概念。 假如一个人一天非常夸张地读10万个Token,而且一天不休息。 读完这些训练数据,大概需要38万年。 而机器要做的也不只是把这些字读一遍。 它要一层一层做矩阵运算,算损失,反向传播,再一点一点修改270亿个参数。 所以我现在越来越觉得,本地能跑27B,甚至70B,是一件非常牛逼的事情。 不是因为我们的电脑已经可以训练它们了。 而是因为人类把一个需要几千颗AI芯片训练出来的东西,压缩,量化,优化之后,居然可以塞进一台桌子下面的小电脑里。 这个过程本身就挺赛博朋克的。
显示更多
0
0
72
867
81
转发到社区
比特进
@roger73005305
2026.05.24 11:19
身弱之人,切记:求印不求财,一旦破局,即是巅峰。 我有个朋友,做电商的。上次见面吓我一跳,三十出头的人,看着像四十多。 他说自己每天一睁眼就是数据、流量、推广费,闭眼就是库存、账期、现金流。像个陀螺,被一根看不见的鞭子抽着,停不下来。 他问我:“我创业是为了赚钱,怎么现在赚的钱全变成了库存和下个月的推广费?自己能花的,还没上班时候多。” 我说:“那你别干了呗。” 他苦笑:“停下来公司就倒了。” 我说:“你这就是典型的——越努力,越没钱。” 古人早就说过:身弱不担财。 不是身体弱,而是你的内核——能量、心性、底子还太薄。 一棵小树苗,根都没扎稳,就想扛狂风暴雨,结果不是长得快,而是连根拔起。 很多人突然抓到风口,一夜暴富,然后迅速迷失,德不配位,最后连本带利还回去,还背一屁股债。 为什么?因为你的CPU带不动那么大的软件,一运行就死机。 所以,身弱的人,别急着求财。先求印。 印是什么?说白了就三样:身体、认知、心性。这些是给你“充电”的,而不是消耗你的。 你花一年时间读一百本书,一分钱不赚,但脑子变了; 每天早睡早起、好好吃饭,业绩没涨,但身体变了; 每天静坐半小时,不刷手机,心定了。 这些东西短期内看不到钱,但它们是地基。没有地基,你盖多高的楼,倒得多快。 我给那个做电商的朋友开了三个方子: ① 养身体,关掉熬夜模式 把所有功能饮料和咖啡扔掉。晚上11点前必须躺下,早上起来第一件事不是看手机,而是去户外走一小时。自己做饭,停掉外卖。 身体是你唯一的本钱,你把它折腾垮了,财神来了也进不了门。 ② 洗认知,取关所有“教你赚钱”的大V 把手机里所有讲引流、爆款、快速变现的账号全取关,吹水群也全部退出。 我给他推荐了三本书:《道德经》《曾国藩家书》《毛选》。每天读三个小时,一个字一个字读。 这些不教你怎么赚钱,但教你什么是规律、什么是人性、什么是真正的长期主义。当你脑子里装的是“道”,心就定了。你不追风口,风自然会来找你。 ③ 修心性,每天给自己一小时“发呆时间” 关掉手机,不看书,不听音乐,就静静坐着。观察自己的念头,看那些焦虑、恐惧、嫉妒、着急是怎么冒出来的。 当你能看着情绪起来,而不被它带着跑,你就赢了。这份定力,是你最值钱的护身符。 朋友半信半疑,还是照做了。他把公司交给副手,自己退下来半年。 头一个月他特别痛苦,像废人一样想看数据,但他忍住了。 一个月后,睡眠好了,吃饭香了。 三个月后,他说能看进去《道德经》了,发现里面全是做生意的智慧。 半年后回公司,所有人都说他变了:不急了,不吼了,更沉稳了。 他砍掉80%的产品线,只留几款利润最高、复购最好的。把省下来的推广费全砸到产品研发和客户服务上。 一年后,销售额没暴涨,但利润率翻了三倍,现金流健康得要命。他自己每天下午三点就下班,回家喝茶、看书、陪家人。赚的钱比以前多,却轻松了一百倍。 他从一个被事业拖着走的“陀螺”,变成了驾驭事业的人。他破局了。 这个时代,所有人都催你快、催你抓风口、催你马上变现。 很少有人告诉你:要慢下来,先把自己养成一个能量具足的人。 竹子用了好几年,只在地底下长根。一旦破土,几天就能蹿成参天大树。 你花在“求印”上的所有时间,都不会浪费。你在给自己修一个越来越深、越来越大的能量水库。 当水库蓄满了水,你破局的时刻就到了。 以前你求着别人合作,以后别人排着队来找你; 以前你做什么都觉得累,以后你有用不完的精力; 以前你总怕错过风口,以后你自己就是风口。 这个时候,财不是你去追的,而是它来追你。 你不再需要追逐光,因为你本身,就可以发光。 愿你也能耐得住寂寞,把自己养“强”。 然后,一击破局。
显示更多
0
0
19
173
32
转发到社区
余温
@gkxspace
2026.05.20 13:07
3、 任意一篇英文长文 → 中文双人对谈 mp3。 拿 Paul Graham《How to Make Wealth》(12000 字英文) 跑的: LLM 改写成 16 段两个中国年轻人的口语对话, A 用 lively-girl(活泼好奇,负责追问), B 用 zixinnansheng(老成稳健,负责展开), TTS 双角色合成,输出 8 分 10 秒 mp3。 通勤路上听完了,比自己读 12000 字英文舒服得多啊。
显示更多
0
0
0
0
0
转发到社区
黄赟
@huangyun_122
2026.08.18 03:06
4090 都能跑 QWen 27B 的当下,谁还会有耐心去读超过 800字以上只讲 1个观点的作文。谁能忍受 10分钟才能看完 2句话就能说通的视频 这些不应该是 token 就能解决的嘛
显示更多
0
0
0
0
0
转发到社区
习猪头
@zhangsan66862
2026.05.10 04:53
@JEAN84812676
习包子通商宽衣 2016年G20杭州峰会开幕演讲,习包子引用古籍《国语·晋语四》里的“轻关易道,通商宽农”,习包子却念成了“通商宽衣”。“农”字被读成“衣”,瞬间从经济政策变成“宽衣解带”式的搞笑画面。事后官方迅速删除相关音频和敏感词,央视视频也做了剪辑,但已经传遍网络,成为“宽衣大帝”的由来。
显示更多
0
0
0
0
0
转发到社区
剑的 AI 实验室
@swordBluesy
7hours ago
第一個智能體不用自己寫迴圈,那程式設計師還剩下什麼? 官方來源:Martin Bernaola Mendez,原文發表於 2026-11-13(1 天內,見文末核實)。原文標題直譯:《在微軟開發平台做你的第一個智能體,比你想的簡單》。先把反常識結論放前面:多數人以為做智能體要先學一堆新東西,新的框架、新的寫法、新的觀念,沒三個月下不來;真相剛好相反,你的第一個智能體根本不用學新東西,用你本來就會的主程式語言、你本來就熟的寫法,一個下午就跑起來了。智能體的本質一點都不神秘,就是模型加指示加工具加記憶,繞著圈跑到答案出來:模型先判斷要不要用工具、再叫你的程式去做事、拿到結果再寫答案,迴圈跑完才收工。關鍵在最後一句:這個迴圈不用你寫,框架全包了。你只剩三件事:給它一個名字與指示、給它一個工具、給它一段記憶。微軟的智能體框架就是幹這個的,底下還有一個聊天客戶端介面,幫你把不同模型的呼叫方式統一成同一套寫法。這篇只做一件事:照原文四步走,帶你從零做出第一個會查天氣、會記得你名字的旅行小幫手,最後再換成本機免費版,一毛錢都不花。先說清楚底線:前置條件是開發平台軟體開發套件第十版或全新的第十一版,加上一把開放智能的應用程式介面金鑰;沒有金鑰也沒關係,文末有本機免費版。 說清詞: - 智能體:模型加指示加工具加記憶,繞著圈跑到答案出來的程式,模型負責判斷、你的程式負責做事。 - 聊天客戶端介面:微軟擴充智能裡的統一介面,把不同模型的呼叫方式包成同一套寫法,換模型不用重寫程式。 - 微軟智能體框架:坐在聊天客戶端介面上面、專門加智能體功能的那一層,負責指示、工具呼叫、工作階段,往後還能接多智能體流程。 - 指示:你給智能體的工作說明,寫明它是誰、說話多簡短、什麼時候該用工具,寫得越具體、它做得越穩。 - 工具:就是你本來就會寫的普通方法,加上一句說明文字掛進智能體,模型看說明決定什麼時候叫它。 - 說明屬性:掛在方法與參數上面的說明文字,告訴模型這個方法是幹什麼的、參數是什麼意思,模型就靠它決定要不要叫、要傳什麼。 - 迴圈:模型決策、呼叫方法、結果回填、寫答案,四步轉一圈,直到答案夠好才停,框架自動跑,你不用自己寫。 - 工作階段:對話的記憶盒子,建立一次、每次跑都傳進去,智能體才記得上一句講過什麼。 - 串流:答案一個字一個字出現的跑法,像聊天視窗那樣慢慢印出來,整段等完才印是另一種跑法。 - 主控台專案:最簡單的那種程式,沒有視窗、沒有網頁,只在命令列視窗裡跑,做第一個智能體用它就夠了。 - 環境變數:存在電腦系統裡的設定值,金鑰放這裡,程式碼裡只讀它、不寫明文。 - 本機模型:裝在你自己電腦上跑的模型,不用連雲端、不用付按量費用,代表作是奧拉瑪接開源模型。 - 模型上下文協定:接現成工具伺服器的標準作法,原文只在展望裡提,叫你以後自己去接,不用現在學。 - 可觀察性:把每一次模型呼叫與工具呼叫都留下紀錄的作法,出怪事時靠它追查,原文只在展望裡提。 一個真實的例子:原文的第一個智能體叫旅行小幫手,做的事再小不過:回答去馬德里旅行的小建議。做法是拿開放智能的客戶端取一個聊天客戶端、指定一個支援工具呼叫的聊天模型,再把它轉成智能體,給名字旅行小幫手、給指示說你是友善的旅行助理、答案保持簡短,跑起來就完成了。問它去里斯本玩兩天怎麼排,答案一個字一個字慢慢印出來,那是串流跑法。接著給它一個工具:一個查天氣的普通方法,加上一句說明說這是查某個城市的天氣預報,方法本身只是回傳一段寫死的假天氣。問它去里斯本要不要帶傘,背後發生四件事:模型讀問題、發現需要天氣資料、叫方法去查里斯本、拿到結果寫答案說早上會下小雨、記得帶傘。迴圈你一行都沒寫,框架全包了。最後加記憶:建立一個工作階段、每次跑都傳進去,先說嗨我是安娜、星期五要飛里斯本,再問要不要帶傘,第二問根本沒提城市,智能體自己用對的城市查天氣;再問我叫什麼名字,它答得出安娜。這三問跑下來,第一個智能體該有的東西全齊了:會判斷、會動手、會記得。 為什麼是框架全包,而不是你自己寫迴圈?因為迴圈裡最容易出錯的地方,全是重複的髒活:模型回傳要叫工具,你要解析它叫的是哪一個、參數對不對;方法跑完,你要把結果用對的格式回填給模型;模型又回傳要再叫一次,你要判斷這是正常接力還是無限鬼打牆;答案終於出來了,你要決定什麼時候停。這些事每一件都不難,但加起來就是幾十行容易寫錯的程式碼,錯一次、除錯半天。框架把這整圈包起來,你只寫三件事:指示寫清楚、工具掛上去、工作階段傳進去。11 月 12 日那篇手寫迴圈的教程立場剛好相反,叫你自己把迴圈寫出來、看懂每一圈在幹什麼;這篇的立場是先跑起來再說,迴圈交給框架,你先嚐到智能體動起來的滋味。兩篇沒有誰對誰錯,是先後順序:新手先照這篇跑起來,想搞懂底層再去讀手寫迴圈那篇,順序反過來很容易卡在第一圈就放棄。 再算一筆帳,讓你知道第一個智能體到底花多少錢。示範用的是開放智能的輕量聊天模型,特點是便宜、支援工具呼叫,跑幾十次問答常常不到一塊錢美金,練手完全不心疼。真正貴的不是模型,是你把正式環境的大模型、長上下文、高價輸出全開來練手,練十次就抵得上一個月的示範費用。所以練手的規矩只有一個:示範模型挑輕量便宜的,指示寫簡短,工具先用寫死的假資料,跑通了再換真資料、再換好模型。本機免費版更徹底:模型裝在自己電腦上跑,一毛錢都不花,工具、工作階段、串流的程式碼一個字都不用改,只換呼叫模型的那一行。先在本機版把迴圈、工具、記憶三件事都摸熟,上雲端花錢時才知道錢花在哪裡。 反方適用條件清單——以下情況,先別照本篇做第一個智能體,免得把本篇讀成保證: - 不想碰微軟開發平台、只用別的語言生態:本篇是微軟開發平台的作法,換生態等於整篇重寫。 - 沒有金鑰、也不想裝本機模型:兩條路都沒有,模型叫不動,智能體跑不起來,先選一條路再開工。 - 挑的模型不支援工具呼叫:工具掛上去模型也不會叫,示範用的輕量模型有支援,換模型之前先確認支援清單。 - 想一次做多智能體協作、寫作者加審查者的流程:原文只做到單一智能體,多智能體是展望裡的下一步,現在做還太早。 - 想直接做正式上線的產品:本篇只到主控台示範為止,正式產品要另外做驗證、備份、錯誤處理。 - 指示寫得含糊、只寫你是個助理:指示越空、模型做得越飄,指示要寫明身分、語氣、什麼時候用工具。 - 除此之外,只要你會寫主程式語言、想親手跑一個會動手的智能體——這篇就是為你寫的。 一句定性金句:迴圈不用你寫,判斷不用你寫,你只剩三件事:給指示、給工具、驗答案。 一、翻車清單 - 金鑰寫進程式碼、貼進群組、傳進公開倉庫:誰拿到都能花你帳上的額度,正確做法是存進環境變數,程式碼裡只讀變數不寫明文。 - 開發平台軟體開發套件版本太舊:原文要第十版或全新的第十一版,舊版可能沒有智能體框架要的寫法,先升級再開工。 - 套件裝錯:開放智能版與通用版是兩個套件,雲端版裝開放智能那一個,本機版才裝通用版加奧拉瑪那一個,裝錯就接不上。 - 模型挑不支援工具呼叫的:工具掛上去模型也不會叫,示範用的輕量模型有支援,換模型之前先確認支援清單。 - 指示寫得太空:只寫你是個助理,模型不知道該簡短還是詳細、該不該用工具,指示要寫明身分、語氣與用工具的時機。 - 工具沒加說明文字:模型看不懂這個方法是幹什麼的,永遠不會叫它,說明文字是工具能不能被叫到的關鍵。 - 工具方法寫了真的去查天氣:示範階段先用寫死的假資料,跑通迴圈再換真資料,一開始就接真服務,出錯不知道是迴圈錯還是服務錯。 - 忘記建立工作階段:每一次呼叫都從零開始,第二問不提城市它就不知道去哪裡,名字也記不住,記憶要靠工作階段傳進去。 - 工作階段建了卻沒傳進去:建立一次不夠,每一次跑都要傳,漏傳一次、那一次的對話就斷了。 - 串流與整段回傳搞混:串流是一個字一個字印,整段是等完一次印,兩種跑法的寫法不一樣,抄錯會編不過。 - 金鑰放環境變數卻沒重開命令列視窗:環境變數改了要重開視窗才生效,舊視窗讀到的是舊值,一問就說金鑰沒設。 - 本機模型挑不支援工具呼叫的:本機開源模型不是每一個都支援工具呼叫,挑之前先確認,否則工具掛上去也不動。 - 本機服務沒啟動就跑程式:奧拉瑪的本機服務要先跑起來,程式連的是本機位址,服務沒開就連不上。 - 把示範程式當正式產品:主控台示範沒有錯誤處理、沒有備份、沒有驗證,正式上線要另外補齊,示範跑通不等於產品做完。 - 一次給太多工具:第一個智能體先給一個查天氣就好,工具一次給五個,模型叫錯的機率立刻上升,出錯不知道是哪一個工具的問題。 - 指示與工具打架:指示寫不要用工具、工具又掛上去,模型左右為難,指示與工具要講同一套話。 - 名字與指示寫完就以為智能體懂了:名字只是名字,真正管行為的是指示,指示沒寫清楚,名字再好聽也沒用。 - 測試不跑就說通了:模型說帶傘不算數,程式真的跑起來、答案真的對、第二問真的記得城市,才算通。 - 換雲端平台就以為程式碼要重寫:聊天客戶端介面就是為了換模型不用重寫,雲端平台、開源模型、微軟雲端,全是換呼叫模型的那一行,其餘不動。 - 把多智能體協作當第一步:原文的展望是下一步,先把單一智能體跑通,作者加審查者的流程以後再加,一步登天一定摔。 二、替代方案+理由 原文只給一條主路,理由很硬:先拿雲端輕量模型跑通,再換本機免費版——理由是雲端版最快驗證迴圈、工具、記憶三件事,本機版再把花費壓到零,順序反過來很容易卡在本機安裝那一步、還沒看到智能體動起來就放棄。雲端版的理由是套件裝好、金鑰設好就能跑,示範用的輕量模型便宜又支援工具呼叫,練手不心疼。本機免費版的理由是模型裝在自己電腦上,一毛錢都不花,工具、工作階段、串流的程式碼一個字都不用改,只換呼叫模型的那一行,適合想一直練、一直試的人。還有一條同理可推的路:雲端平台版、開源模型平台版、微軟雲端版,理由是聊天客戶端介面把模型呼叫統一了,換平台只是換呼叫模型的那一行,其餘程式碼全不動,適合公司已經有指定平台的人。順序只有一個:雲端輕量版先跑通,再換本機版或公司平台版,不要三種同時開工。 工具的作法也有替代方案,理由一樣硬:示範用寫死的假天氣,理由是先驗迴圈對不對,出錯只可能是迴圈錯;換真資料是下一步,理由是迴圈通了再接真服務,出錯只可能是服務錯。兩步分開除錯,永遠比一次全上、錯了不知道找誰快。記憶的作法也一樣:工作階段是原文給的正規作法,理由是框架幫你管記憶,不用自己寫對話紀錄;自己寫對話紀錄是另一條路,理由是想完全掌控格式的人可以自己來,但新手先不要,框架的版本先跑通再說。 三、目標形態 一個能對照的最小閉環:開發平台軟體開發套件已裝第十版或第十一版、開放智能金鑰已存進環境變數;主控台專案已建好、開放智能套件已裝好;智能體已有名字旅行小幫手、指示寫明友善的旅行助理、答案保持簡短;問它去里斯本要不要帶傘,模型自己叫查天氣的工具、拿到結果寫答案說早上會下小雨、記得帶傘;第二問不提城市,它用對的城市查天氣;第三問問我叫什麼名字,它答得出安娜。三問全對、程式真的跑起來,才算通。一句話:先讓一個智能體真正動起來,再談多智能體。 這個最小閉環還有三個進階樣子,通了之後可以一個一個加上去。第一個是換真資料:查天氣的方法從寫死的假資料換成真的天氣服務,問同樣的問題,答案裡的溫度與天氣要對得上真實預報,迴圈不動、只換方法裡面。第二個是換本機免費版:模型換成本機開源模型,其餘程式碼一個字都不改,跑同樣的三問,答案一樣對,帳單變零。第三個是加第二個工具:再掛一個查機票或查景點的方法,指示寫明什麼時候用哪一個,問一個同時需要天氣與景點的問題,看模型會不會自己挑對工具。這三個樣子有一個共同點:一次只換一件事,換完立刻驗三問,驗不過就只退一步,不用整段重寫。 四、遷移步驟 1. 先備前置條件:開發平台軟體開發套件裝第十版或全新的第十一版,開放智能金鑰申請好、存進環境變數,不要寫進程式碼。 2. 新建主控台專案:用命令列工具新建一個主控台專案、進到專案資料夾,裝開放智能版的智能體套件。 3. 寫第一版主程式:拿開放智能客戶端取聊天客戶端、指定輕量聊天模型,轉成智能體,給名字旅行小幫手、給指示說你是友善的旅行助理、答案保持簡短,問一句去馬德里旅行的小建議,跑起來。 4. 換串流跑法驗一次:同一個問題改用串流跑法,答案一個字一個字印出來,確認兩種跑法都通。 5. 給它第一個工具:寫一個查天氣的普通方法、加一句說明說這是查某個城市的天氣預報,方法裡先回傳寫死的假天氣,掛進智能體。 6. 問它去里斯本要不要帶傘:看模型自己叫查天氣的方法、拿到結果寫答案,迴圈四步都發生了才算通。 7. 建立工作階段:建立一個工作階段,每一次跑都傳進去,先說嗨我是安娜、星期五要飛里斯本。 8. 驗記憶三問:第二問要不要帶傘不提城市,看它用對的城市查天氣;第三問問我叫什麼名字,看它答得出安娜;三問全對才算通。 9. 換本機免費版:裝通用版套件加奧拉瑪套件,本機服務先啟動,模型換成本機開源模型,其餘程式碼一個字都不改,跑同樣的三問。 10. 換真資料:查天氣的方法從寫死的假資料換成真的天氣服務,問同樣的問題,答案要對得上真實預報。 11. 加第二個工具:再掛一個查機票或查景點的方法,指示寫明什麼時候用哪一個,問同時需要兩種資料的問題,看模型挑不挑得對。 12. 換公司平台驗一次:雲端平台版、開源模型平台版、微軟雲端版挑一種,換呼叫模型的那一行,其餘不動,確認聊天客戶端介面真的統一了寫法。 13. 記帳:示範用的輕量模型跑幾十次常常不到一塊錢美金,練手用輕量模型、指示寫簡短、工具先用假資料,跑通了再換真資料、再換好模型。 14. 排定主力與備胎:主力一種平台每天用,備胎一種放在旁邊,主力出問題、換專案時立刻換備胎頂上,不用臨時翻文件重學寫法。 15. 每月回頭對一次官方文件:智能體框架還在長大,多智能體流程、模型上下文協定、除錯工具都會變,每月花十分鐘對一次,才不會拿著舊地圖走新路。 跑完這十五步,真正拉開差距的不是你會幾種平台,是你給指示的方式。指示寫得含糊,模型就做得含糊;指示寫得具體,模型就動得具體。好的指示有三個要素:先說身分,再說語氣,最後說用工具的時機。身分是你是誰,例如友善的旅行助理;語氣是答案多長,例如保持簡短;用工具的時機是何時該查資料,例如需要天氣資料時就用工具查。三個要素寫進每一次設定,模型的命中率立刻不一樣。反過來最差的指示是只寫你是個助理,模型不知道你要它簡短還是詳細、不知道什麼時候該動手,只能憑感覺猜,猜錯了你還要花時間收拾。框架是硬體,指示是軟體,硬體接好了、軟體跟不上,一樣跑不快。 問問題也有一個進階技巧:一次只問一件事。請模型同時排行程、查天氣、再訂機票,它常常三件都做得半調子;拆成三輪,每一輪只做一件、每一輪都驗收,總時間反而更短,因為返工最花時間。還有一個習慣值得養:每一次請模型動手之前,先請它用一句話說出它理解的任務是什麼,它說對了再讓它動手,它說錯了先糾正理解、不要讓它帶著錯誤的理解去叫工具。這兩個習慣加起來,模型的出錯率會掉一大截,你花的檢查時間也會跟著掉。 五、團隊共建分工 做第一個智能體是小事,但三個角色別一個人全扛: - 你自己管金鑰:金鑰只你經手,存進環境變數、不寫進程式碼、不貼進群組,誰要用就請他自己建一把。 - 審查者核對帳單:每週對一次用量,示範用的輕量模型跑幾十次常常不到一塊錢美金,大模型、長上下文、高價輸出的帳單先抓出來看。 - 紀錄者留對照表:把每一次實驗的模型、指示、工具、工作階段、驗收結果寫進本篇贈品驗收表,換人接手時不用重讀原文,換模型時照表改名字就好。 - 守門員管範圍:每一次請模型動手之前,先說清楚哪些工具能叫、哪些資料不能碰,正式環境的設定一律列入禁區,模型動手之前先對一次範圍,叫錯工具的代價比多問一句話貴得多。 - 新人先跑最小閉環:新加入的人不要一次做多智能體,先照本篇第四節跑一遍最小閉環,三問全對、程式真的跑起來,通了才算入門,通不了先找守門員對設定,不要自己硬湊。 六、官方工具包 - 微軟擴充智能:聊天客戶端介面,統一不同模型的呼叫寫法,換模型不用重寫程式。 - 微軟智能體框架:坐在聊天客戶端介面上面,負責指示、工具呼叫、工作階段,往後還能接多智能體流程。 - 開放智能版套件:雲端版裝這一個,示範用輕量聊天模型,支援工具呼叫。 - 通用版套件加奧拉瑪套件:本機免費版裝這兩個,接本機開源模型,其餘程式碼不變。 - 示範模型:輕量聊天模型,支援工具呼叫,練手便宜。 - 本機模型代表:駱馬三點二,裝在自己電腦上跑,一毛錢都不花。 - 同理可接的平台:雲端平台、開源模型平台、微軟雲端,換呼叫模型的那一行就好。 - 展望裡的下一步:多智能體流程、模型上下文協定、智能體對智能體、可觀察性、除錯工具,現在先知道名字就好。 - 前置條件:開發平台軟體開發套件第十版或全新的第十一版,加上一把開放智能金鑰或一台裝好本機模型的電腦。 結尾收束:原則比框架多重要——智能體框架不是魔法,是把迴圈包起來的那一層。可重複的動作規則只有一條:每次換模型、換平台、加工具之前,先回到那個最小閉環——三問全對、程式真的跑起來——通了再往下走。今晚就能做的事:先備好金鑰、建一個主控台專案、問它一句去馬德里旅行的小建議,答得對,這條路就是你的了。 最後再提醒一次最容易被低估的事:第一個智能體真正的成本不是金鑰、不是套件,是你願不願意把指示寫清楚。指示寫不清楚,模型做得再快也是亂做,你還要花更多時間收拾;指示寫清楚了,迴圈、工具、記憶三件事立刻各就各位。這筆帳,比幾十次問答不到一塊錢美金重要得多。今晚先跑三問,明天上班第一件事就拿一個你真正的工作問題去問它,問完看它會不會自己挑對工具,挑對了,你就知道這條路值不值得走下去。 本篇贈品:微軟智能體首次落地驗收表 開通之前逐項打勾:1 前置——開發平台軟體開發套件已裝第十版或第十一版、開放智能金鑰已存進環境變數、沒寫進程式碼;2 專案——主控台專案已建好、開放智能版套件已裝好;3 第一版——智能體已有名字旅行小幫手、指示已寫明友善的旅行助理與答案保持簡短、問去馬德里旅行的小建議已跑通;4 串流——串流跑法已驗一次、答案一個字一個字印出來;5 工具——查天氣的方法已寫好、說明文字已加上、方法裡先用寫死的假資料、問去里斯本要不要帶傘已看到模型自己叫方法;6 記憶——工作階段已建立、每次跑都已傳進去、第二問不提城市已用對的城市查天氣、第三問已答得出安娜;7 本機版——通用版套件加奧拉瑪套件已裝好、本機服務已啟動、模型已換成本機開源模型、三問已重跑全對;8 真資料——查天氣的方法已換成真的天氣服務、答案已對上真實預報;9 第二工具——第二個方法已掛上、指示已寫明什麼時候用哪一個、同時需要兩種資料的問題已驗過;10 帳單——示範用的輕量模型跑幾十次不到一塊錢美金的算法已知道、練手用輕量模型與假資料的規矩已立好;11 維護——每月回頭對一次官方文件、換平台只換呼叫模型那一行的作法已驗過;12 指示——每一次設定已寫明身分、語氣、用工具的時機三個要素,一次只問一件事,模型動手前已先用一句話說出它理解的任務。 S1哥觀點 別再問「做智能體是不是很難」了——難的不是智能體,是你以為迴圈要自己寫。還在觀望的人,花的時間不是學習,是猶豫;照這篇跑起來的人,一個下午就有一個會查天氣、會記得你名字的旅行小幫手,迴圈框架全包了,你只剩給指示、給工具、驗答案。更值得問的是:你現在每天重複做的那件小事,是查資料、還是回覆、還是整理?那一件,就是你第一個智能體該先接的理由。還有一個更扎心的問題:你上一次說要學智能體,結果三個月過去、連第一個主控台專案都還沒建,是什麼時候?這種拖延,跑起來一次就治好了,因為跑通的那一刻你就知道,原來第一步這麼小。你第一個智能體想讓它先幫你做什麼?評論區說說。
显示更多
0
0
4
5
0
转发到社区
剑的 AI 实验室
@swordBluesy
8hours ago
DeepSeek 官方说 deepseek-flash 能直接看图,三种传图方式,一次最多 600 张 建议收藏,用到时照着做。做完你能让 DeepSeek 读截图、看图表、描述图片。 这是 DeepSeek 官方 API 文档 Vision(视觉)一页。先说结论: 官方写明,deepseek-flash 模型可以文字加图片一起输入,用来描述图片、读截图里的字、分析图表。 先说清词。 Vision,视觉输入,意思是让模型看图。 base64,是把图片文件转成一长串文字,直接塞进请求里的编码方式。 file_id,是先把图片传到官方的 Files API(文件接口),拿回来的一个编号,之后用编号代替图片。 先把话说全: 官方支持的图片格式是 JPEG、PNG、GIF、WebP,官方说格式按文件真实内容判断,不看文件名。 官方写明,assistant(模型自己的)消息里放图片,会返回 400 错误;图片只能放在 user、system、tool 消息里。 一、三种传图方式 第一种:base64 内联。官方说最适合本地文件,把图片编码后做成 data: 开头的地址放进请求,整个请求体上限是 48 MiB。 第二种:外部图片链接。给一个公开的 http 或 https 地址,官方限制:链接最长 8192 个字符,图片最大 32 MiB,下载要在 60 秒内完成。 第三种:Files API 的 file_id。官方说同一张图要反复用,或者图太大,就先上传再用编号。这种方式图片可以到 64 MiB。 二、请求怎么写 第一步:model 写 deepseek-flash。官方说旧名字 deepseek-v4-flash-vision-exp 还能用,但已经退役,实际由最新的 Flash 模型处理。 第二步:messages 里 content 不再是一句话,而是一个列表,里面一块是 text 文字,一块是 image_url 图片。 第三步:Responses API 也能传图,图片放在 input_image 里,文字放在 input_text 里。 三、detail 清晰度开关 官方写明,image_url 可以加 detail 字段。low 会把图缩到 512×512 再看,更快更便宜;high、original、auto 目前都是保持原图。 四、费用和上限 官方说图片按尺寸换算成 token,和文字一起计费。每张图最多 1024 个 token,因为太大的图会先被缩到约 1300×1300 的像素量。 官方给的上限:每次请求最多 600 张图;单边最长 8192 像素,一次放 15 张以上时降到 4096 像素;不含 file_id 的图合计 64 MiB,含 file_id 最多 200 MiB。 五、用 Anthropic 接口也行 官方说把 base_url 写成 image 块,source 的 type 可以是 base64、url 或 file。用 file 时要加请求头 anthropic-beta: files-api-2025-04-14。 常见坑 3 条: 一、把图片放进 assistant 消息,会直接报 400。二、外链图片超过 32 MiB 或 60 秒下不完,就改用 file_id。三、一次放 15 张以上,单边别超过 4096 像素。 复制即用的提示词:请描述这张图片,列出图里所有文字,再用三句话总结它想说明什么。 收藏版:5 步速查 一、model 写 deepseek-flash。二、选 base64、链接或 file_id 传图。三、content 写成文字块加图片块。四、格式用 JPEG、PNG、GIF、WebP。五、别把图放进 assistant 消息。 S1哥 观点:官方把每张图封顶 1024 个 token,说明传图比很多人想的便宜,截图问答可以放心大量用。 一句话结论:DeepSeek 读图,认准 deepseek-flash,小图用 base64,大图或重复用 file_id。想让朋友少踩坑,复制链接发给他。 你是想让它读截图还是看图表?卡在第几步?同系列前几篇在我主页。 参考:DeepSeek 官方文档 Vision(S1哥 整理) 今天送:DeepSeek 看图请求自检清单,评论区第一条直接拿。
显示更多
0
0
5
6
0
转发到社区
白骏知识分享
@cj3214567667
2026.11.14 11:27
世界上前20的Skill必装榜! 1、superpowers(by obra),当时星标 30.2 万 它把开发拆成四步:头脑风暴、写计划、测试驱动、代码审查,串成一套开发流程。做中大型功能之前装上,AI 不会一上来就乱写代码。 2、skills(by mattpocock),当时星标 29.8 万 需求说不清的时候,它会反过来追问你,再帮你理清架构。排查 bug、重构老项目,用它最顺手。 3、andrej-karpathy-skills(by multica-ai),当时星标 22.1 万 一份项目规则:AI 先想清楚再动手,只改该改的地方。放进项目根目录,写代码时就生效。 4、skills(by anthropics),当时星标 18.2 万 官方技能库,Word、PPT、表格和 PDF 都能直接做。想自己写 Skill,照着它的模板改就行。 5、ponytail(by DietrichGebert),当时星标 16.8 万 让 AI 像最懒的资深工程师一样思考:能不加的抽象就不加。代码写完让它过一遍,把过度设计和技术债挑出来。 6、ui-ux-pro-max-skill(by nextlevelbuilder),当时星标 13.8 万 整套配色、字体搭配和交互规范都在里面。做落地页、后台和 APP 界面之前装上,页面更像设计师做的。 7、graphify(by Graphify-Labs),当时星标 12.9 万 把代码、文档和数据库结构转成一张知识图谱。接手陌生项目时先建图,再问"这个函数被谁调用",一查就清楚。 8、caveman(by JuliusBrussee),当时星标 11.4 万 让 AI 用最少的字回答,啰嗦的铺垫全删掉。长时间跑 agent 的时候装上,能省下一大截 token。 9、agent-skills(by addyosmani),当时星标 10.9 万 谷歌工程师整理的工程规范,覆盖接口设计、上下文管理和质量检查。团队一起写项目,用它统一写法。 10、taste-skill(by LeonxLnx),当时星标 9.9 万 给 AI 补上审美:排版、参考图和动效都有讲究。做官网首页和作品集的时候用,页面不再像套模板。 11、Understand-Anything(by Egonex-AI),当时星标 8.7 万 把代码变成能点开的交互图谱,还会讲清楚业务流程。新人上手项目、读开源代码,最省时间。 12、impeccable(by pbakaus),当时星标 8.3 万 专门提升 AI 的设计能力,会检查间距、层级和细节。页面做完先让它审一遍,再按建议打磨。 13、awesome-claude-skills(by ComposioHQ),当时星标 7.7 万 一份技能合集,按场景收录了八百多个 Skill。不知道该装什么,先来这里挑。 14、last30days-skill(by mvanhorn),当时星标 6.5 万 它会去 Reddit、X 和 YouTube,汇总最近 30 天的讨论。 做选题、追热点、调研同类产品的时候用。 15、humanizer(by blader),当时星标 5.9 万 专门去掉文字里的 AI 痕迹,比如套话和固定句式。公众号、口播稿和邮件写完,都可以让它过一遍。 16、diagram-design(by cathrynlavery),当时星标 5.8 万 支持四十多种图表,直接输出成网页文件。写技术文档、做方案汇报,用它画架构图和流程图。 17、i-have-adhd(by ayghri),当时星标 5.8 万 让 AI 先说结论和下一步,再给细节,不把答案埋在长段落里。问技术问题、想马上拿到结果,就装它。 18、marketingskills(by coreyhaines31),当时星标 5.6 万 覆盖文案、SEO 和数据分析这些营销技能。写推广文案、提升网站搜索排名的时候用。 19、academic-research-skills(by Imbad0202),当时星标 5.3 万 从查文献、写论文到模拟审稿,一条流程串起来。写毕业论文、投期刊之前都能用。 20、scientific-agent-skills(by K-Dense-AI),当时星标 5.3 万 让 AI 变成科研助手,接入生物、化学这些领域的数据库和工具。做实验分析、查专业资料的时候用。
显示更多
0
0
10
75
19
转发到社区
meng shao
@shao__meng
2026.11.12 06:10
给儿子做的打字游戏,代码写完了也开源了,但想介绍给有孩子的朋友们时遇到一个新问题:怎么用一个演示视频,让家长朋友们快速看懂它?毕竟不是每个人都能看懂开源项目。。。 README 虽然能写清功能,但非开发背景的朋友们更想直接看到:打开以后怎么玩,孩子跟着什么提示按键,按错了怎么办。到底有没有用?能不能真的学会打字?! 这次我用 YouArt Desktop 给「键盘小岛」做介绍视频。选「教程视频」,把 GitHub 链接交过去,在应用内通过 connector 连接 GitHub 后,它就开始读项目、打开在线游戏、实际操作和录屏,再组织分镜,连 pr 历史也能自动提取出来,这样版本更新就更方便了。 作为经常制作教程视频、自己还做过 Video Agent 的老程序员,这一点意外的打动我:不是让我先准备好所有截图,再把素材拼起来,而是 Agent 自己进入项目,找出该展示的内容。过程中连中文字体缺失、画面可能出现方块字的问题,它也发现并处理了。 键盘小岛没有倒计时,按错可以继续,从 F、J 开始,跟着大字母和手指提示熟悉键盘。做介绍演示视频,我也不需要多炫的转场,能把这些真实体验讲清楚最重要! Coding Agent 帮我把游戏做出来,创作 Agent 再帮我把它介绍出去。对自己动手做项目的人,这才是我想用上的分工。 YouArt Desktop 下载: 键盘小岛开源项目:
显示更多
0
0
23
18
4
转发到社区
加载中...