注册并分享邀请链接,可获得视频播放与邀请奖励。

与「大模型」相关的搜索结果

大模型 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 大模型 的内容
最新 GPT GPT-6.1 Sol Max:用Three.js 程序化制作《金乌斗玄龟》。全片 60 秒,从金乌贴海掠行开始,经过两次撞甲、玄龟坠海,再到火流与潮墙相撞。虽然不是fable 5.2 制作,但从着色渲染细腻程度,已经表现的非常出色。 用时:50分钟 纯代码 零 3D 资材 技术栈: Three.js 配乐是python合成的 提示词见评论区: #GPT# #Threejs# #AI# #opus5# #OpenAI# #GPT62sol# #大模型# #codex# #Fable5# #fable52#
显示更多
11 月 19 日定价的 Anthropic,路演前四天被自己的 CEO 说出了一个数字:9010 亿美元。 这是 Bloomberg 口径的承诺总额,多数绑在算力和芯片上,其中约 710 亿美元在 2027 年 9 月前到期。按七个季度粗算,每季要付一百亿美元上下;710 亿这个数,比标普 500 里大约三分之二公司的市值都高。 Amodei 11 月 14 日在纽约 JPMorgan 的活动上对 Jamie Dimon 说,算力是公司最深的两难:容量得提前一到两年买,买少了客户和新技术的资源不够、收入受损,买多了会在财务上过度扩张。今年 2 月他说得更狠,从 2027 年底起可以买一万亿美元算力,收入不及预期就破产,差一年就可能破产。他还说同行未必算过这笔账,这是他的判断,不是已验证的事实。 缓冲只有两样:毛利率和账上现金。他说毛利率「相当好」,尤其相对同行;IPO 的作用就是把现金垫厚,扛过支出和收入错位的那段时间。 这份承诺表会变成大模型公司财报里的新科目。营收增速之外,得看到期结构:710 亿美元压在 2027 年 9 月前,那一年谁能融到钱,比谁的模型分高更能决定排位。 11 月 19 日定价之后,第一份披露我打算先翻承诺表的到期分布和毛利率口径。
显示更多
11月13日,本地大模型推理引擎 llama.cpp 与底层张量库 ggml 同步发布 1.0.0,这是项目诞生 3 年半以来的首个正式大版本。 这次升级的看点是接口契约:删除 35 个废弃函数,今后任何破坏 API/ABI 兼容的改动都以主版本号跳升明确标示。 依赖它的应用开发者,从此能提前规划迁移。 新版本还补齐一批功能:新增 FP8 键值缓存与 MoE 模型的主机内存专家缓存,加固推理服务器防御 SSRF、跨域和 DNS 重绑定攻击,并加入兼容 OpenAI 的语音合成接口与全新网页界面。 llama.cpp 如今支持超过 150 种模型架构,个人电脑断网也能跑大模型,是本地 AI 生态最常用的地基之一。 里程碑式 1.0,意味着开源本地推理真正进入稳定期。
显示更多
第一個智能體不用自己寫迴圈,那程式設計師還剩下什麼? 官方來源:Martin Bernaola Mendez,原文發表於 2026-11-13(1 天內,見文末核實)。原文標題直譯:《在微軟開發平台做你的第一個智能體,比你想的簡單》。先把反常識結論放前面:多數人以為做智能體要先學一堆新東西,新的框架、新的寫法、新的觀念,沒三個月下不來;真相剛好相反,你的第一個智能體根本不用學新東西,用你本來就會的主程式語言、你本來就熟的寫法,一個下午就跑起來了。智能體的本質一點都不神秘,就是模型加指示加工具加記憶,繞著圈跑到答案出來:模型先判斷要不要用工具、再叫你的程式去做事、拿到結果再寫答案,迴圈跑完才收工。關鍵在最後一句:這個迴圈不用你寫,框架全包了。你只剩三件事:給它一個名字與指示、給它一個工具、給它一段記憶。微軟的智能體框架就是幹這個的,底下還有一個聊天客戶端介面,幫你把不同模型的呼叫方式統一成同一套寫法。這篇只做一件事:照原文四步走,帶你從零做出第一個會查天氣、會記得你名字的旅行小幫手,最後再換成本機免費版,一毛錢都不花。先說清楚底線:前置條件是開發平台軟體開發套件第十版或全新的第十一版,加上一把開放智能的應用程式介面金鑰;沒有金鑰也沒關係,文末有本機免費版。 說清詞: - 智能體:模型加指示加工具加記憶,繞著圈跑到答案出來的程式,模型負責判斷、你的程式負責做事。 - 聊天客戶端介面:微軟擴充智能裡的統一介面,把不同模型的呼叫方式包成同一套寫法,換模型不用重寫程式。 - 微軟智能體框架:坐在聊天客戶端介面上面、專門加智能體功能的那一層,負責指示、工具呼叫、工作階段,往後還能接多智能體流程。 - 指示:你給智能體的工作說明,寫明它是誰、說話多簡短、什麼時候該用工具,寫得越具體、它做得越穩。 - 工具:就是你本來就會寫的普通方法,加上一句說明文字掛進智能體,模型看說明決定什麼時候叫它。 - 說明屬性:掛在方法與參數上面的說明文字,告訴模型這個方法是幹什麼的、參數是什麼意思,模型就靠它決定要不要叫、要傳什麼。 - 迴圈:模型決策、呼叫方法、結果回填、寫答案,四步轉一圈,直到答案夠好才停,框架自動跑,你不用自己寫。 - 工作階段:對話的記憶盒子,建立一次、每次跑都傳進去,智能體才記得上一句講過什麼。 - 串流:答案一個字一個字出現的跑法,像聊天視窗那樣慢慢印出來,整段等完才印是另一種跑法。 - 主控台專案:最簡單的那種程式,沒有視窗、沒有網頁,只在命令列視窗裡跑,做第一個智能體用它就夠了。 - 環境變數:存在電腦系統裡的設定值,金鑰放這裡,程式碼裡只讀它、不寫明文。 - 本機模型:裝在你自己電腦上跑的模型,不用連雲端、不用付按量費用,代表作是奧拉瑪接開源模型。 - 模型上下文協定:接現成工具伺服器的標準作法,原文只在展望裡提,叫你以後自己去接,不用現在學。 - 可觀察性:把每一次模型呼叫與工具呼叫都留下紀錄的作法,出怪事時靠它追查,原文只在展望裡提。 一個真實的例子:原文的第一個智能體叫旅行小幫手,做的事再小不過:回答去馬德里旅行的小建議。做法是拿開放智能的客戶端取一個聊天客戶端、指定一個支援工具呼叫的聊天模型,再把它轉成智能體,給名字旅行小幫手、給指示說你是友善的旅行助理、答案保持簡短,跑起來就完成了。問它去里斯本玩兩天怎麼排,答案一個字一個字慢慢印出來,那是串流跑法。接著給它一個工具:一個查天氣的普通方法,加上一句說明說這是查某個城市的天氣預報,方法本身只是回傳一段寫死的假天氣。問它去里斯本要不要帶傘,背後發生四件事:模型讀問題、發現需要天氣資料、叫方法去查里斯本、拿到結果寫答案說早上會下小雨、記得帶傘。迴圈你一行都沒寫,框架全包了。最後加記憶:建立一個工作階段、每次跑都傳進去,先說嗨我是安娜、星期五要飛里斯本,再問要不要帶傘,第二問根本沒提城市,智能體自己用對的城市查天氣;再問我叫什麼名字,它答得出安娜。這三問跑下來,第一個智能體該有的東西全齊了:會判斷、會動手、會記得。 為什麼是框架全包,而不是你自己寫迴圈?因為迴圈裡最容易出錯的地方,全是重複的髒活:模型回傳要叫工具,你要解析它叫的是哪一個、參數對不對;方法跑完,你要把結果用對的格式回填給模型;模型又回傳要再叫一次,你要判斷這是正常接力還是無限鬼打牆;答案終於出來了,你要決定什麼時候停。這些事每一件都不難,但加起來就是幾十行容易寫錯的程式碼,錯一次、除錯半天。框架把這整圈包起來,你只寫三件事:指示寫清楚、工具掛上去、工作階段傳進去。11 月 12 日那篇手寫迴圈的教程立場剛好相反,叫你自己把迴圈寫出來、看懂每一圈在幹什麼;這篇的立場是先跑起來再說,迴圈交給框架,你先嚐到智能體動起來的滋味。兩篇沒有誰對誰錯,是先後順序:新手先照這篇跑起來,想搞懂底層再去讀手寫迴圈那篇,順序反過來很容易卡在第一圈就放棄。 再算一筆帳,讓你知道第一個智能體到底花多少錢。示範用的是開放智能的輕量聊天模型,特點是便宜、支援工具呼叫,跑幾十次問答常常不到一塊錢美金,練手完全不心疼。真正貴的不是模型,是你把正式環境的大模型、長上下文、高價輸出全開來練手,練十次就抵得上一個月的示範費用。所以練手的規矩只有一個:示範模型挑輕量便宜的,指示寫簡短,工具先用寫死的假資料,跑通了再換真資料、再換好模型。本機免費版更徹底:模型裝在自己電腦上跑,一毛錢都不花,工具、工作階段、串流的程式碼一個字都不用改,只換呼叫模型的那一行。先在本機版把迴圈、工具、記憶三件事都摸熟,上雲端花錢時才知道錢花在哪裡。 反方適用條件清單——以下情況,先別照本篇做第一個智能體,免得把本篇讀成保證: - 不想碰微軟開發平台、只用別的語言生態:本篇是微軟開發平台的作法,換生態等於整篇重寫。 - 沒有金鑰、也不想裝本機模型:兩條路都沒有,模型叫不動,智能體跑不起來,先選一條路再開工。 - 挑的模型不支援工具呼叫:工具掛上去模型也不會叫,示範用的輕量模型有支援,換模型之前先確認支援清單。 - 想一次做多智能體協作、寫作者加審查者的流程:原文只做到單一智能體,多智能體是展望裡的下一步,現在做還太早。 - 想直接做正式上線的產品:本篇只到主控台示範為止,正式產品要另外做驗證、備份、錯誤處理。 - 指示寫得含糊、只寫你是個助理:指示越空、模型做得越飄,指示要寫明身分、語氣、什麼時候用工具。 - 除此之外,只要你會寫主程式語言、想親手跑一個會動手的智能體——這篇就是為你寫的。 一句定性金句:迴圈不用你寫,判斷不用你寫,你只剩三件事:給指示、給工具、驗答案。 一、翻車清單 - 金鑰寫進程式碼、貼進群組、傳進公開倉庫:誰拿到都能花你帳上的額度,正確做法是存進環境變數,程式碼裡只讀變數不寫明文。 - 開發平台軟體開發套件版本太舊:原文要第十版或全新的第十一版,舊版可能沒有智能體框架要的寫法,先升級再開工。 - 套件裝錯:開放智能版與通用版是兩個套件,雲端版裝開放智能那一個,本機版才裝通用版加奧拉瑪那一個,裝錯就接不上。 - 模型挑不支援工具呼叫的:工具掛上去模型也不會叫,示範用的輕量模型有支援,換模型之前先確認支援清單。 - 指示寫得太空:只寫你是個助理,模型不知道該簡短還是詳細、該不該用工具,指示要寫明身分、語氣與用工具的時機。 - 工具沒加說明文字:模型看不懂這個方法是幹什麼的,永遠不會叫它,說明文字是工具能不能被叫到的關鍵。 - 工具方法寫了真的去查天氣:示範階段先用寫死的假資料,跑通迴圈再換真資料,一開始就接真服務,出錯不知道是迴圈錯還是服務錯。 - 忘記建立工作階段:每一次呼叫都從零開始,第二問不提城市它就不知道去哪裡,名字也記不住,記憶要靠工作階段傳進去。 - 工作階段建了卻沒傳進去:建立一次不夠,每一次跑都要傳,漏傳一次、那一次的對話就斷了。 - 串流與整段回傳搞混:串流是一個字一個字印,整段是等完一次印,兩種跑法的寫法不一樣,抄錯會編不過。 - 金鑰放環境變數卻沒重開命令列視窗:環境變數改了要重開視窗才生效,舊視窗讀到的是舊值,一問就說金鑰沒設。 - 本機模型挑不支援工具呼叫的:本機開源模型不是每一個都支援工具呼叫,挑之前先確認,否則工具掛上去也不動。 - 本機服務沒啟動就跑程式:奧拉瑪的本機服務要先跑起來,程式連的是本機位址,服務沒開就連不上。 - 把示範程式當正式產品:主控台示範沒有錯誤處理、沒有備份、沒有驗證,正式上線要另外補齊,示範跑通不等於產品做完。 - 一次給太多工具:第一個智能體先給一個查天氣就好,工具一次給五個,模型叫錯的機率立刻上升,出錯不知道是哪一個工具的問題。 - 指示與工具打架:指示寫不要用工具、工具又掛上去,模型左右為難,指示與工具要講同一套話。 - 名字與指示寫完就以為智能體懂了:名字只是名字,真正管行為的是指示,指示沒寫清楚,名字再好聽也沒用。 - 測試不跑就說通了:模型說帶傘不算數,程式真的跑起來、答案真的對、第二問真的記得城市,才算通。 - 換雲端平台就以為程式碼要重寫:聊天客戶端介面就是為了換模型不用重寫,雲端平台、開源模型、微軟雲端,全是換呼叫模型的那一行,其餘不動。 - 把多智能體協作當第一步:原文的展望是下一步,先把單一智能體跑通,作者加審查者的流程以後再加,一步登天一定摔。 二、替代方案+理由 原文只給一條主路,理由很硬:先拿雲端輕量模型跑通,再換本機免費版——理由是雲端版最快驗證迴圈、工具、記憶三件事,本機版再把花費壓到零,順序反過來很容易卡在本機安裝那一步、還沒看到智能體動起來就放棄。雲端版的理由是套件裝好、金鑰設好就能跑,示範用的輕量模型便宜又支援工具呼叫,練手不心疼。本機免費版的理由是模型裝在自己電腦上,一毛錢都不花,工具、工作階段、串流的程式碼一個字都不用改,只換呼叫模型的那一行,適合想一直練、一直試的人。還有一條同理可推的路:雲端平台版、開源模型平台版、微軟雲端版,理由是聊天客戶端介面把模型呼叫統一了,換平台只是換呼叫模型的那一行,其餘程式碼全不動,適合公司已經有指定平台的人。順序只有一個:雲端輕量版先跑通,再換本機版或公司平台版,不要三種同時開工。 工具的作法也有替代方案,理由一樣硬:示範用寫死的假天氣,理由是先驗迴圈對不對,出錯只可能是迴圈錯;換真資料是下一步,理由是迴圈通了再接真服務,出錯只可能是服務錯。兩步分開除錯,永遠比一次全上、錯了不知道找誰快。記憶的作法也一樣:工作階段是原文給的正規作法,理由是框架幫你管記憶,不用自己寫對話紀錄;自己寫對話紀錄是另一條路,理由是想完全掌控格式的人可以自己來,但新手先不要,框架的版本先跑通再說。 三、目標形態 一個能對照的最小閉環:開發平台軟體開發套件已裝第十版或第十一版、開放智能金鑰已存進環境變數;主控台專案已建好、開放智能套件已裝好;智能體已有名字旅行小幫手、指示寫明友善的旅行助理、答案保持簡短;問它去里斯本要不要帶傘,模型自己叫查天氣的工具、拿到結果寫答案說早上會下小雨、記得帶傘;第二問不提城市,它用對的城市查天氣;第三問問我叫什麼名字,它答得出安娜。三問全對、程式真的跑起來,才算通。一句話:先讓一個智能體真正動起來,再談多智能體。 這個最小閉環還有三個進階樣子,通了之後可以一個一個加上去。第一個是換真資料:查天氣的方法從寫死的假資料換成真的天氣服務,問同樣的問題,答案裡的溫度與天氣要對得上真實預報,迴圈不動、只換方法裡面。第二個是換本機免費版:模型換成本機開源模型,其餘程式碼一個字都不改,跑同樣的三問,答案一樣對,帳單變零。第三個是加第二個工具:再掛一個查機票或查景點的方法,指示寫明什麼時候用哪一個,問一個同時需要天氣與景點的問題,看模型會不會自己挑對工具。這三個樣子有一個共同點:一次只換一件事,換完立刻驗三問,驗不過就只退一步,不用整段重寫。 四、遷移步驟 1. 先備前置條件:開發平台軟體開發套件裝第十版或全新的第十一版,開放智能金鑰申請好、存進環境變數,不要寫進程式碼。 2. 新建主控台專案:用命令列工具新建一個主控台專案、進到專案資料夾,裝開放智能版的智能體套件。 3. 寫第一版主程式:拿開放智能客戶端取聊天客戶端、指定輕量聊天模型,轉成智能體,給名字旅行小幫手、給指示說你是友善的旅行助理、答案保持簡短,問一句去馬德里旅行的小建議,跑起來。 4. 換串流跑法驗一次:同一個問題改用串流跑法,答案一個字一個字印出來,確認兩種跑法都通。 5. 給它第一個工具:寫一個查天氣的普通方法、加一句說明說這是查某個城市的天氣預報,方法裡先回傳寫死的假天氣,掛進智能體。 6. 問它去里斯本要不要帶傘:看模型自己叫查天氣的方法、拿到結果寫答案,迴圈四步都發生了才算通。 7. 建立工作階段:建立一個工作階段,每一次跑都傳進去,先說嗨我是安娜、星期五要飛里斯本。 8. 驗記憶三問:第二問要不要帶傘不提城市,看它用對的城市查天氣;第三問問我叫什麼名字,看它答得出安娜;三問全對才算通。 9. 換本機免費版:裝通用版套件加奧拉瑪套件,本機服務先啟動,模型換成本機開源模型,其餘程式碼一個字都不改,跑同樣的三問。 10. 換真資料:查天氣的方法從寫死的假資料換成真的天氣服務,問同樣的問題,答案要對得上真實預報。 11. 加第二個工具:再掛一個查機票或查景點的方法,指示寫明什麼時候用哪一個,問同時需要兩種資料的問題,看模型挑不挑得對。 12. 換公司平台驗一次:雲端平台版、開源模型平台版、微軟雲端版挑一種,換呼叫模型的那一行,其餘不動,確認聊天客戶端介面真的統一了寫法。 13. 記帳:示範用的輕量模型跑幾十次常常不到一塊錢美金,練手用輕量模型、指示寫簡短、工具先用假資料,跑通了再換真資料、再換好模型。 14. 排定主力與備胎:主力一種平台每天用,備胎一種放在旁邊,主力出問題、換專案時立刻換備胎頂上,不用臨時翻文件重學寫法。 15. 每月回頭對一次官方文件:智能體框架還在長大,多智能體流程、模型上下文協定、除錯工具都會變,每月花十分鐘對一次,才不會拿著舊地圖走新路。 跑完這十五步,真正拉開差距的不是你會幾種平台,是你給指示的方式。指示寫得含糊,模型就做得含糊;指示寫得具體,模型就動得具體。好的指示有三個要素:先說身分,再說語氣,最後說用工具的時機。身分是你是誰,例如友善的旅行助理;語氣是答案多長,例如保持簡短;用工具的時機是何時該查資料,例如需要天氣資料時就用工具查。三個要素寫進每一次設定,模型的命中率立刻不一樣。反過來最差的指示是只寫你是個助理,模型不知道你要它簡短還是詳細、不知道什麼時候該動手,只能憑感覺猜,猜錯了你還要花時間收拾。框架是硬體,指示是軟體,硬體接好了、軟體跟不上,一樣跑不快。 問問題也有一個進階技巧:一次只問一件事。請模型同時排行程、查天氣、再訂機票,它常常三件都做得半調子;拆成三輪,每一輪只做一件、每一輪都驗收,總時間反而更短,因為返工最花時間。還有一個習慣值得養:每一次請模型動手之前,先請它用一句話說出它理解的任務是什麼,它說對了再讓它動手,它說錯了先糾正理解、不要讓它帶著錯誤的理解去叫工具。這兩個習慣加起來,模型的出錯率會掉一大截,你花的檢查時間也會跟著掉。 五、團隊共建分工 做第一個智能體是小事,但三個角色別一個人全扛: - 你自己管金鑰:金鑰只你經手,存進環境變數、不寫進程式碼、不貼進群組,誰要用就請他自己建一把。 - 審查者核對帳單:每週對一次用量,示範用的輕量模型跑幾十次常常不到一塊錢美金,大模型、長上下文、高價輸出的帳單先抓出來看。 - 紀錄者留對照表:把每一次實驗的模型、指示、工具、工作階段、驗收結果寫進本篇贈品驗收表,換人接手時不用重讀原文,換模型時照表改名字就好。 - 守門員管範圍:每一次請模型動手之前,先說清楚哪些工具能叫、哪些資料不能碰,正式環境的設定一律列入禁區,模型動手之前先對一次範圍,叫錯工具的代價比多問一句話貴得多。 - 新人先跑最小閉環:新加入的人不要一次做多智能體,先照本篇第四節跑一遍最小閉環,三問全對、程式真的跑起來,通了才算入門,通不了先找守門員對設定,不要自己硬湊。 六、官方工具包 - 微軟擴充智能:聊天客戶端介面,統一不同模型的呼叫寫法,換模型不用重寫程式。 - 微軟智能體框架:坐在聊天客戶端介面上面,負責指示、工具呼叫、工作階段,往後還能接多智能體流程。 - 開放智能版套件:雲端版裝這一個,示範用輕量聊天模型,支援工具呼叫。 - 通用版套件加奧拉瑪套件:本機免費版裝這兩個,接本機開源模型,其餘程式碼不變。 - 示範模型:輕量聊天模型,支援工具呼叫,練手便宜。 - 本機模型代表:駱馬三點二,裝在自己電腦上跑,一毛錢都不花。 - 同理可接的平台:雲端平台、開源模型平台、微軟雲端,換呼叫模型的那一行就好。 - 展望裡的下一步:多智能體流程、模型上下文協定、智能體對智能體、可觀察性、除錯工具,現在先知道名字就好。 - 前置條件:開發平台軟體開發套件第十版或全新的第十一版,加上一把開放智能金鑰或一台裝好本機模型的電腦。 結尾收束:原則比框架多重要——智能體框架不是魔法,是把迴圈包起來的那一層。可重複的動作規則只有一條:每次換模型、換平台、加工具之前,先回到那個最小閉環——三問全對、程式真的跑起來——通了再往下走。今晚就能做的事:先備好金鑰、建一個主控台專案、問它一句去馬德里旅行的小建議,答得對,這條路就是你的了。 最後再提醒一次最容易被低估的事:第一個智能體真正的成本不是金鑰、不是套件,是你願不願意把指示寫清楚。指示寫不清楚,模型做得再快也是亂做,你還要花更多時間收拾;指示寫清楚了,迴圈、工具、記憶三件事立刻各就各位。這筆帳,比幾十次問答不到一塊錢美金重要得多。今晚先跑三問,明天上班第一件事就拿一個你真正的工作問題去問它,問完看它會不會自己挑對工具,挑對了,你就知道這條路值不值得走下去。 本篇贈品:微軟智能體首次落地驗收表 開通之前逐項打勾:1 前置——開發平台軟體開發套件已裝第十版或第十一版、開放智能金鑰已存進環境變數、沒寫進程式碼;2 專案——主控台專案已建好、開放智能版套件已裝好;3 第一版——智能體已有名字旅行小幫手、指示已寫明友善的旅行助理與答案保持簡短、問去馬德里旅行的小建議已跑通;4 串流——串流跑法已驗一次、答案一個字一個字印出來;5 工具——查天氣的方法已寫好、說明文字已加上、方法裡先用寫死的假資料、問去里斯本要不要帶傘已看到模型自己叫方法;6 記憶——工作階段已建立、每次跑都已傳進去、第二問不提城市已用對的城市查天氣、第三問已答得出安娜;7 本機版——通用版套件加奧拉瑪套件已裝好、本機服務已啟動、模型已換成本機開源模型、三問已重跑全對;8 真資料——查天氣的方法已換成真的天氣服務、答案已對上真實預報;9 第二工具——第二個方法已掛上、指示已寫明什麼時候用哪一個、同時需要兩種資料的問題已驗過;10 帳單——示範用的輕量模型跑幾十次不到一塊錢美金的算法已知道、練手用輕量模型與假資料的規矩已立好;11 維護——每月回頭對一次官方文件、換平台只換呼叫模型那一行的作法已驗過;12 指示——每一次設定已寫明身分、語氣、用工具的時機三個要素,一次只問一件事,模型動手前已先用一句話說出它理解的任務。 S1哥觀點 別再問「做智能體是不是很難」了——難的不是智能體,是你以為迴圈要自己寫。還在觀望的人,花的時間不是學習,是猶豫;照這篇跑起來的人,一個下午就有一個會查天氣、會記得你名字的旅行小幫手,迴圈框架全包了,你只剩給指示、給工具、驗答案。更值得問的是:你現在每天重複做的那件小事,是查資料、還是回覆、還是整理?那一件,就是你第一個智能體該先接的理由。還有一個更扎心的問題:你上一次說要學智能體,結果三個月過去、連第一個主控台專案都還沒建,是什麼時候?這種拖延,跑起來一次就治好了,因為跑通的那一刻你就知道,原來第一步這麼小。你第一個智能體想讓它先幫你做什麼?評論區說說。
显示更多
End-to-End 4-Bit Training:让大模型用更粗糙的数字格式完成全流程训练,大幅缩短显卡训练时间 训练大模型需要处理海量数据,直接把数字精度压到4位虽然能加快计算,但四舍五入累积的误差会严重拖垮模型的学习效果。 为了解决这个矛盾,Thinking Machines Lab在英伟达GB300显卡平台上开发了名为BBBK的专用底层加速程序。采取了分工策略,在模型向前推理计算时使用高速度的4位数字格式NVFP4,在向后更新参数时切回较精细的8位格式MXFP8,并在传输数据时顺手进行旋转压缩与随机舍入修正,省去了传统训练完成后还要单独做低精度校准的麻烦步骤。 这套方案应用在Inkling 2 Small模型的全流程训练中,显卡的运算管道和传输带宽同时跑满,没有出现互相等待的卡顿。原本需要好几周才能跑完的同体量模型,现在在GB300机柜上只用了68小时就完成了预训练。对比全程使用8位格式训练,新方案在预训练阶段节省了8%的时间,在强化学习阶段直接提速了20%,省下了大量算力开销,同时模型最终的回答准确率几乎没有受到影响。 链接:
显示更多
很多人翻墙之后,只会刷推特 其实真正的信息差,藏在海外这些网站里。 下面这 10 个地方,建议全部收藏。每天花半小时逛一圈,信息获取能力可能超过身边 90% 的人! 1、Reddit 互联网最大的兴趣社区之一。AI、投资、编程、创业、科技,几乎任何领域都有专属 Subreddit。真人经验、深度讨论、行业内幕,挖宝圣地! 2、GitHub 全球最大的开源代码社区之一。AI Agent、LLM、大模型、自动化工具、开发框架,想找宝藏开源项目,这里简直挖不完! 3、Hacker News 硅谷程序员的情报站。AI、开源项目、技术趋势、创业故事,每天都有高质量讨论,技术信息密度爆表! 4、Product Hunt AI 工具和 SaaS 产品的发射场。每天都有新产品上线,很多爆火的 AI 项目都能在这里提前发现。 5、LinkedIn 千万别只把它当招聘网站。全球 CEO、投资人、创业者、科技公司高管都在这里分享一手行业动态。 6、Telegram 海外信息集散中心。AI、加密货币、投资、开源工具,各种频道和社群层出不穷,不少一手消息传播速度非常快。 7、Threads Meta 旗下社交平台。海外创作者、开发者、创业者聚集地,氛围比 X 更轻松,经常能看到有意思的新观点。 8、Discord 海外互联网社区的大本营。AI 项目、Web3、游戏、开发者社区都喜欢在这里建群,很多项目的核心讨论和早期动态都在 Discord。 9、Medium 海外技术和商业长文聚集地。AI 技术教程、创业复盘、投资思考、产品分析,适合系统性补充知识。 10、Substack 独立作者和行业专家的内容订阅平台。大量投资人、科技创业者、研究员在这里发布深度报告,有些内容比新闻媒体更有洞察力。 最后说一句: 不要把翻墙后的互联网,只当成一个刷 X 的娱乐工具。 Reddit 找讨论,GitHub 挖项目,Hacker News 看趋势,Product Hunt 找工具,Substack 追踪大佬观点。 这才是打开海外互联网的正确姿势! 建议收藏,也转发给还在只会刷 X 的朋友。 你还有哪些值得推荐的海外网站?评论区补充!
显示更多
0
23
64
4
转发到社区
中美大模型最新现状盘点: 🔻 国内模型:集体陷入停滞 ▪️ Kimi k3.1 pro:发版 100 天,毫无技术飞跃。 ▪️ Deepseek:至今交不出合格的 Pro 版。 ▪️ GLM 5.3:惊艳发版后,近 3 个月几乎交白卷。 ▪️ Qwen 4 Max:实测表现远低于预期。 🚀 海外巨头:前沿能力狂飙 ▪️ Gemini 4 Argon:主攻深层推理与前沿 Agent,拉满 100 万上下文,能实打实自主挖漏洞及控制机器人。 ▪️ Gemini 4 Hydrogen:主打极速编码工作流,直接上线 4 档“动态思考深度(Thinking Levels)”。 ▪️ GPT 序列:正在全面铺开高级复杂推理机制。 ▪️ Claude 5 系列:高速迭代,且通过底层分类器彻底锁死了外部“白嫖”思维链数据的通道。
显示更多
0
10
18
0
转发到社区
Anthropic IPO正式定价70-78美元,发行8.25亿股,目标市值约1万亿 七巨头260亿PIPE同价锁单,盘前参考价约100美元,对应理论价差25%-43%,一级市场修复空间明确 #Bitget# IPO Prime已开放申购,个人额度2.5万U,承销费仅5%。11月18日开盘日即可直接拿到与美股ANT同价的rANT,未获配资金自动生息(15天最高10% APR,每小时派息,随时可赎) 今年88家IPO首日仍有正收益,Anthropic作为头部大模型核心资产,机构配置需求强。半导体回调+AI重定价背景下,一级申购提供更确定的成本锚点 新用户额外奖励(资金留存至IPO结束后30天) 注册+首充≥1000U并申购;送价值20U Anthropic股票 C2C入金额外再送5U 首充≥30000U并申购:送价值100U股票 (前两档不可叠加,C2C奖励可叠加) 参与链接: 活动详情:
显示更多
0
47
46
1
转发到社区
昨天最炸裂的消息就是,前OpenAI研究员 @willdepue 发现DeepSeek、Kimi、MiniMax、蚂蚁最新的 6 个开源模型,训练用的全是英伟达 Blackwell。 这款卡是美国明确禁售给中国的,但现在中国的模型训练却用了禁售的卡,卡脖子不完全起作用。 报告估算 5 次训练合计约 12,000 张,按 7 万美元一张,光卡就是 8.4 亿美元。 他怎么看出来的: 1、模型开训前,要先往几十亿个格子里填随机数,填的顺序跟显卡有多少个计算核心绑死。 2、训练完,总有一些格子没被动过,还留着当初的随机数。 3、拿这些残留倒推,H100 那一代读出来是 132,Blackwell 读出来是 148 或 152。 同一批公司更早的模型,读出来还是 H100 那一代。换卡集中在 2026 年 4 月到 10 月,这恰恰也是中国开源模型开始逐渐追上美国顶尖大模型的时间。 根据报告预估训练用的英伟达 Blackwell 训练 - Kimi K3 约 4,500 张 - DeepSeek-V4-Pro 约 3,000 张 - 另外 3 个模型各约 1,500 张 这个数字只是估算不代表真实数据,也不能说明训练用的都是英伟达的卡,但对大模型公司来说时间就是金钱,训练时间短一半,卡数就翻一倍。 kimi K3能在时间和参数量上领先其他国模可能也是因为卡更多的原因 最后需要说明的是,指纹只证明开训用的是什么卡,看不出卡在哪、归谁,海外租的也有可能,之前就有报道说过kimi用海外的算力来训练这在当时并不违规,美国没有明文禁止中国公司在海外租用算力训练模型 报告自己也说不能据此认定走私。DeepSeek 最新的 V4.1-Flash 没找到指纹,Qwen系列也没有被点名,这是真实力。 禁令管住了卖卡,没管住租卡,美国可能在未来补上这个口子。
显示更多
交作业了! 之前聊到那套《2026 AI 工程面试 100 题》,私信和评论区不少朋友在问完整内容。 其实如果只看题目,不仅很难抓住重点,甚至越看越焦虑。所以我花时间把整整 100 道题重新做了工业化梳理,给每一道题都补充了【核心考点剖析】与【生产级排障参考答案】,顺带把 7 道系统大题的架构方案也完整补齐了。 已经整理并开源到 GitHub,大家可以直接自取: 👉 这份手册的核心亮点: 1. 真实线上事故全覆盖:覆盖 Prompt 踩坑、RAG 检索、Agent 状态机死循环、微调选型、vLLM 推理排队、生产安全与成本治理 8 大板块; 2. 折叠卡片式设计:每道题点击即可展开工业级题解,非常适合用来做个人自测或团队技术选型查漏补缺; 3. 7 道系统设计大题:包含 5 万人企业级 RAG、10 万单电商客服 Agent、共享推理网关、万圣节数据穿透应急等完整端到端架构。 不管是准备接下来的技术面试,还是正在线上做大模型落地排障,都可以存一份备用。 如果对你有帮助,欢迎去 GitHub 顺手点个 ⭐️ Star 支持一下!
显示更多
0
9
229
39
转发到社区