注册并分享邀请链接,可获得视频播放与邀请奖励。

与「六平直政」相关的搜索结果

六平直政 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 六平直政 的内容
第一個智能體不用自己寫迴圈,那程式設計師還剩下什麼? 官方來源:Martin Bernaola Mendez,原文發表於 2026-11-13(1 天內,見文末核實)。原文標題直譯:《在微軟開發平台做你的第一個智能體,比你想的簡單》。先把反常識結論放前面:多數人以為做智能體要先學一堆新東西,新的框架、新的寫法、新的觀念,沒三個月下不來;真相剛好相反,你的第一個智能體根本不用學新東西,用你本來就會的主程式語言、你本來就熟的寫法,一個下午就跑起來了。智能體的本質一點都不神秘,就是模型加指示加工具加記憶,繞著圈跑到答案出來:模型先判斷要不要用工具、再叫你的程式去做事、拿到結果再寫答案,迴圈跑完才收工。關鍵在最後一句:這個迴圈不用你寫,框架全包了。你只剩三件事:給它一個名字與指示、給它一個工具、給它一段記憶。微軟的智能體框架就是幹這個的,底下還有一個聊天客戶端介面,幫你把不同模型的呼叫方式統一成同一套寫法。這篇只做一件事:照原文四步走,帶你從零做出第一個會查天氣、會記得你名字的旅行小幫手,最後再換成本機免費版,一毛錢都不花。先說清楚底線:前置條件是開發平台軟體開發套件第十版或全新的第十一版,加上一把開放智能的應用程式介面金鑰;沒有金鑰也沒關係,文末有本機免費版。 說清詞: - 智能體:模型加指示加工具加記憶,繞著圈跑到答案出來的程式,模型負責判斷、你的程式負責做事。 - 聊天客戶端介面:微軟擴充智能裡的統一介面,把不同模型的呼叫方式包成同一套寫法,換模型不用重寫程式。 - 微軟智能體框架:坐在聊天客戶端介面上面、專門加智能體功能的那一層,負責指示、工具呼叫、工作階段,往後還能接多智能體流程。 - 指示:你給智能體的工作說明,寫明它是誰、說話多簡短、什麼時候該用工具,寫得越具體、它做得越穩。 - 工具:就是你本來就會寫的普通方法,加上一句說明文字掛進智能體,模型看說明決定什麼時候叫它。 - 說明屬性:掛在方法與參數上面的說明文字,告訴模型這個方法是幹什麼的、參數是什麼意思,模型就靠它決定要不要叫、要傳什麼。 - 迴圈:模型決策、呼叫方法、結果回填、寫答案,四步轉一圈,直到答案夠好才停,框架自動跑,你不用自己寫。 - 工作階段:對話的記憶盒子,建立一次、每次跑都傳進去,智能體才記得上一句講過什麼。 - 串流:答案一個字一個字出現的跑法,像聊天視窗那樣慢慢印出來,整段等完才印是另一種跑法。 - 主控台專案:最簡單的那種程式,沒有視窗、沒有網頁,只在命令列視窗裡跑,做第一個智能體用它就夠了。 - 環境變數:存在電腦系統裡的設定值,金鑰放這裡,程式碼裡只讀它、不寫明文。 - 本機模型:裝在你自己電腦上跑的模型,不用連雲端、不用付按量費用,代表作是奧拉瑪接開源模型。 - 模型上下文協定:接現成工具伺服器的標準作法,原文只在展望裡提,叫你以後自己去接,不用現在學。 - 可觀察性:把每一次模型呼叫與工具呼叫都留下紀錄的作法,出怪事時靠它追查,原文只在展望裡提。 一個真實的例子:原文的第一個智能體叫旅行小幫手,做的事再小不過:回答去馬德里旅行的小建議。做法是拿開放智能的客戶端取一個聊天客戶端、指定一個支援工具呼叫的聊天模型,再把它轉成智能體,給名字旅行小幫手、給指示說你是友善的旅行助理、答案保持簡短,跑起來就完成了。問它去里斯本玩兩天怎麼排,答案一個字一個字慢慢印出來,那是串流跑法。接著給它一個工具:一個查天氣的普通方法,加上一句說明說這是查某個城市的天氣預報,方法本身只是回傳一段寫死的假天氣。問它去里斯本要不要帶傘,背後發生四件事:模型讀問題、發現需要天氣資料、叫方法去查里斯本、拿到結果寫答案說早上會下小雨、記得帶傘。迴圈你一行都沒寫,框架全包了。最後加記憶:建立一個工作階段、每次跑都傳進去,先說嗨我是安娜、星期五要飛里斯本,再問要不要帶傘,第二問根本沒提城市,智能體自己用對的城市查天氣;再問我叫什麼名字,它答得出安娜。這三問跑下來,第一個智能體該有的東西全齊了:會判斷、會動手、會記得。 為什麼是框架全包,而不是你自己寫迴圈?因為迴圈裡最容易出錯的地方,全是重複的髒活:模型回傳要叫工具,你要解析它叫的是哪一個、參數對不對;方法跑完,你要把結果用對的格式回填給模型;模型又回傳要再叫一次,你要判斷這是正常接力還是無限鬼打牆;答案終於出來了,你要決定什麼時候停。這些事每一件都不難,但加起來就是幾十行容易寫錯的程式碼,錯一次、除錯半天。框架把這整圈包起來,你只寫三件事:指示寫清楚、工具掛上去、工作階段傳進去。11 月 12 日那篇手寫迴圈的教程立場剛好相反,叫你自己把迴圈寫出來、看懂每一圈在幹什麼;這篇的立場是先跑起來再說,迴圈交給框架,你先嚐到智能體動起來的滋味。兩篇沒有誰對誰錯,是先後順序:新手先照這篇跑起來,想搞懂底層再去讀手寫迴圈那篇,順序反過來很容易卡在第一圈就放棄。 再算一筆帳,讓你知道第一個智能體到底花多少錢。示範用的是開放智能的輕量聊天模型,特點是便宜、支援工具呼叫,跑幾十次問答常常不到一塊錢美金,練手完全不心疼。真正貴的不是模型,是你把正式環境的大模型、長上下文、高價輸出全開來練手,練十次就抵得上一個月的示範費用。所以練手的規矩只有一個:示範模型挑輕量便宜的,指示寫簡短,工具先用寫死的假資料,跑通了再換真資料、再換好模型。本機免費版更徹底:模型裝在自己電腦上跑,一毛錢都不花,工具、工作階段、串流的程式碼一個字都不用改,只換呼叫模型的那一行。先在本機版把迴圈、工具、記憶三件事都摸熟,上雲端花錢時才知道錢花在哪裡。 反方適用條件清單——以下情況,先別照本篇做第一個智能體,免得把本篇讀成保證: - 不想碰微軟開發平台、只用別的語言生態:本篇是微軟開發平台的作法,換生態等於整篇重寫。 - 沒有金鑰、也不想裝本機模型:兩條路都沒有,模型叫不動,智能體跑不起來,先選一條路再開工。 - 挑的模型不支援工具呼叫:工具掛上去模型也不會叫,示範用的輕量模型有支援,換模型之前先確認支援清單。 - 想一次做多智能體協作、寫作者加審查者的流程:原文只做到單一智能體,多智能體是展望裡的下一步,現在做還太早。 - 想直接做正式上線的產品:本篇只到主控台示範為止,正式產品要另外做驗證、備份、錯誤處理。 - 指示寫得含糊、只寫你是個助理:指示越空、模型做得越飄,指示要寫明身分、語氣、什麼時候用工具。 - 除此之外,只要你會寫主程式語言、想親手跑一個會動手的智能體——這篇就是為你寫的。 一句定性金句:迴圈不用你寫,判斷不用你寫,你只剩三件事:給指示、給工具、驗答案。 一、翻車清單 - 金鑰寫進程式碼、貼進群組、傳進公開倉庫:誰拿到都能花你帳上的額度,正確做法是存進環境變數,程式碼裡只讀變數不寫明文。 - 開發平台軟體開發套件版本太舊:原文要第十版或全新的第十一版,舊版可能沒有智能體框架要的寫法,先升級再開工。 - 套件裝錯:開放智能版與通用版是兩個套件,雲端版裝開放智能那一個,本機版才裝通用版加奧拉瑪那一個,裝錯就接不上。 - 模型挑不支援工具呼叫的:工具掛上去模型也不會叫,示範用的輕量模型有支援,換模型之前先確認支援清單。 - 指示寫得太空:只寫你是個助理,模型不知道該簡短還是詳細、該不該用工具,指示要寫明身分、語氣與用工具的時機。 - 工具沒加說明文字:模型看不懂這個方法是幹什麼的,永遠不會叫它,說明文字是工具能不能被叫到的關鍵。 - 工具方法寫了真的去查天氣:示範階段先用寫死的假資料,跑通迴圈再換真資料,一開始就接真服務,出錯不知道是迴圈錯還是服務錯。 - 忘記建立工作階段:每一次呼叫都從零開始,第二問不提城市它就不知道去哪裡,名字也記不住,記憶要靠工作階段傳進去。 - 工作階段建了卻沒傳進去:建立一次不夠,每一次跑都要傳,漏傳一次、那一次的對話就斷了。 - 串流與整段回傳搞混:串流是一個字一個字印,整段是等完一次印,兩種跑法的寫法不一樣,抄錯會編不過。 - 金鑰放環境變數卻沒重開命令列視窗:環境變數改了要重開視窗才生效,舊視窗讀到的是舊值,一問就說金鑰沒設。 - 本機模型挑不支援工具呼叫的:本機開源模型不是每一個都支援工具呼叫,挑之前先確認,否則工具掛上去也不動。 - 本機服務沒啟動就跑程式:奧拉瑪的本機服務要先跑起來,程式連的是本機位址,服務沒開就連不上。 - 把示範程式當正式產品:主控台示範沒有錯誤處理、沒有備份、沒有驗證,正式上線要另外補齊,示範跑通不等於產品做完。 - 一次給太多工具:第一個智能體先給一個查天氣就好,工具一次給五個,模型叫錯的機率立刻上升,出錯不知道是哪一個工具的問題。 - 指示與工具打架:指示寫不要用工具、工具又掛上去,模型左右為難,指示與工具要講同一套話。 - 名字與指示寫完就以為智能體懂了:名字只是名字,真正管行為的是指示,指示沒寫清楚,名字再好聽也沒用。 - 測試不跑就說通了:模型說帶傘不算數,程式真的跑起來、答案真的對、第二問真的記得城市,才算通。 - 換雲端平台就以為程式碼要重寫:聊天客戶端介面就是為了換模型不用重寫,雲端平台、開源模型、微軟雲端,全是換呼叫模型的那一行,其餘不動。 - 把多智能體協作當第一步:原文的展望是下一步,先把單一智能體跑通,作者加審查者的流程以後再加,一步登天一定摔。 二、替代方案+理由 原文只給一條主路,理由很硬:先拿雲端輕量模型跑通,再換本機免費版——理由是雲端版最快驗證迴圈、工具、記憶三件事,本機版再把花費壓到零,順序反過來很容易卡在本機安裝那一步、還沒看到智能體動起來就放棄。雲端版的理由是套件裝好、金鑰設好就能跑,示範用的輕量模型便宜又支援工具呼叫,練手不心疼。本機免費版的理由是模型裝在自己電腦上,一毛錢都不花,工具、工作階段、串流的程式碼一個字都不用改,只換呼叫模型的那一行,適合想一直練、一直試的人。還有一條同理可推的路:雲端平台版、開源模型平台版、微軟雲端版,理由是聊天客戶端介面把模型呼叫統一了,換平台只是換呼叫模型的那一行,其餘程式碼全不動,適合公司已經有指定平台的人。順序只有一個:雲端輕量版先跑通,再換本機版或公司平台版,不要三種同時開工。 工具的作法也有替代方案,理由一樣硬:示範用寫死的假天氣,理由是先驗迴圈對不對,出錯只可能是迴圈錯;換真資料是下一步,理由是迴圈通了再接真服務,出錯只可能是服務錯。兩步分開除錯,永遠比一次全上、錯了不知道找誰快。記憶的作法也一樣:工作階段是原文給的正規作法,理由是框架幫你管記憶,不用自己寫對話紀錄;自己寫對話紀錄是另一條路,理由是想完全掌控格式的人可以自己來,但新手先不要,框架的版本先跑通再說。 三、目標形態 一個能對照的最小閉環:開發平台軟體開發套件已裝第十版或第十一版、開放智能金鑰已存進環境變數;主控台專案已建好、開放智能套件已裝好;智能體已有名字旅行小幫手、指示寫明友善的旅行助理、答案保持簡短;問它去里斯本要不要帶傘,模型自己叫查天氣的工具、拿到結果寫答案說早上會下小雨、記得帶傘;第二問不提城市,它用對的城市查天氣;第三問問我叫什麼名字,它答得出安娜。三問全對、程式真的跑起來,才算通。一句話:先讓一個智能體真正動起來,再談多智能體。 這個最小閉環還有三個進階樣子,通了之後可以一個一個加上去。第一個是換真資料:查天氣的方法從寫死的假資料換成真的天氣服務,問同樣的問題,答案裡的溫度與天氣要對得上真實預報,迴圈不動、只換方法裡面。第二個是換本機免費版:模型換成本機開源模型,其餘程式碼一個字都不改,跑同樣的三問,答案一樣對,帳單變零。第三個是加第二個工具:再掛一個查機票或查景點的方法,指示寫明什麼時候用哪一個,問一個同時需要天氣與景點的問題,看模型會不會自己挑對工具。這三個樣子有一個共同點:一次只換一件事,換完立刻驗三問,驗不過就只退一步,不用整段重寫。 四、遷移步驟 1. 先備前置條件:開發平台軟體開發套件裝第十版或全新的第十一版,開放智能金鑰申請好、存進環境變數,不要寫進程式碼。 2. 新建主控台專案:用命令列工具新建一個主控台專案、進到專案資料夾,裝開放智能版的智能體套件。 3. 寫第一版主程式:拿開放智能客戶端取聊天客戶端、指定輕量聊天模型,轉成智能體,給名字旅行小幫手、給指示說你是友善的旅行助理、答案保持簡短,問一句去馬德里旅行的小建議,跑起來。 4. 換串流跑法驗一次:同一個問題改用串流跑法,答案一個字一個字印出來,確認兩種跑法都通。 5. 給它第一個工具:寫一個查天氣的普通方法、加一句說明說這是查某個城市的天氣預報,方法裡先回傳寫死的假天氣,掛進智能體。 6. 問它去里斯本要不要帶傘:看模型自己叫查天氣的方法、拿到結果寫答案,迴圈四步都發生了才算通。 7. 建立工作階段:建立一個工作階段,每一次跑都傳進去,先說嗨我是安娜、星期五要飛里斯本。 8. 驗記憶三問:第二問要不要帶傘不提城市,看它用對的城市查天氣;第三問問我叫什麼名字,看它答得出安娜;三問全對才算通。 9. 換本機免費版:裝通用版套件加奧拉瑪套件,本機服務先啟動,模型換成本機開源模型,其餘程式碼一個字都不改,跑同樣的三問。 10. 換真資料:查天氣的方法從寫死的假資料換成真的天氣服務,問同樣的問題,答案要對得上真實預報。 11. 加第二個工具:再掛一個查機票或查景點的方法,指示寫明什麼時候用哪一個,問同時需要兩種資料的問題,看模型挑不挑得對。 12. 換公司平台驗一次:雲端平台版、開源模型平台版、微軟雲端版挑一種,換呼叫模型的那一行,其餘不動,確認聊天客戶端介面真的統一了寫法。 13. 記帳:示範用的輕量模型跑幾十次常常不到一塊錢美金,練手用輕量模型、指示寫簡短、工具先用假資料,跑通了再換真資料、再換好模型。 14. 排定主力與備胎:主力一種平台每天用,備胎一種放在旁邊,主力出問題、換專案時立刻換備胎頂上,不用臨時翻文件重學寫法。 15. 每月回頭對一次官方文件:智能體框架還在長大,多智能體流程、模型上下文協定、除錯工具都會變,每月花十分鐘對一次,才不會拿著舊地圖走新路。 跑完這十五步,真正拉開差距的不是你會幾種平台,是你給指示的方式。指示寫得含糊,模型就做得含糊;指示寫得具體,模型就動得具體。好的指示有三個要素:先說身分,再說語氣,最後說用工具的時機。身分是你是誰,例如友善的旅行助理;語氣是答案多長,例如保持簡短;用工具的時機是何時該查資料,例如需要天氣資料時就用工具查。三個要素寫進每一次設定,模型的命中率立刻不一樣。反過來最差的指示是只寫你是個助理,模型不知道你要它簡短還是詳細、不知道什麼時候該動手,只能憑感覺猜,猜錯了你還要花時間收拾。框架是硬體,指示是軟體,硬體接好了、軟體跟不上,一樣跑不快。 問問題也有一個進階技巧:一次只問一件事。請模型同時排行程、查天氣、再訂機票,它常常三件都做得半調子;拆成三輪,每一輪只做一件、每一輪都驗收,總時間反而更短,因為返工最花時間。還有一個習慣值得養:每一次請模型動手之前,先請它用一句話說出它理解的任務是什麼,它說對了再讓它動手,它說錯了先糾正理解、不要讓它帶著錯誤的理解去叫工具。這兩個習慣加起來,模型的出錯率會掉一大截,你花的檢查時間也會跟著掉。 五、團隊共建分工 做第一個智能體是小事,但三個角色別一個人全扛: - 你自己管金鑰:金鑰只你經手,存進環境變數、不寫進程式碼、不貼進群組,誰要用就請他自己建一把。 - 審查者核對帳單:每週對一次用量,示範用的輕量模型跑幾十次常常不到一塊錢美金,大模型、長上下文、高價輸出的帳單先抓出來看。 - 紀錄者留對照表:把每一次實驗的模型、指示、工具、工作階段、驗收結果寫進本篇贈品驗收表,換人接手時不用重讀原文,換模型時照表改名字就好。 - 守門員管範圍:每一次請模型動手之前,先說清楚哪些工具能叫、哪些資料不能碰,正式環境的設定一律列入禁區,模型動手之前先對一次範圍,叫錯工具的代價比多問一句話貴得多。 - 新人先跑最小閉環:新加入的人不要一次做多智能體,先照本篇第四節跑一遍最小閉環,三問全對、程式真的跑起來,通了才算入門,通不了先找守門員對設定,不要自己硬湊。 六、官方工具包 - 微軟擴充智能:聊天客戶端介面,統一不同模型的呼叫寫法,換模型不用重寫程式。 - 微軟智能體框架:坐在聊天客戶端介面上面,負責指示、工具呼叫、工作階段,往後還能接多智能體流程。 - 開放智能版套件:雲端版裝這一個,示範用輕量聊天模型,支援工具呼叫。 - 通用版套件加奧拉瑪套件:本機免費版裝這兩個,接本機開源模型,其餘程式碼不變。 - 示範模型:輕量聊天模型,支援工具呼叫,練手便宜。 - 本機模型代表:駱馬三點二,裝在自己電腦上跑,一毛錢都不花。 - 同理可接的平台:雲端平台、開源模型平台、微軟雲端,換呼叫模型的那一行就好。 - 展望裡的下一步:多智能體流程、模型上下文協定、智能體對智能體、可觀察性、除錯工具,現在先知道名字就好。 - 前置條件:開發平台軟體開發套件第十版或全新的第十一版,加上一把開放智能金鑰或一台裝好本機模型的電腦。 結尾收束:原則比框架多重要——智能體框架不是魔法,是把迴圈包起來的那一層。可重複的動作規則只有一條:每次換模型、換平台、加工具之前,先回到那個最小閉環——三問全對、程式真的跑起來——通了再往下走。今晚就能做的事:先備好金鑰、建一個主控台專案、問它一句去馬德里旅行的小建議,答得對,這條路就是你的了。 最後再提醒一次最容易被低估的事:第一個智能體真正的成本不是金鑰、不是套件,是你願不願意把指示寫清楚。指示寫不清楚,模型做得再快也是亂做,你還要花更多時間收拾;指示寫清楚了,迴圈、工具、記憶三件事立刻各就各位。這筆帳,比幾十次問答不到一塊錢美金重要得多。今晚先跑三問,明天上班第一件事就拿一個你真正的工作問題去問它,問完看它會不會自己挑對工具,挑對了,你就知道這條路值不值得走下去。 本篇贈品:微軟智能體首次落地驗收表 開通之前逐項打勾:1 前置——開發平台軟體開發套件已裝第十版或第十一版、開放智能金鑰已存進環境變數、沒寫進程式碼;2 專案——主控台專案已建好、開放智能版套件已裝好;3 第一版——智能體已有名字旅行小幫手、指示已寫明友善的旅行助理與答案保持簡短、問去馬德里旅行的小建議已跑通;4 串流——串流跑法已驗一次、答案一個字一個字印出來;5 工具——查天氣的方法已寫好、說明文字已加上、方法裡先用寫死的假資料、問去里斯本要不要帶傘已看到模型自己叫方法;6 記憶——工作階段已建立、每次跑都已傳進去、第二問不提城市已用對的城市查天氣、第三問已答得出安娜;7 本機版——通用版套件加奧拉瑪套件已裝好、本機服務已啟動、模型已換成本機開源模型、三問已重跑全對;8 真資料——查天氣的方法已換成真的天氣服務、答案已對上真實預報;9 第二工具——第二個方法已掛上、指示已寫明什麼時候用哪一個、同時需要兩種資料的問題已驗過;10 帳單——示範用的輕量模型跑幾十次不到一塊錢美金的算法已知道、練手用輕量模型與假資料的規矩已立好;11 維護——每月回頭對一次官方文件、換平台只換呼叫模型那一行的作法已驗過;12 指示——每一次設定已寫明身分、語氣、用工具的時機三個要素,一次只問一件事,模型動手前已先用一句話說出它理解的任務。 S1哥觀點 別再問「做智能體是不是很難」了——難的不是智能體,是你以為迴圈要自己寫。還在觀望的人,花的時間不是學習,是猶豫;照這篇跑起來的人,一個下午就有一個會查天氣、會記得你名字的旅行小幫手,迴圈框架全包了,你只剩給指示、給工具、驗答案。更值得問的是:你現在每天重複做的那件小事,是查資料、還是回覆、還是整理?那一件,就是你第一個智能體該先接的理由。還有一個更扎心的問題:你上一次說要學智能體,結果三個月過去、連第一個主控台專案都還沒建,是什麼時候?這種拖延,跑起來一次就治好了,因為跑通的那一刻你就知道,原來第一步這麼小。你第一個智能體想讓它先幫你做什麼?評論區說說。
显示更多
模型刚出生那会儿,用的哪块显卡,居然能查出来?🔍 11 月 12 日,前 OpenAI 研究员 Will DePue 的团队发了份报告:6 个中国开源模型的权重里,藏着英伟达 Blackwell 芯片的指纹。 原理说人话就是:模型出生前先撒一把随机初始值,撒在哪块卡上,落点就不一样。训练时没碰过的词,初始值还留在权重里,一对就对上了。 点名的有 DeepSeek-V4-Flash,证据 1385 个标准差,报告称"结论性";还有 V4-Pro、Kimi K3、K3.1-Pro、MiniMax-M3、蚂蚁 Ling-3.1-flash。 六万亿种组合里瞎猜只能到 8 个标准差,这六个全都远远甩开。 但报告自己划了线:只能证明"一开始用的是这批卡",证明不了卡在哪、怎么来的、算不算违规。查证脚本公开,笔记本几秒就能跑一遍。 说白了,以前查芯片走私靠报关单、靠线人,现在靠下载权重、跑个脚本——查案的工具先变了🤯 以后每个开源模型发布,是不是都得先过一遍"验卡"?你跑不跑这个脚本?
显示更多
现在牛市还在吗? 如果还是牛市, 为什么会出现周线六连跌?并且越跌越多? 为什么会连续跌破短期持有者成本,200日线,50周线等众多重要牛熊支撑线? 还会跌破57800出现新低吗? 如果你关心这些问题, 请阅读本文 : )
显示更多
0
23
48
6
转发到社区
Anthropic 首席执行官 Dario Amodei 刚刚解释了整个 AI 行业面临的最大问题之一。 根据 Dario 的说法,计算资源是 Anthropic 目前面临的最大商业困境,而这归结为一个简单的问题:当你几乎完全不知道公司两年后将产生多少收入时,你如何规划数十亿美元的基础设施支出?Anthropic 的收入在 2024 年增长了大约 10 倍,在 2025 年又增长了 10 倍。这是惊人的增长,但即使是 Dario 也承认,他们对下一年会是什么样子几乎没有可见度。 与此同时,公司必须在实际需要它们的一到两年之前就锁定 GPU、数据中心容量、电力和网络基础设施。而且这些并不是小承诺。我们谈论的是可能高达数百亿美元的支出,这些支出必须基于需求预测来承诺,而这些预测可能完全错误。这就是事情变得有趣的地方。如果 Anthropic 购买了太多计算资源,而收入没有如预期增长,公司就会面临财务过度扩张的风险。但如果购买得太少,后果可能更糟。 它不仅会难以服务现有客户,还可能在开发下一代 AI 模型方面落后。而这可以说是一个更大的风险,因为今天正在训练的模型将决定公司未来六到十二个月的竞争地位和收入潜力。换句话说,Anthropic 不能简单地等到需求显现后再投资基础设施。到需求变得明显时,可能已经太晚,无法获得竞争所需的计算资源。这就是 AI 基础设施建设与其他大多数传统行业如此不同的原因。公司们被迫在今天做出巨大的资本配置决策,这些决策基于技术进步和未来收入,而这些都极难预测。 @龙虾量化
显示更多
Gemini 4 Carbon 写作确实牛逼 让它总结了 Next Token 过去 9 期 30 条 AI 领域的核心认知: 1. Token 就是新货币;买一台本地机器跑模型,本质上是在家里铸币。—— 橘子 2. AI 没有泡沫,只有受制于物理基建的供给不足。—— 歸藏 3. 在 AI 时代,别羞于承认自己是卖 Token 的——你不卖 Token,还能卖什么?—— 橘子 4. 好应用不必让用户每次打开都烧 Token;用品味把大量 Token 一次性凝结成无数人能反复消费的作品,边际成本才会降下来。—— 向阳乔木 5. 对大多数人来说,Vibe Coding 不是生产力,而是自由度最高的创造类游戏;充进去的 Token,就是新时代的游戏充值。—— 歸藏 6. 只要 AI 把一件事的起跑线拉到六十分,六十分就是零分。—— 橘子 7. 当一件事靠一句话就能搞定时,凭什么它是你的壁垒,又凭什么它是我的?—— 歸藏 8. 软件和游戏正在网文化:平台不再卡发布,只卡推荐;谁都能上架,但没流量就无人看见。—— 歸藏 9. 按昨天的标准做出来的东西,今天 99% 都只算自用工具;市场扩大了一百倍,但依然只有最头部的 1% 配叫商业产品。—— 杨攀 10. 产品未必是一个 App;只要跑通“发现需求、创作、分发”的闭环,一篇文章、一档播客也是产品。—— 歸藏 11. 当开发只要十分钟、打包签名却要半小时,真正的瓶颈就不再是智能,而是旧世界的交付规则。—— 橘子 12. 过去是软件把 Agent 塞进自己的界面;未来是软件放弃自己做 Agent,主动变成 Agent 调用的插件。—— 杨攀 13. 传统软件思维喜欢把每条路径写死;AI 原生思维只留一个循环,把剩下的交给模型。—— 杨攀 14. 软件上的按钮越少,离 AGI 越近。—— 橘子 15. 面对超级助理,人只该负责说话,不该负责管理会话;需要人手动翻找线程,只说明模型还不够强。—— 橘子 16. 工具随时会换,上下文必须归自己所有——劫持所有 Agent 的记忆,把过程和产物沉淀回自己的仓库。—— 歸藏 17. 人类团队正在向一人闭环演进,别反过来让多 Agent 学人类开会内耗——人类在走向 AI Native,别让 Agent 退回 Human Native。—— 橘子 18. 上一代生成模型在卷“理解”,死磕最后百分之一的物理还原;新一代模型赢在“创造”,一句话把意图编排成完整的故事。—— 歸藏 19. 输出格式不报错,只代表不用重试,不代表判断正确——别把“结构稳定”偷换成“没有幻觉”。—— 杨攀 20. 不能调工具、不能动电脑的所谓 Skill,本质上还是一段提示词润色。—— 歸藏 21. 今天限制模型上限的往往是人自己——你写进提示词里的前提假设,恰恰锁死了模型的发挥空间。—— 杨攀 22. 注意力是今天最稀缺的资源;开源的提示词、Skill 乃至软件,唯一的商业价值都是成为流量入口。—— 橘子 23. 跟模型拼技术注定会输;唯有人与人之间建立的信任与个人品牌,不会被技术进步吃掉。—— 橘子 24. 品牌的本质,是用真名、露脸和沉没成本作抵押,降低别人相信你的成本。—— 向阳乔木 25. 所有生意都在建立信任:To B 让企业信你,To C 让大众信你,To A 让 Agent 信你的信源;三者皆无,就只剩悦己的 To Me。—— 橘子 26. 在公网上主动留下关于自己的真实一手信息;你不定义自己,AI 的幻觉就会替你定义你。—— 歸藏 27. 今天最不缺的就是没有性格的内容;持续输出有变化但一致的“人味”,才是稀缺品。—— 歸藏 28. 还按设计、前后端、QA 切岗位的算不上 AI 原生组织;真正的 AI 原生组织里每个人都是全栈闭环的一人公司,而且它是磨合生长出来的,不是 HR 设计出来的。—— 歸藏 29. 大厂把员工拆成稳定的螺丝钉,也就亲手杀死了长出全局架构师的土壤——架构感是操盘练出来的,不是分工分出来的。—— 歸藏 30. 帮企业做 AI 转型,最该做的不是改造基层流程,而是去培训一号位。—— 向阳乔木 以上内容来自:@oran_ge @op7418 @vista8 @ericyangpan @nexttokentv
显示更多
建议收藏,用到时照着做。做完你能让 DeepSeek 自己决定“要不要调用你写的函数”,并把结果用人话讲回来。 AI 能查天气、查订单,是它自己去查的吗?DeepSeek 官方一句话拆台:模型本身不执行任何函数 这是 DeepSeek 官方 API 文档里 Tool Calls(工具调用)一页。先说结论: 官方原话是,函数要由你自己提供,模型本身不执行具体函数。它只负责说“我想调这个函数、参数是这些”,真正去跑的是你的代码。 先说清词。 工具调用(Tool Calls),是让模型能用外部工具的功能,比如查天气、查数据库。 函数(function),是你自己写好的一段代码,模型只会“点名”它。 tool_call_id(工具调用编号),是模型每次点名时附带的一个号码,你回传结果时要带上它,模型才知道你在回答哪一次。 strict 模式(严格模式,Beta 测试版),是让模型点名时严格按你定义的格式填参数。 一个真实例子:官方示例问“杭州天气怎么样”,模型返回的是 get_weather 这个函数和参数 location 等于杭州,你的代码去查到“24℃”,再交给模型,模型才说“杭州现在 24 度”。 先把话说全: 官方示例用的是非思考模式,请求里加 extra_body 把 thinking 的 type 设成 disabled。 官方写明:从 DeepSeek-V3.2 开始,思考模式下也能用工具调用,细节看官方 Thinking Mode 一页。 官方写明:Chat Completion 接口不支持在对话中间插入不是模型生成的工具调用,要插的话请改用 Anthropic API 或 Responses API。 strict 模式目前是 Beta,要用测试版地址。 一、先看懂整个流程 官方给的执行流程是四步:用户问杭州天气;模型返回要调用 get_weather,参数是杭州;你的代码真的去调用 get_weather,把结果交给模型;模型用自然语言回答“杭州现在 24 度”。 二、照官方示例做一遍 第一步:去 DeepSeek 开放平台拿一个 API key,电脑装好 Python 和 openai 库。 第二步:创建客户端,base_url 写 DeepSeek 官方接口地址(官方文档第一屏就有),api_key 填你的。 第三步:写 tools 清单。每个工具包含 type 等于 function,再写 name(函数名)、description(描述,告诉模型什么时候用)、parameters(参数)。官方示例的函数叫 get_weather,描述是“获取某地天气,用户须先提供地点”,参数 location 是字符串,并且在 required 里。 第四步:发第一次请求,model 官方示例写 deepseek-flash,把 messages 和 tools 一起传,并加上 thinking 关闭的设置。 第五步:从返回里取 tool_calls 的第一项,先把模型这条消息原样追加进 messages。 第六步:你的代码去执行函数,再追加一条 role 是 tool 的消息,带上刚才的 tool_call_id,content 写结果,官方示例写的是 24℃。 第七步:再发一次请求,这次模型就会用自然语言回答。 三、想要更稳:strict 严格模式 第八步:base_url 改成官方文档里写明的 beta 版接口地址(就是原地址后面加 /beta)。 第九步:每个 function 都加上 strict 等于 true。 第十步:服务器会检查你的 JSON Schema(结构说明),格式不合规或用了不支持的类型,会直接返回错误信息。 官方支持的类型是:object、string、number、integer、boolean、array、enum、anyOf,另外 $ref 和 $def 可以复用和做递归。 四、strict 的硬规矩 对象里所有属性都必须写进 required,并且 additionalProperties 必须设成 false。 字符串可以用 pattern(正则)和 format,官方列出的格式有 email、hostname、ipv4、ipv6、uuid,但不支持 minLength 和 maxLength。 数字支持 const、default、minimum、maximum、exclusiveMinimum、exclusiveMaximum、multipleOf。 数组不支持 minItems 和 maxItems。 五、看到什么算成功 第一次返回的是函数点名,不是答案;第二次返回的才是自然语言答案,内容里有你的函数结果。 六、卡住怎么办 strict 报错:先检查是不是漏写 required 或忘了 additionalProperties 设 false,再检查有没有用到 minLength、maxItems 这类官方不支持的写法。 结论:工具调用不是模型替你干活,而是模型“点名”、你的代码“动手”。想让点名更准,就用 strict。把这条复制链接发给他,下次他说 AI 查不到东西,先让他确认函数是不是自己写了。 你卡在第几步?评论区告诉我。同系列前几篇在我主页。 收藏版:5 步速查 一、tools 里写清函数名、描述、参数 二、第一次请求拿到 tool_calls 三、自己执行函数,回传 role 为 tool 的消息并带 tool_call_id 四、第二次请求拿到自然语言答案 五、想更稳就用 beta 地址加 strict 等于 true 常见坑 3 条 一、以为模型会自己执行函数,其实要你的代码去跑。 二、回传结果忘了带 tool_call_id。 三、strict 里漏了 required 或 additionalProperties 设成 false。 复制即用提示词:我想让模型调用一个叫 你的函数名 的函数,它需要这些参数:写参数。请帮我写出符合 DeepSeek Tool Calls 格式的 tools 清单,每个参数都写 description,并改成 strict 模式需要的写法。 S1哥观点:这篇最狠的地方,是官方把话挑明了:模型不执行函数,只负责点名。很多人以为 AI 在后台自己动手,其实动手的永远是你的代码。 真正的信号是:工具调用的难点不在模型,在你把函数描述写得多清楚。就像派活给新人,说明写得含糊,他再聪明也会点错人。 你现在想让 DeepSeek 调用的是什么,查数据还是发消息?评论区告诉我。 今天送:DeepSeek 工具调用速查卡,评论区第一条直接拿。 参考:DeepSeek 官方 API 文档 Tool Calls(S1哥 整理)
显示更多
「Uncle,这里有位,坐啦。」星期六早上八点,Bedok 巴刹楼上的 kopitiam,陈阿姨那张圆桌照例坐满五个老邻居。新搬来三个月的林 uncle 端着一碗粿条汤站在过道,左右看了两圈,正准备打包回家。 阿姨直接把旁边的塑料椅拉出来,再推过去一杯 kopi:「刚好多叫一杯,不喝浪费。」他坐下,汤还没喝到一半,已经被问了住几楼、孙子读哪间学校。 今天的卦是水地比,卦辞说「不宁方来,后夫凶」,翻译成人话:心里没底的人肯靠过来就好,最亏的是一直站在外面、等别人先开口的那个。 今天去常去的那个档口,跟老板或隔壁桌的熟面孔多讲一句话。评论区留个你常去的巴刹名字就行。
显示更多
# 模型缩小四倍还不翻车?不是压得够狠,是量得够准 先说结论:大多数人以为量化是把模型压小一点、省一点显存,压得越狠、省得越多,这个想法只对了一半。量化真正值钱的地方不是省显存,是省钱加变快,模型缩小两到四倍之后,小批次推理常常反而更快,因为瓶颈不在算力,在记忆体频宽,搬的位元组少了,每秒吐出的字元单位就多了。作者第一次把大模型推到真实使用者面前,七 B 模型用十六位元载入,光权重就吃掉十四 GB 左右的显存,帐单难看得很,有人随口问一句要不要试试量化,她当晚掉进一堆缩写的兔子洞,才整理出这篇指南。 先说清楚底线:十六位元每权重两位元组,七 B 模型约十四 GB、十三 B 模型约二十六 GB。压到八位元,七 B 模型约七 GB、十三 B 模型约十三 GB。压到四位元,七 B 模型约四 GB、十三 B 模型约七 GB,模型缩小两到四倍。作者打了一个很准的比方,量化就像把照片从巨大原始档压成调校过的压缩图,手机上看起来几乎一模一样,体积却只剩一小部分。权重就是模型的照片,十六位元是原始档,四位元是压缩图,压得好,大多数人看不出差别,压得不好,细节先糊掉。关键在压得好不好,不在压得多不多。 怎么做?顺序只有一个,先用五分钟实验确认方向,再挑上线或随处跑的格式,最后拿自己的提示词量过再灰度发布。五分钟实验用四位元载入工具快速试,零校准资料、零转换步骤,一个下午就能知道显存占用下降约七成、模型还能不能讲话。显卡上线用服务引擎带量化参数直接起一个相容接口,热门模型在模型仓库里已经有现成的四位元检查点,不用自己压,没有就用压缩工具自己做一个。随处可跑的路是转成通用格式再量化,中央处理器、笔电和苹果晶片都能跑,四位元中档是尺寸与品质的甜蜜点,更保险就往上走五位元或六位元。 小心三件事。第一,压完只跑几个提示词就上线一定翻车,作者就是这样翻车的,结构化资料输出偶尔格式损坏,两天后才被使用者抓到,通用评测完全没抓到。第二,只看困惑度就放行不够,困惑度看起来没问题,任务品质可能已经悄悄下滑,它只能当参考,不能当唯一的验收标准。第三,别以为压完就一定变快,一种格式只有在服务引擎有对应的最佳化核心时才会真的变快,没在你自己的机器上实测过,纸上变快不算数。还要记住,键值快取不随权重量化缩小,长上下文服务照样可能爆记忆体,瓶颈在这里要另外看。 再往上加东西也有顺序:先写五十到一百条真实提示词,对照十六位元基线一条一条比,刻意去测最先崩的几类任务,长上下文、结构化 结构化资料 与函式呼叫、数学、程式码、非英文。验收不是打分数,是找变差的任务集中在哪里,集中在 结构化资料格式就升那类任务的位元,散在各处就整体升一档。真实负载下测延迟与吞吐量,不是空闲显卡上跑一条请求。最后先切一小部分流量灰度发布,没问题再全量,出问题立刻切回十六位元版,不要等到全部使用者都中奖才动手。 一句话:量化不是免费压缩,是一场交易,你只有量得够准,才有资格拿这场交易去换更小的帐单。今晚就能做的事:挑一个你正在跑的模型,用四位元载入工具跑一次五分钟实验,看看显存占用下降约七成之后,它回的第一句话还像不像它自己。 S1哥观点:别再问量化是不是把模型压坏的便宜行事,压坏模型的从来不是量化本身,是你压完只跑几个提示词、看一眼困惑度就敢上线。作者的教训就摆在那里,结构化资料输出偶尔格式损坏,通用评测完全没抓到,两天后使用者才回报。量化真正值钱的地方也不在省显存那一行,是小批次推理反而可能更快,因为瓶颈在记忆体频宽,搬的位元组少了,每秒吐出的字元单位就多了。更值得问的是,你现在跑的那个模型,是卡在帐单、卡在显卡太小,还是卡在速度?那个卡点,决定了你该挑哪种格式、压到几位元。你第一个想压小上线的模型是哪一个?评论区说说。 收藏用清单(照着做): 1. 先算帐再动手,七 B 模型约十四 GB,压到四位元约四 GB,模型缩小两到四倍,再留键值快取和执行开销的位置。 2. 挑对格式再压,快速实验用四位元载入工具,显卡上线用四位元的两种主流方法,笔电用通用格式,新款卡用八位元浮点。 3. 跑五分钟实验,确认显存占用下降约七成、模型回复正常,再写五十到一百条真实提示词对照十六位元基线逐条比。 4. 刻意测最先崩的五类任务,真实负载下测速度,先切小流量灰度发布,没问题再全量。 转给还在为模型帐单头痛的朋友,压小两到四倍再上线,量得准才不会翻车,他今晚就能先跑五分钟实验。
显示更多
【衝撃】六代目山口組・竹内照明若頭と後続車両に乗り込む四代目弘道会・野内正博会長 この光景に「車選びのセンスはいいね」「ほとんど小指がない、薬指も」などの声が寄せられた。 迫力が凄いわ。
显示更多
0
248
8K
496
转发到社区
看一次撸一次的网站 一、 二、 三、 四、 五、 六、 七、 八、 九、 十、
显示更多
0
117
3.5K
392
转发到社区