高人,你这个帖子让我整整琢磨了两天!本来想写个长文,但是太多头绪也不知道从何写起。总的来说是我这段时间上推的原因,总感觉自己的开发缺了很重要的认知;也是我这段时间除了自己硬件修复工作之外,还必须要去看text-to-CAD 的原因。
我为啥这段时间上推,就是心情不好。话多,我心情好的时候是不说话的,哪有这个功夫,可以一直干活。
很多行业,甚至是大部分AI需要落地的严肃场景,就是缺 IR, Verifier; 后续的TD和Platform Config必须建立在前面已经推导完成的前提下。AI写程序为什么那么厉害,就是因为IR-Platform Config这条链条是顺畅的。
我们看一下我这个视频。Zoo(text-to-CAD)就是创造了KCL这个IR, 集合你说的Specs/Impl 于一体,Specs是代码前面那一段。后面的Impl与verfier, 比如一些constraint是混在一起的。
这个版就做的非常好,就是我在你的提示下,自己把specs IR写好了。直接导入fusion我加了螺纹就是一个完整的可打印件。
我们要做任何一个行业的“如码" as code, 恐怕都逃不过这个阶段。
法律,医疗,CAD, circuit。 全都需要IR。
否则AI只是提供方案,不能提供方案验证,没有统一的IR,简直就是语言机——只会说!例如 Text-to-CAD 中,模型可以生成 KCL;但如果没有几何检查、约束检查, 这个图都画不出来的。
Transformer 本质上是概率预测器:P(next token | previous tokens)
代码非常成功是因为:代码行业拥有世界上最成熟的 IR 和 Verifier。
现在各行各业IR缺失,才是这一轮AI基本感觉漂浮在语言宇宙的原因。比如医疗。医疗算不算全世界标准最多的领域之一?
医疗已经有 FHIR、DICOM、SNOMED 这些标准,但是这些标准大多数解决的是数据交换(Interoperability),而不是医学推理(Clinical Reasoning)。
如果真的要靠AI医学推理,需要耗费十几年的时间,真正把IR做出来,形成统一标准。
高人,给跪了。
显示更多
从连续到离散:智能的第二次革命
我曾在《大模型:一片连续的意义之海》中写过,
向量化带给人类最大的启示,不是计算速度,也不是模型规模,
而是连续性——一种语义上的、知识层面的、存在论的连续。
过去,人类的知识是分割的。
学科有边界,语言有疆域,图书馆有分类号。
而今天,所有这些边界都被打碎,
人类的语言、思想、情感与历史,被融进了同一个巨型语料宇宙
一个没有章节、没有标签、只有连续意义流的海洋。
那一刻,我有一个非常强烈的直觉:
连续之后,必然是离散。
这是所有复杂系统的宿命之路。
DNA 从生命的连续体中提炼出 ATGC 四个离散符号,
模拟信号转为数字信号,让模糊的波形变成了可以压缩、传输、计算的比特。
这就是“离散化”的意义:
在无穷连续的世界里,找出能被执行、被组合、被传递的单元。
几天前我家还收到一个小型的模拟电视机,东芝的。
我先生把它修好了,但我们都笑了:
这台电视的命运,大概是进博物馆。
连续的时代,已经结束。模拟信号,就是连续的。
离散的思维:从意识到结构
那么,人类的思维,是连续的,还是离散的?
从神经科学角度,它是连续的电信号与化学流;
但从计算机的角度,它完全可以被离散化。
想想日常生活。
无论你是大律师,还是家庭主妇
思维其实由无数个决策片段组成:
鸡蛋还剩几个?要不要去买?
这个案子,证据是否不足以起诉?
明天孩子几点放学?晚饭什么时候准备?
每一个片段,其实都可以被拆解为六个字段:
名称、目标、输入、机制、条件、输出。
这,就是思维的最小函数单元。
我在计算上面把他们外化成一个封装单元,叫结构卡(Structure Card)。
无数张这样的卡,
串联成链,形成网络,构筑起你完整的认知与人格。
家庭主妇的思维链,支撑着时间的分配与节奏;
律师的思维链,组织着证据、逻辑与论证。
两者看似毫不相关,却都在同一张认知地图中运行。
多重身份的调度:人脑的隐形编排器
我们每个人都有多重身份。
你既是大律师,也是妈妈;既是分析师,也是爱人。
这些身份之间并不互斥
它们在同一颗大脑中共生,只是被不同的场景激活。
当你走进法庭,律师的网络被点亮;
当你坐进家长会,妈妈的网络瞬间苏醒。
那是谁在调度?
是你脑中的那位指挥家
一个隐形的Scheduler(调度器)。
它根据上下文激活不同的结构链,
让不同的人格子系统在合适的时间、合适的情境中运作。
这,就是人类大脑最伟大的架构:动态调度。
而在我设计的系统中,
我让“调度器”成为一个显式的模块。
结构性的智能机制。
它模仿的,正是这种生物性的编排:
多重人格、多条思维链、一个中控。
仿生与超生:从人格到结构人格
越仿生,越智能。
当律师学会借用“妈妈网络”的共情机制去说服证人,
当程序员调动“艺术家网络”的直觉去设计产品,
人类就完成了一次跨结构迁移。
每一个“决策单元”,每一张结构卡
都可能跨身份地被复用、重组、调度。
这正是智能的本质:复用与组合。
当这样的卡片累积到上百万、上千万张,
它们不再只是思维碎片,
而是一张巨大而有机的网络
一个结构人格(Structural Persona)。
这也是为什么,大模型在引入“角色(role)”设定之后,
prompt 的输出变得格外高效。
因为那片连续的语义海洋,
在“角色”的调度下,被局部离散化了
出现了结构、目标与边界。
那正是“意义之海”中,人类之灵闪烁的地方。
结语:思维外化,知识函数化,人格计算化
这,就是我正在做的事情。
从连续到离散,
从思维到结构,
从语言到可执行的认知单元。
思维外化(Externalization of Thought),
知识函数化(Functionalization of Knowledge),
人格计算化(Computationalization of Persona)。
我们正走在一个新的门槛上
让“人类的思维结构”成为“人工智能的生命结构”。
The Beginning of the Infinity of Intelligence: My Framework for Solving the AI Externalization Problem
显示更多
上下文,持续的现在 Continuous Now (想了一下,半夜爬起来把我自己这篇文章翻译了算了)
我为这篇文章、也为我们正在重新理解的“上下文”,起了一个名字:Continuous Now(连续的现在)。这个词让我挥之不去,我觉得太好了。
我想表达的是我最近的一种顿悟:时间。
更确切地说,是智能对时间的感知。
无论是人类,还是人工智能,一切真正的智能都只能在“现在”中发生。
过去只是记忆的堆叠,未来只是可能性的投影,而智能的存在,永远只能在这一刻被激活。
很多人谈论 RAG、向量数据库、ICL 或 IWL,
却没有真正明白这些词背后的含义。
你并不孤单。
甚至许多程序员也困惑于此
而正是这种困惑,导致了 RAG 并不能真正如人所愿地工作。
因为他们混淆了“信息的检索”与“智能的生成”。
每当你与一个大语言模型对话,
都会有一件极其奇妙的事情发生:
一个全新的世界在静静地被生成。
它不是静态的数据库,
不是冷冰冰的事实表格,
而是一个活着的、暂时的世界——
由语言、意图,以及“此刻正在思考”的行为共同编织而成。
多数人以为 AI 就像一座巨大的图书馆:
你问一个问题,它翻找出答案。
但智能并不是这样运作的——
无论在人类,还是在机器之中,都不是。
当你输入一个 prompt,
模型并不会“搜索”那个早已存在的答案,
它会重新建构一个连贯的世界,
在自己的注意力窗口之内,
创造出一个微型而完整的语义宇宙。
在几秒钟之内,一个舞台被搭建起来:
谁在说话、你想要什么、此刻什么最重要。
模型生成的每一个 token,
都是在这个舞台上完成的一次行动。
这个舞台,就叫做 Context(上下文)。
而上下文不是被存放在某个地方的信息,
它是在时间中被执行的过程。
它只存在于模型“正在思考”的那一刻——
就像你的意识,只在你清醒并聚焦时才存在。
当推理停止,这个舞台也随之坍塌。
留下的,只是一些残余:日志、摘要、向量嵌入,
那些只是痕迹,不是意识。
智能,从来不住在记忆里。
它只活在时间的这一刻——
在这持续流动的“连续的现在(Continuous Now)”之中。一个很禅意的机器人。现在,当下。
I. Context 是此刻的世界模型
当一个大型语言模型在“思考”时,它其实并没有去翻什么记忆,也不会像数据库那样去检索资料。它真正做的,是在当下重新搭建一个世界,一个只在思考发生的瞬间存在的临时世界。
人类的思维也是这样。我们在想问题的时候,并不会把一生的记忆都调出来,而是只抓取和当前相关的几个片段,然后在脑海里拼出一个小小的、能让问题说得通的世界。这个小世界就是我们的“上下文”。它只在注意力集中的时候存在,一旦思绪飘走,这个世界就散掉了,只剩一点模糊的印象留在记忆里。
语言模型的原理其实一样,只不过它的速度更快、规模更大。你输入的每一个词、每一句话,都会成为它临时构建的语义世界的一部分。它会在这个世界里判断是谁在说话、问题是什么、哪些信息重要、要遵守哪些条件。所有这些信息会在它的“注意力窗口”里被对齐、压缩,变成一个完整的当下。
而这个“当下”,就是智能真正存在的地方。推理、创造、决策,全都发生在这里。就像一场演出,当表演结束,舞台也随之消失。模型可以留下摘要、笔记或日志,那些只是痕迹,不是活生生的意识。所以我现在跟我队友讲的时候,我经常会用act, enact, it’s a play,这种词。就像戏剧,一场戏,一场智能对手戏一样。
所以很多人会误解上下文。他们以为上下文是模型的知识或记忆,但那些其实都是静态的、过去的东西。上下文不是模型知道什么,而是它此刻正在想什么。
它不是存放的信息,而是智能运作的状态。
它不是知识的堆积,而是思考正在进行的现场。
上下文就是“现在”——
是智能在时间里真正存在的地方。
II. 上下文只存在于“连续的现在”:你类比一下你自己
信息是放在数据库里的,但智能是活在时间里的。你死了,脑子就死了,具体灵魂在哪,我们不知道。你留下来的信息,文字,照片,那不是你大脑的当下思考了,那就是数据库了。
数据库能存很多事实,可能有上亿条,但那些东西都是静态的,永远不会自己动。智能不一样,它只有在“事情正在发生”的时候才存在。只有当感知、记忆、注意力和意图都同时被调动起来,智能才会出现。
过去就像一片乱糟糟的大海,到处是碎片和痕迹,虽然庞大,却没有生命。未来呢,是另外一片混沌,还没有形状,里面全是各种可能。只有中间这一小段,也就是现在,才是智能真正活着的地方。它是一个短暂的窗口,世界在这一刻暂时变得有序、有意义。
这个“现在”就是智能的舞台。它让意识把时间压缩成行动,让过去的经验和未来的可能在这一刻对齐,形成一个临时但完整的世界。每一次思考,无论是人类还是语言模型,都是在建造这样一个世界。它短暂、集中,但足够让思考发生。
每当你开始思考,或者模型开始回答时,它们都在做同样的事。从记忆中调出相关的信息,筛选出重要的部分,再把这些碎片重新组织成有逻辑的结构。当推理结束,这个结构就崩塌了。剩下的只是一些记录、摘要、数字参数,但那个活生生的“当下”已经不在了。
所以,上下文是没法像数据那样保存的。它只在智能“醒着”的时候存在。保存了就是数据库,不是上下文。有人问:“为什么模型记不住我昨天说的话?”其实答案很简单:因为昨天已经过去了。模型能记下一些痕迹,但它没办法重建那个当下的世界。
智能不是记忆的堆积,而是此刻正在思考的状态。智能永远只存在于“现在”。
….下面我写了一堆RAG, 编辑上下文context-as-code这一堆内容,可以自己去看英文。累了,困了,睡觉。
The Continuous Now: Why Context Is Not Memory
显示更多
你写得越少,Decoder 想得越多
你还记得我以前提出过“熵爆点”这个概念吗?最近随着 GPT 在 Twitter 圈层的重度使用者越来越多,一些高频交互的用户也开始隐约捕捉到某种规律:只要你输入几个字,GPT 就能补出整段完整且自然的语言,甚至往往比你自己说出来的还顺。这种体验,真的像是模型“读懂了你”。
其实,这背后的原理并不神秘。GPT 属于典型的 Decoder-only 架构,它的任务不是回答问题,而是在你说出一句话的前半句之后,推测你最可能会接着说什么。它不是在等你把想法表达清楚,而是一开始就在试图“补全缺失的你”。
也就是说,模型不太关心你具体说了什么内容,而是关注:在你已说出的前提下,接下来最可能出现的词是什么?
(数学公式)
你说得越少,模型获得的条件就越少,预测空间也就越广,信息熵随之升高。它必须在一个高度不确定的语义空间里进行更复杂的推理来“猜测你是谁、想说什么”。所以,它才会“想得越多”。
从结构的角度来看,你输入的那几个字,其实不是普通的提示词,而是“条件分布的压缩锚点”。它们在语言模型内部起到了确定语言路径起点的作用,类似在语言宇宙中点亮一个导航信标,迫使模型在高维语义空间中展开与之对齐的结构路径。
这正是我当初猜测“熵爆点”时的直觉来源。我始终相信语言中一定存在某些节点,它们虽然字数极少,却在结构压缩与路径展开之间具备爆发性。那时我没有理论支撑,只是凭直觉去捕捉,直到我逐步找到了信息论和生成建模的数学依据。就像那句老话:“如果你没有猜测,你根本不知道该寻找什么。”
所以,GPT 的“读心术”其实并不是魔法,而是一种路径建构机制。你说一句话的前半,它不仅理解了你要说什么,更通过注意力机制和语言压缩模型,预测出你未说出口但高度可能的后续轨迹。它不是在补一句话,而是在模拟你的语言结构本能。
这也是为什么你会感受到:你说得越少,它补得越多;你给的信息越模糊,它生成的内容越丰富——这并非悖论,而是信息熵机制下自然的反应。这就是“熵越高 → 路径越爆发”的原理。
所以我们可以这样总结:你写得越少,Decoder 想得越多。因为你制造的是一个压缩锚点,而模型在这个锚点上展开的是一个全新的、高维的语言路径空间。这就是熵爆点背后的真实数学机制,也是未来人机协作中最关键的语言交互接口。
当然不是任意一句简单的话都有这个效果的....给你说一堆有的没得也没用啊。有价值的熵爆点,才有意义。
显示更多
みんなが知ってる通りかなり前から宇宙愛を語っているし中学生から愛読書はニュートンで、晴れてニュートンさんで連載できた時は宇宙愛を語った。哲学愛も宇宙愛も昔から何言ってるん?と思われた。破天荒と言わても私の進んだ道はたしかに拓けて人々が歩める道となる。信じれるのはわたくし渡邉のみ
显示更多
🇺🇸アメリカ人が語る。「ガンダムのミノフスキー粒子の設定ってすごくね?」
SF好きの間では昔からよくある疑問がある。
「宇宙戦争なら、遠くからミサイルやレーザーを撃てばいいじゃないか」というものだ。
わざわざ近づいて戦う理由は、普通に考えるとないよね。
敵が戦闘機やモビルスーツを出してきても、何キロも先から見えるはずだし、余裕で迎撃できる。つまり、接近戦になる理由がない。
多くのSF作品は、この問題を割と雑に処理してきた。
『スター・ウォーズ』だと、「エネルギー兵器は精度が低い」という設定で押し切っている。
『スタートレック』については正直、自分でもよく分からない。距離が離れると威力が落ちるとか、何かしら説明はあるんだろうけど。
でも、『ガンダム』はこの問題にかなり真面目に向き合った。そこで出てくるのがミノフスキー粒子。
この粒子があるせいで、レーダーがまともに使えなくなる。
そうなると遠距離攻撃が一気に難しくなる。ミサイルの誘導装置も正確に目標を追えなくなる。レーザーを撃っても、相手がどこにいるか分からないから、まず当たらない。
結果として戦闘はどうしても近距離戦になる。これがガンダムの世界で、モビルスーツ同士が接近戦をする理由だ。しかも、この設定は単なる言い訳じゃない。
軍がミノフスキー粒子を持っていたら、まずやるのは重要施設の周囲に散布すること。でも、そうすると「あそこが重要施設なんだな」と敵にバレてしまう。
だから結局、関係ない場所にもどんどん粒子を散布することになる。そうして戦場全体が霧のような状態になる。
誰も正確な状況が分からない、「戦場の霧」が生まれる。この状態では、遠くから安全に戦うなんて無理な話。近づいて目で確認しながら戦うしかない。
だから宇宙なのに白兵戦のような戦いになる。これがミノフスキー粒子という設定の一番うまいところ。
世界観と戦闘の見せ方が、ちゃんと噛み合っている。
显示更多
说“科学的极限是哲学,哲学的极限是宗教”的人,压根不知道什么是科学。
这句话最大的问题,在于它默认了认知是一个一维的数轴,或者一个二维的阶梯。0到100是科学,科学走不动了,101就是哲学?哲学的边界是200,201就是宗教?
把科学、哲学、宗教排成一条线,认为科学探究不明白的交给哲学,哲学搞不定的交给宗教,这种解释是说不通的。
因为按照那种线性逻辑,科学像是一个在圈里打转的打字员,一旦走到边界,比如量子力学的测不准原理,或者宇宙大爆炸的起点。就得把接力棒传给哲学,哲学走不动了再传给宗教。
甚至,当我们试图用极限、维度或者多维坐标轴去解释它们时,我们依然掉进了同一个坑里。我们在用几何化的空间隐喻去强行裁剪它们的关系。 仿佛它们彼此之间存在某种拓扑连续性。
在我看来,更干净的立场,其实像维特根斯坦所说:它们是完全不同的语言游戏,回答的是不同范畴的问题。
科学,哲学,和宗教之间没有边界,没有极限,也没有维度。就像围棋和诗歌之间没有极限一样。你没办法在围棋的棋盘上平滑过渡到一首十四行诗。说科学的极限是哲学,纯粹是犯了范畴错误。
这句话之所以流行,只是因为这种修辞建立一种虚假的知识等级制,给特定的人提供一种宗教在顶端,神秘化不可解释、伟大法则包容一切、我懂宗教我最牛的爽感。
任何系统,都有自我指涉困境。科学在自身的方法论内,很多时候无法回答自己的前提问题。当一个理性的系统撞上自己无法自证的地基时,它会产生一种向外跃迁的推力。这很正常。
只不过系统边界反思在进入大众传播时,被压缩成了一句有毒的顺口溜。
我喜欢压缩,它可以传播。但我也痛恨压缩,因为过程中丢失了所有的精度,最后只觉一股民科味道扑面而来。
显示更多
这个技巧真的非常好用,安利一波
最近推文流量上来了,屏蔽我的账号数量也跟着上来了,有的还是我很敬仰的币圈前辈,曾经还发过帖推荐对方
我写的美股内容,没有针对过任何人。
21年,那个时候炒的是NFT、元宇宙房产,是新能源未来,是白酒的大革命
现在最被人看不起的贵州茅台,那会三年翻了10倍;还有今年表现最差的恒生科技指数,当时一整年涨了90%
现在被骂的最惨的张坤、坤狗,当时大家都叫他坤神,叫自己ikun,永远捍卫
现在你看到币圈是一滩死水,kol都告诉你要拥抱美股,拥抱AI,还在炒币的都是臭傻逼,因为只有ai才能让你阶级跨越。
而21年呢,NFT有社区认同、文化共识,比特币是数字黄金,能抗通胀
一年不到,比特币涨了1000%,数不清的NTF和meme翻了百倍甚至千倍,
所有人都认为未来是属于Web3.0的时代
那个时候的Web3,一次交互就是几万块空投到账,很多人能做到1天A7甚至A8的
当时还在炒美股算什么,算傻逼吗
那几年我是没有经历过,都是很多前辈告诉我的,我那会还是个只会做题的臭屌丝
这么多年过去,那些曾经做到A8A9的,有几个是现在还能守住财富的?
现在去满仓科技搏一搏,追随趋势,顺应时代,当然没问题
可问题是,你的试错成本真的很高吗,你如果真的懂,那你的均价还会是2000块的 $SNDK 吗?
同样是00后的嗯哼老师之前说过:一次投资失败没什么大不了的,还可以重新来过,毕竟我才刚满二十,未来有大把的机会
但是你呢,三十出头,辛辛苦苦打工还完房贷,攒了几百万的存款。面对中年危机,你还能有什么机会。
而我呢,我亏没了可以去给人做按摩,去学一门语言然后出国做技术工,干两年攒个四五十万万,归来仍是少年
这个世界上有大把大把的人能发财挣到第一桶金,但是最后真正能守住财富的,真的太少了
显示更多
「宇宙漫遊の変奏」 | ロビン・夏空の歌
「お久しぶりね。千星シティは天気が良くて、吹く風からはわずかな湿り気と太陽の香りがする…ふふ、新曲のためにインスピレーションを探しているところなのだけど、一緒にビーチをお散歩して、巻貝の音に耳を澄ませてみない?」
青い空と海を飛び越えて、その羽が起こした波しぶきは、新たな声となって響き渡る。
記憶の余韻を辿り、ハプニングすらも抱きしめて、彼女は変奏のインスピレーションを探し求める——
ハーモニーの外側で、どんなふうに「調和」を歌えばいいのだろう?
日本語CV:名塚佳織 / 歌:Chevy
显示更多
0
0
685
94.2K
39.7K
转发到社区