注册并分享邀请链接,可获得视频播放与邀请奖励。

Susan STEM (@feltanimalworld) “打个比方,CAD里面有一个概念叫做over constrained。比如你画一个矩形,然后你再让矩” — TopicDigg

Susan STEM 的个人资料封面
Susan STEM 的头像
Susan STEM
@feltanimalworld
加入 August 2016
0 正在关注    0 粉丝
打个比方,CAD里面有一个概念叫做over constrained。比如你画一个矩形,然后你再让矩形的两条对边平行,这个本来是几何常识,但是这个约束是不可实现的,为什么?因为over constrained. 如果你的直角边是30,40,那么在这两条线段呈直角的前提下,斜边一定是50,这个是算出来的。如果是一个矩形的话,只要四角直角,那么对边肯定平行。 我什么意思呢?CAD、EDA、编译器、数据库这些工程软件都采用形式化约束而不是直接接受"现实"。这是一个很信息论的内容,计算机必须能够唯一求解(Determinism)。一个优秀的工程 IR,不是最完整的表示,而是最小且无冗余的表示(Minimal, Independent, Verifiable Representation)。 现在大模型是啥,没完没了的说。我们想让他在工程中承担一个synthesizer综合器的职能,Synthesizer 的任务不是生成"看起来合理"的结果,而是生成一个目标系统能够接受的 IR。现在大量的落地场景的目标系统是缺失的。我在上一个帖子说到,编程AI coding 为啥那么有效?就是链条完整。 但是一旦进入一些真正的工业领域,就开始觉得摩擦非常大了。比如我例子中这个矩形,你的需求是:画一个宽 30 mm、高 40 mm、四个角都是直角、上下边平行、左右边平行的矩形。 一个不懂 CAD IR 的模型可能把每句话都变成一个约束: top parallel bottom left parallel right top horizontal bottom horizontal left vertical right vertical four perpendicular constraints width = 30 height = 40 几乎一大半冗余。 所以前两天这个我引用的推主说EDA的例子,我一下看了,觉得我应该深入研究。今天的大模型并不是不会推理,而是缺少可以"落脚"的形式世界。语言提供的是无限的表达自由,而工业系统要求的是有限、可验证、可执行的状态空间。Synthesizer 的职责,就是把前者编译成后者。我们希望模型承担的是"综合器(Synthesizer)"这个职责,这个概念其实来自电子设计自动化(EDA),后来软件工程、编译器、CAD、AI 等领域都出现了类似的角色。就是说我们对大模型的定位,出现了偏差,所以这几年包括一时火爆的openclaw,都是无法落地的试错。 Synthesizer = 根据目标约束(Specification),自动搜索并构造一个满足约束的实现(Implementation)。 这个道路还非常遥远。 而且Verifier和生成器还不能是一个。哦,你自己生成,自己验证?那你当然说你自己全对啦。Verifier必须是一个外部工具,符合绝对规则,比如CAD, 你over constrained,无法执行。 Synthesizer 负责提出候选方案;Verifier 负责依据形式规则、物理规律、业务约束或测试结果进行裁决。
显示更多
高人,你这个帖子让我整整琢磨了两天!本来想写个长文,但是太多头绪也不知道从何写起。总的来说是我这段时间上推的原因,总感觉自己的开发缺了很重要的认知;也是我这段时间除了自己硬件修复工作之外,还必须要去看text-to-CAD 的原因。 我为啥这段时间上推,就是心情不好。话多,我心情好的时候是不说话的,哪有这个功夫,可以一直干活。 很多行业,甚至是大部分AI需要落地的严肃场景,就是缺 IR, Verifier; 后续的TD和Platform Config必须建立在前面已经推导完成的前提下。AI写程序为什么那么厉害,就是因为IR-Platform Config这条链条是顺畅的。 我们看一下我这个视频。Zoo(text-to-CAD)就是创造了KCL这个IR, 集合你说的Specs/Impl 于一体,Specs是代码前面那一段。后面的Impl与verfier, 比如一些constraint是混在一起的。 这个版就做的非常好,就是我在你的提示下,自己把specs IR写好了。直接导入fusion我加了螺纹就是一个完整的可打印件。 我们要做任何一个行业的“如码" as code, 恐怕都逃不过这个阶段。 法律,医疗,CAD, circuit。 全都需要IR。 否则AI只是提供方案,不能提供方案验证,没有统一的IR,简直就是语言机——只会说!例如 Text-to-CAD 中,模型可以生成 KCL;但如果没有几何检查、约束检查, 这个图都画不出来的。 Transformer 本质上是概率预测器:P(next token | previous tokens) 代码非常成功是因为:代码行业拥有世界上最成熟的 IR 和 Verifier。 现在各行各业IR缺失,才是这一轮AI基本感觉漂浮在语言宇宙的原因。比如医疗。医疗算不算全世界标准最多的领域之一? 医疗已经有 FHIR、DICOM、SNOMED 这些标准,但是这些标准大多数解决的是数据交换(Interoperability),而不是医学推理(Clinical Reasoning)。 如果真的要靠AI医学推理,需要耗费十几年的时间,真正把IR做出来,形成统一标准。 高人,给跪了。
显示更多