注册并分享邀请链接,可获得视频播放与邀请奖励。

Susan STEM (@feltanimalworld) “写作作为认知工程:大语言模型让我认知到语言/传播/对齐的重要性 如果要说大语言模型” — TopicDigg

Susan STEM 的个人资料封面
Susan STEM 的头像
Susan STEM
@feltanimalworld
the Entropy Control Theory : Language as system design, system is larger than the model.
加入 August 2016
6K 正在关注    41.1K 粉丝
写作作为认知工程:大语言模型让我认知到语言/传播/对齐的重要性 如果要说大语言模型普及后我最大的感慨是什么,那绝不是“终于有机器可以帮我编程了”,而是它让我们更有野心去尝试、去描述那些更加抽象、更加未来的理念。然而,一旦进入这种层次,语言的天然复杂性立刻显露出来——我们每天都像是在鸡同鸭讲,根本无法在语言上真正对齐。哪怕两个人本质上谈论的是同一个理念,听起来也像在说完全不同的东西。 为什么会这样?因为在描述一个尚未存在、尚未被固化的新概念时,我们能够表达出来的,仅仅是这个概念在各自知识结构下的“影子”。如同同一件事物,在光照下会投出不同的影子。每个人的大脑与思维,本身就是一种不可约系统,由基因、成长路径、环境与经验共同塑造,因而形成独特的认知方式。于是,这些“影子”之间几乎必然是不对齐的,听起来就是鸡同鸭讲。 这个系列,我想谈谈我最近的一些体会:最初我以为大语言模型的生态主要属于技术圈,但慢慢发现,其实任何关心这场变革的人——无论背景、专业或兴趣,已经拓展到跨越学科的广阔范围,而真正的挑战是语言的深入对齐。过去几个月,我不断在语言上做尝试,测试各种表达方式与推演方法,逐渐形成了属于我自己的方法论,也有了对这种深度而又带有广播性质的纯文字交流的新认识。接下来,我会进一步在中英文两个维度展开写作与交流,计划用大约一年的时间,认真尝试做一名“职业吹水人”,通过持续的写作、推演与对话,把思想与方法沉淀为结构化的资产。 一:写作与推演的认知价值 写作与推演的意义远远不只是表达,而是通过多角度、多方法论、多层次的结合,成为一种“全层次对齐”的工具。多角度意味着不断横向比较,避免陷入单一学科或视野的偏差;多方法论则是把逻辑学、系统论、信息论、演化论等不同的思维方式叠加,像多重滤网一样压缩出真正坚固的核心结构;多层次则体现在上中下三层:上层凝练价值与文明叙事,中层形成协议与推演框架,下层落地为工具、代码与实验路径。通过这种方式,写作与推演能够把个人的思维进化、群体的共识形成,以及未来的工程蓝图三者打通。 二:范式转移期的语言隔离 在范式转移时期,语言对齐常常失效,明明讨论的是同一个理念,却像鸡同鸭讲。原因在于几个方面:语言本身的复杂性让新概念只能以“影子”的形式出现,而每个人的大脑作为不可约系统,投射出的影子各不相同;层次的错位使得有人在谈价值,有人在谈架构,有人在说代码,方向虽然一致,但语言不在同一个平面上;认知速度的差异则让部分人已进入新范式,而另一部分人还停留在旧秩序。由此产生的语言隔离,是范式转移期的必然现象。 三:理念真空与推演真空 今天的困境在于,我们已经拥有了 AI 这团“火”,但却处于理念真空与推演真空之中。理念真空意味着缺乏新的概念体系与价值叙事来承载这股力量;推演真空则是没有可验证的方法论,人们只能在旧语言的框架下勉强描述新的现象。就像远古人类发现火时,只会照明和取暖,却不知道如何系统地利用它。面对这样的空白,新的写作与推演就必须承担起“方法论生成器”的角色,把火从偶然的工具变成秩序化的文明基础。 四:科研与民众的全层次对齐 科研和民众之间同样存在隔阂。科研端不断产出模型、算法和论文,却封闭在术语高墙之内;而民众更关心的是教育、医疗、就业与社会秩序,却往往无法理解科研语言。真正的突破在于建立一个全层次的对齐路径:科研成果先经过协议化与结构化,转译成社会可用的产品与规则,再进入民众的生活场景,最终通过体验反馈反向输入科研。这种双向循环能让科研与民众在共识、架构和技术三层实现纵向对齐,形成社会级的闭环。 五:信息成本下降带来的机遇 过去,跨层次的对齐之所以困难,是因为信息成本过高:传播缓慢,知识难以翻译,反馈需要多年才能形成。如今,情况发生了根本变化。大模型降低了从术语到日常语言的翻译门槛,社交网络和即时出版极大缩短了反馈周期,小规模的问卷、微社区讨论也取代了昂贵的调研。随着信息成本骤降,全层次对齐从“几乎不可能”变成了“现实可行”,认知闭环的速度被显著提升。
显示更多