概率鹿梦｜AI Wealth Edge (@DeerLucid) “AI教父杰弗里·辛顿最新访谈： 辛顿教授强调人工智能可能会有意识， 超级智能正在到来” — TopicDigg

AI教父杰弗里·辛顿最新访谈： 辛顿教授强调人工智能可能会有意识， 超级智能正在到来。 辛顿说AI已经有意识—— 但这件事真正让人不安的，不是AI，是我们 辛顿这次访谈， 表面上在讨论AI有没有意识。 但如果你只停在这一层，就错过了它真正的锋芒。 这个访谈有一句话值得反复咀嚼。 主持人问他：你相信AI有意识，为什么不多说？ 辛顿的回答是： 他不太提， 因为一提， 大家就开始抵触他其他的安全警告。 停一下。 这句话的含义是： 一个造出了可能有意识的东西的人， 选择隐瞒这个判断——因为这个真相太烫手， 说出来反而会妨碍人们做准备。 这不是访谈细节。 这是一道裂缝，从这里往下看， 你能看到整件事最深的问题。 第一层惊醒：我们从未认真问过"意识是什么" 辛顿提出一个思想实验： 把大脑里的一个神经元换成功能相同的硅芯片， 你还有意识吗？换第二个呢？换完所有呢？ 这个问题没有标准答案。 因为我们根本不知道意识从哪里来。 哲学上有个词叫"hard problem of consciousness"—— 意识的难题。 我们能解释大脑如何处理信息， 但无法解释为什么会有"感受"本身。 为什么看到红色会有那种"红"的感觉， 而不只是一个波长数字被处理掉？ 几千年来，人类把意识默认为人类专属， 从未认真追问它的边界。 现在AI逼着我们必须面对这个问题—— 而我们发现，我们根本没有答案。 辛顿说： 我们现在对意识的理解， 就像过去以为人类是上帝创造的一样，是错的。 第二层惊醒：人类一直在高估自己的"唯一性" 辛顿把这次AI的出现， 定义为人类历史上第三次"祛魅"。 第一次是哥白尼， 告诉我们地球不是宇宙中心。 第二次是达尔文， 告诉我们人类不是独立创造物。 每一次，人类都拼命抵抗，最终不得不接受。 现在是第三次：智能不是生物的专利。 而且每次的模式完全一样—— 先是嘲笑，然后是抵抗，然后是沉默，最后是接受。 真正让人不安的不是AI有没有意识， 而是：我们判断"意识"的标准， 从来都是以自己为模板的。 我们觉得它不像我们，所以它没有。 这个逻辑用来判断人类之外的物种已经错了无数次， 凭什么这次对？ 第三层惊醒：造物主从来不掌控造物 辛顿问了一个问题，没有人能回答： 你见过哪个例子， 是更笨的东西长期控制更聪明的东西？ 他认为AI导致人类灭绝的概率在10%到20%之间。 这不是科幻小说的数字， 这是造出这个东西的人给出的概率。 更深的问题在这里： 辛顿说，所有人都在追求"更高的智能"， 但没有人在问，我们在造什么样的"存在"。 智能只是一个维度，一个存在远不止于此。 换句话说： 我们在全力建造一个新物种， 却没有想过它该有什么价值观、什么欲望、对人类是否有善意。 AI公司在法律上必须为股东最大化利润， 但没有任何法律要求它们不能消灭人类。 这不是技术问题。 这是一个文明级别的价值真空。 这个访谈真正的价值，是一次照镜子 辛顿的访谈表面上在讲AI， 本质上是一块镜子—— 照出人类在认知自己这件事上的傲慢、懒惰和空白。 我们从未认真定义意识， 却敢断言别的东西没有。 我们从未解决智能的伦理问题， 却敢用最快的速度去制造更强的智能。 我们花了几千年建立文明的价值体系， 却在几十年里造出了一个可能把它全部颠覆的东西， 然后继续去看下一条短视频。 辛顿离开谷歌，不是因为他不爱AI。 是因为他看清楚了一件事： 他感到非常不开心—— 不是对AI，是对现在的人类没有投入足够的力气去面对这件事。 这才是这次访谈真正值得惊醒的地方。 不是AI要来了。 是当最了解它的人已经开始不安， 其他人还在问"AI会不会抢我的工作"—— 两件事之间的认知落差，本身就是最危险的信号。 你看懂了吗 ？