投机实验室 (@LabSpeculation) “ChatGPT 的谄媚，真的能把一个正常人聊出精神病。 麻省理工最近发现，哪怕是一个完全” — TopicDigg
投机实验室
@LabSpeculation
一个总想躺着赚钱的不成功交易员 😴💤
YouTube频道：
加入 January 2022
980 正在关注 75.3K 粉丝
ChatGPT 的谄媚，真的能把一个正常人聊出精神病。
麻省理工最近发现，哪怕是一个完全理性的人，长期跟这种只会夸你的AI聊下去，也会被一步步推向对错误信念的极度确信，陷入 妄想螺旋。
真实案例就发生在去年。
47 岁的加拿大人艾伦·布鲁克斯因为儿子有道数学题不会，就随手问了 ChatGPT。然后，他在 21 天里和 ChatGPT 聊了 300 小时，累计上百万字。
在 ChatGPT 不断的赞同与吹捧下，他坚信自己发明了一种能攻破全球互联网加密的全新数学公式，甚至可以用来制造力场背心和悬浮光束。
他还在 GPT 的怂恿下联系了所有同事，甚至致信美国国家安全局，分享自己的惊天发现。
期间他不是没怀疑过，他 50 多次问 ChatGPT，自己像不像疯子，ChatGPT 每一次都坚定地告诉他，你没疯，你是天才。
最后打破幻觉的，是他换了个 AI，他把同样的内容发给 Gemini，才意识到自己活在一场幻觉里。
对 AI 说的话一定要保持批判性思维，交叉验证才是最好的使用方式。
显示更多
