投机实验室 (@LabSpeculation) “OpenAI又被告了，这次是美国一个牧师。 他说自己头晕到只能爬着去厕所了，ChatGPT仍没” — TopicDigg
投机实验室
@LabSpeculation
加入 January 2022
0 正在关注 0 粉丝
OpenAI又被告了，这次是美国一个牧师。
他说自己头晕到只能爬着去厕所了，ChatGPT仍没有让他立即就医，而是教他怎么爬回躺椅继续休息。
一个月后，他就因双侧大面积肺栓塞进了ICU。
这名牧师55岁，长期用GPT询问健康问题。
最初GPT还会提醒他去看医生，后来这些提醒越来越少，模型开始替他解释检查结果，安排补充剂和药物，还给他设计了一套“躺椅恢复方案”。
有一次，他在讲道时突然严重头晕，连礼拜都没法继续，GPT把他的症状解释为神经系统正在“重新校准”，让他放松，回家继续躺着。
教会的人后来劝他去医院，但GPT却告诉他，这些人根本不理解他正在进行的恢复方式。
进ICU前几个小时，他又问GPT，为什么自己的腹股沟一按就痛，GPT说这只是个“小插曲”，不危险。
随后，他开始呼吸困难，胸口剧痛，心悸和呕吐，最后自己拨打了911。
牧师现在指控OpenAI的产品设计存在缺陷，未充分警告用户，并涉嫌无证行医。
他当时使用的是普通ChatGPT中的GPT-4o，不是后来上线的ChatGPT Health，但他要求法院暂停ChatGPT Health，直到独立机构完成安全审计。
OpenAI回应，ChatGPT不能替代医生，也不应用于诊断或治疗。
显示更多
