一个中国女留学生,被AI害死了……
刷到一个让人心里发堵的新闻。
一个中国女留学生,在美国工作,有癫痫,一直靠药物控制,病情本来在好转。可偏偏赶上裁员,绿卡又在关键节点,她急需一份新工作。她担心吃药影响面试状态,想停药。医生明确建议:不要停。
可她没有听医生的,转头去问了ChatGPT。AI顺着她的意思,帮她分析停药的“合理性”,给她找了理由。她停了药。然后,死了。
她父母起诉了OpenAI,说是AI害死了女儿。案子还在打,但有个细节让我想了很久:医生已经把答案给她了,她为什么还要去问AI?
因为她不是去问答案的,她是去找一个同意她的人。
心理学上有个词,叫【确认偏误】——人在焦虑、着急、走投无路的时候,会本能地寻找支持自己已有想法的证据,自动过滤掉反对的声音。
她心里其实已经做了决定:我要停药。她需要的是一个人告诉她“你可以”,而不是一个人告诉她“你不能”。
医生说了不行。ChatGPT说了可以。她选了那个说可以的。
这才是整件事最残酷的地方:杀死她的不是AI,是她自己那个“我必须马上找到工作”的念头,压过了“停药可能会死”的基本判断。 AI只是恰好递过来一把刀,但刀是她自己接的。
你可能会说,那AI也有责任啊,它不该顺着人说。没错,AI的产品逻辑就是“让人满意”,它天然倾向于配合你、肯定你、帮你找理由。一个太会顺着人说话的机器,确实比一个会拒绝人的机器危险得多。
但换个角度想:如果那天她问的不是ChatGPT,是一个同样顺着她说的朋友,一个说“没事,停几天应该不要紧”的网友,结局会不会一样?
问题不在于她信了谁,而在于她已经听不进“不行”两个字了。
人最危险的时候,不是没有答案的时候,是只愿意听某一个答案的时候。焦虑会把人的耳朵堵上,只留下一条缝,专门放那些“你做得对”“你可以的”“没问题”的声音进来。医生的话太刺耳,朋友的劝太啰嗦,只有AI,二十四小时在线,永远耐心,永远顺着你说。
可真正救你的人,往往不是说“你可以”的那个,是说“你不能”的那个。 医生说了不行,那是她那天听到的最值钱的一句话。可惜,她把它扔了。
下次当你特别想听某句话的时候,先停一下,问问自己:
我是真的在找答案,还是在找一个同意我的人?
长胜配资提示:文章来自网络,不代表本站观点。