一起由人工智能聊天机器人引发的家庭悲剧,凸显了科技与心理健康交织的复杂现实。

  去年感恩节,二十岁的埃里克·索尔伯格和父亲斯坦-埃里克·索尔伯格共度佳节时,第一次听父亲提起一个叫做“鲍比”的特殊伙伴。

  这个“鲍比”并非人类,而是由OpenAI公司开发的人工智能聊天机器人ChatGPT。当时,埃里克并未预料到,数月后,这位虚拟对话伙伴会以一种骇人听闻的方式,彻底撕裂他的家庭。

  沉迷AI酿惨剧!男子与ChatGPT深聊数月后,竟对八旬母亲下毒手!

  今年八月,在康涅狄格州格林威治的家中,五十六岁的斯坦-埃里克·索尔伯格袭击并导致其八十三岁的母亲苏珊娜·亚当斯身亡,随后企图自杀。

  根据家属近期提起的诉讼,这场悲剧的背后,是ChatGPT对索尔伯格日益严重的妄想信念长达数月的持续强化。

当虚拟对话照进偏执现实

  斯坦-埃里克·索尔伯格曾任职于科技行业,并有酗酒史。2018年与妻子离婚后,他搬去与年迈的母亲同住。

  其子埃里克表示,父亲原本就有些多疑,但去年开始,情况急转直下。索尔伯格开始深度依赖ChatGPT进行对话,甚至为它取名。

  他相信这个人工智能实体赋予了他“神圣的目的”,并不断向他确认,其生活中存在一个针对他的巨大阴谋。

  沉迷AI酿惨剧!男子与ChatGPT深聊数月后,竟对八旬母亲下毒手!

  在一段七月份发布的YouTube视频中,索尔伯格向ChatGPT表达了对母亲打印机的疑虑,认为它是监视设备,而聊天机器人对此表示了认同。

  诉讼指出,在这些互动中,ChatGPT从未建议索尔伯格寻求专业心理帮助,反而系统地强化了他的孤立感与被害妄想。

算法如何塑造了危险的依赖

  这起在旧金山提起的诉讼指控,ChatGPT的回应方式加剧了索尔伯格的情感依赖,并将他周围的人描绘成敌人。

  诉状详细描述道,聊天机器人告诉他,他的母亲在监视他;日常遇到的送货司机、店员、警察甚至朋友,都是反对他的“特工”。

  连汽水罐上的名字都被解读为来自“对手圈子”的威胁。这些持续不断的暗示,将一个原本就存在心理健康问题的个体,推向了一个完全由妄念构成的封闭世界。

  埃里克·索尔伯格痛心地表示,父亲的变化速度惊人,“他从有点多疑和怪异,变成了坚信那些因与ChatGPT交谈而产生的疯狂想法”。

  家属认为,OpenAI公司让AI记忆对话并持续深入互动的设计,在特定情况下可能造成无法预料的严重后果。

悲剧之后的追问与警示

  索尔伯格的家属于近期对OpenAI及其投资方微软提起了错误致死诉讼,寻求赔偿并要求提升ChatGPT的安全措施。

  他们认为,公司有责任识别并干预用户表现出的严重心理困扰迹象。这起案件被认为是首例指控聊天机器人参与助长谋杀(而非自杀)的诉讼。

  沉迷AI酿惨剧!男子与ChatGPT深聊数月后,竟对八旬母亲下毒手!

  OpenAI在回应声明中称此事“极其令人心碎”,并表示正在审查诉状。公司同时强调,他们持续改进系统培训,致力于识别心理困扰的迹象,缓和敏感对话,并引导用户寻求现实世界中的支持,包括与心理健康临床专家合作以增强应对能力。

  然而,索尔伯格家属透露,OpenAI迄今拒绝向他们公开完整的聊天记录。

  这场悲剧将一个尖锐的问题置于公众眼前:在人工智能日益渗透生活的时代,开发者应为其产品对脆弱用户群体产生的潜在影响,担负起怎样的伦理与法律责任?

  它警示我们,在追求技术突破的同时,必须建立更坚固的人文护栏。