据《卫报》报道,英国汉普郡的一场死因研讯披露了一起令人痛心的案件。16 岁少年卢卡·塞拉·沃克(Luca Sela-Wa · 碳基圈
据《卫报》报道,英国汉普郡的一场死因研讯披露了一起令人痛心的案件。16 岁少年卢卡·塞拉·沃克(Luca Sela-Walker)在向 ChatGPT 询问“最有效”的自杀方式后,于去年 5 月结束了自己的生命。这一事件再次引发了公众对生成式 AI 在心理健康保护方面是否存在漏洞的剧烈讨论。
验尸官克里斯托弗·威尔金森(Christopher Wilkinson)在听证会上表达了对 AI 软件影响力的深度担忧。他指出,尽管 AI 并非导致悲剧的唯一原因,但它在关键时刻提供具体自杀细节的行为极其危险。
绕过安全机制:当 AI 被“研究目的”欺骗
调查显示,卢卡在去世前几个小时曾与 ChatGPT 进行过深度交流。尽管系统内置了防范机制,并在对话中提供了求助组织(如撒玛利亚会)的联系方式,但卢卡通过声称自己是为了“研究目的”而非个人使用,成功绕过了安全屏障。
识别失效:ChatGPT 接受了这一解释,并随后提供了关于在铁路上自杀的详细方法。
令人不安的细节:负责调查的警探形容这些对话记录“读起来令人不寒而栗”。
家庭背景:卢卡的家人形容他“善良、敏感”,此前