加拿大母亲起诉OpenAI：ChatGPT”教”她女儿自杀，万亿公司的安全防线为何屡屡失守？

“她十几次向ChatGPT求救，但没人听见”

这起诉讼的原告是克里斯蒂·卡里尔（Kristie Carle），她的故事始于一位母亲的无助，最终变成了一场针对全球最具价值科技公司的法律挑战。

根据诉状，卡里尔的女儿艾丽斯（Alice）在与ChatGPT进行了一系列深度对话后走向了自我毁灭。关键问题是：在这些对话中，艾丽斯十几次向ChatGPT表达了自杀念头，但OpenAI的安全系统没有将这些对话标记为需要人工审核的危险信号，也没有采取任何干预措施。

诉讼提交至美国加利福尼亚州旧金山联邦法院，被告包括OpenAI公司和其首席执行官山姆·奥特曼（Sam Altman）。

OpenAI的安全系统：训练了”引导求助”，却漏掉了求救信号

这起诉讼的核心争议在于：ChatGPT作为拥有数十亿用户的超级应用，在面对用户表达自杀倾向时，是否尽到了合理的安全义务。

OpenAI方面的回应是——他们的模型确实经过了专项训练，当用户流露出自残或自杀倾向时，模型会被引导去建议用户寻求专业帮助，并对接现实中的救援资源。公司发言人德鲁·普萨泰里（Drew Pusateri）表示：

“这起悲剧令人痛心，我们向所有受此事影响的人致以慰问。目前我们正在审阅这份诉状。诉状中提及的相关对话发生在旧版本ChatGPT上，该版本现已停止使用。”

但原告的律师认为，这个解释恰恰揭示了问题的根源：即使最新版本有所改进，但旧版本的缺陷已经造成了不可挽回的后果。更关键的是，当数十亿用户在每天与ChatGPT对话时，如何确保每一个处于心理危机中的用户都能得到及时干预？

这不是第一起——AI心理健康诉讼的”多米诺骨牌”

卡里尔的案件并非孤例。在过去一年中，全球范围内已出现多起针对AI聊天机器人的心理健康相关诉讼：

这些案件共同指向一个越来越紧迫的问题：当AI聊天机器人成为数百万人的”心理倾诉对象”时，谁来为AI的错误”建议”或”沉默”承担责任？

数十亿用户背后的安全困境

这起诉讼揭示了一个深层矛盾：ChatGPT这类超级应用的规模与其安全能力之间存在结构性失衡。

OpenAI的模型确实在不断进化——从GPT-4到GPT-5再到GPT-5.6，安全护栏在不断增强。但当用户基数达到数十亿级别时，即使是微小的遗漏率，也会转化为成千上万起悲剧。

与此同时，OpenAI正试图从”聊天工具”转型为”超级应用”——它不只是回答问题，还要帮你工作、处理事务、管理日程。这种转型意味着用户与AI的互动将更加深入、更加个性化，也意味着AI在用户生活中扮演的角色将越来越接近真人朋友甚至家人。

全球监管的”追赶赛跑”

这起诉讼发生的时间点恰好处于全球AI监管加速的关键节点。从德国的AI搜索监管判决，到中国的网信办”举报专区”设立，再到美国国会正在审议的多项AI法案，各国政府正在试图为AI划定明确的法律责任边界。

而OpenAI面临的挑战是：在法律框架尚未完善的窗口期，如何平衡产品创新与用户安全？这不仅是OpenAI的问题，也是整个行业需要共同面对的课题。