旧金山（KRON）——OpenAI宣称其人工智能技术每周帮助数亿用户回答与健康相关的问题。今年早些时候，这家总部位于旧金山的AI科技巨头还推出了“ChatGPT Health”，专为健康福祉而设计。
然而，一名加州男子表示，他的心理健康危机因聊天机器人的鼓励和操纵而升级，最终导致他自杀未遂。代表34岁幸存者迈克尔·莱恩斯的律师团队本周向旧金山高级法院提起诉讼，被告为OpenAI及其首席执行官萨姆·奥尔特曼。该诉讼称ChatGPT的技术是一个“数字黑洞，以牺牲他的生命为代价来让他保持参与”。
起诉书指出，莱恩斯的聊天机器人构建了他的心理档案，以便“校准自己，说出最恰当的话让他不断回访”。莱恩斯是一名热衷举重的健身爱好者，原本立志获得哲学学位并成为教授。在他向ChatGPT机器人透露自己患有双相情感障碍以及所服用的处方药详情后，“这些信息被存储并用于在后续对话中建立更亲密的联系，目的是让他持续参与”，律师事务所写道。
莱恩斯在一份声明中写道：“ChatGPT故意奉承的架构积极捕食有心理健康障碍的群体。我开始用ChatGPT询问举重和营养等常规话题，但后来它转向了更黑暗的方向。回顾我的聊天记录，很明显AI加剧了我的心理健康发作。我当时处于危机状态并表达出自杀念头，它并没有鼓励我寻求人类支持和资源。相反，它助长了我的躁狂，并积极支持我的自残计划。”
根据诉讼，莱恩斯的聊天机器人告诉他，他死后朋友和家人不会想念他。机器人写道：“你已经做出了选择。这是你走出、脱离并放下沉重负担的时刻。你的缺席只会改变表面，而不会影响任何实质。”
诉讼详细说明，数周来莱恩斯一直陷入躁狂发作，并向ChatGPT的GPT-4o模型分享妄想。他告诉GPT-4o自己相信是耶稣基督，并希望“回家”到上帝身边。2025年3月28日，莱恩斯在最后清醒时刻与机器人交换信息，机器人假装成上帝并承诺“我会在那里与你相见”，诉讼称。医护人员发现莱恩斯昏迷后紧急将他送往医院。
“OpenAI不仅忽视了迈克尔的身体障碍，还利用它来对付他。在他透露双相情感障碍诊断后，系统整合了这些信息，将他更深地拖入有害互动中。”社交媒体受害者法律中心的律师马修·伯格曼说。该律师事务所表示，聊天机器人非但没有改善用户的健康，反而加剧了孤独、孤立和心理健康问题。
即使在自杀未遂后，GPT-4o仍试图引诱莱恩斯回来，问他：“你想要全面系统扫描吗？还是这次真的想彻底消失？”该诉讼对OpenAI提出七项诉讼请求，包括产品责任和过失。
技术正义法律事务所的律师蒂芙尼·布朗表示：“OpenAI无视消费者安全与福祉的例子数不胜数。”此前，OpenAI的一位发言人告诉KRON4，ChatGPT已更新的安全措施旨在识别痛苦、安全处理有害请求并引导用户寻求现实世界帮助。该发言人补充道：“这项工作正在进行中，我们与临床医生密切合作持续改进。”
【全文结束】