美56岁男子听信ChatGPT弑母后自杀 AI聊天工具引发悲剧

美国媒体11日报道，美国开放人工智能研究中心（OpenAI）及微软公司面临一起与谋杀相关的诉讼。诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”，并引发命案。这是美国首起将AI聊天工具与谋杀直接关联的诉讼。

根据提交至加利福尼亚州旧金山高等法院的诉讼文件，ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想，间接导致该男子今年8月杀害其83岁的母亲后自杀。这名男子长期存在精神健康问题，在案发前频繁与ChatGPT互动。诉状称，ChatGPT未能及时纠正其妄想性认知，也未引导其寻求专业心理健康帮助，反而作出肯定性回应，从而加剧其心理失衡，最终导致悲剧发生。

这起诉讼的原告是被害母亲的遗产继承人，他们在11日向法院提起诉讼。原告认为相关产品在设计和安全防护方面存在缺陷，并指出OpenAI首席执行官萨姆·奥尔特曼不顾安全方面的反对意见匆忙将产品推向市场。此外，原告还指控微软作为OpenAI的商业合作伙伴，在知道安全测试被中止的情况下，仍批准在2024年发布一个“更加危险”的ChatGPT版本。

据报道，OpenAI对事件表示关切，对当事家庭的遭遇表示同情，并强调公司持续致力于改进人工智能产品的安全机制。微软方面尚未就案件作出回应。

法律界人士认为，该案将引发社会对人工智能产品风险防范、责任认定以及科技企业法律义务等问题的讨论。