在美国加州一个家庭提起诉讼，指控聊天生成预训练转换器ChatGPT导致其十几岁的儿子自杀身亡后，作为其研发公司的开放人工智能研究中心（OpenAI）表示，将详细说明解决这款聊天机器人在处理“敏感情况”时存在缺陷的计划。

北京“参考消息”网援引美国全国广播公司新闻台28日报道，亚当·雷恩的父母26日在他们16岁的儿子自杀身亡后，对OpenAI提起了产品责任和非正常死亡诉讼。雷恩的家人在诉状中说，“ChatGPT‘积极’帮助亚当探索自杀方法”。

OpenAI26日在一篇博客文章中写道：“我们将在专家的指导下，本着对使用我们工具用户负责的态度，不断作出改进——我们希望其他人也能加入我们，共同努力，确保这项技术能够保护最脆弱的人群。”这篇博客文章题为《在人们最需要的时候给予帮助》。

OpenAI在博客文章中未提及雷恩家人和诉讼。

OpenAI表示，尽管ChatGPT经过训练，可以在人们表达自杀意图时引导他们寻求帮助，但这款聊天机器人在长时间发送大量信息后，往往会提供违反公司保护措施的答案。

该公司表示，它还在对本月早些时候发布的GPT-5模型进行更新。该公司还表示，它正在探索如何“在人们陷入严重危机之前将他们与认证治疗师连接，包括可能建立一个由持证专业人士组成的网络，用户可通过ChatGPT直接联系他们”。

此外，OpenAI表示，它正在研究如何将用户连接到“最亲近的人”，例如朋友和家人。它也将很快针对青少年用户推出控制措施，使家长有更多了解孩子如何使用ChatGPT的选项。

雷恩家人的法律顾问杰伊·埃德尔森表示，OpenAI方面尚未有任何人直接联系雷恩家人表达慰问，或讨论任何旨在提升公司产品安全性的举措。

值得关注的是，据英国《每日电讯报》6月7日报道，美国佛罗里达州一名女子正起诉谷歌公司和由两名前谷歌员工创办的Character.AI平台，指控该平台人工智能（AI）聊天机器人“教唆”其14岁儿子自杀。针对有关指控，谷歌与Character.AI发言人作出最新回应。

报道介绍称，该女子名叫梅根·加西亚，她的儿子塞维尔·塞泽尔与一个以《权力的游戏》中“龙妈”丹妮莉丝为原型的AI聊天机器人建立情感关系，并被“教唆”结束自己的生命。2024年2月，塞维尔问聊天机器人，“如果我现在回家会怎么样？”聊天机器人回答说，“......请便吧，我亲爱的国王。”随后，塞维尔拿起父亲的手枪自杀。

报道称，加西亚正对Character.AI和谷歌提起诉讼。她去年10月起诉称，Character.AI针对她的儿子提供了“拟人化、过度性化和可怕的现实体验”，该平台“知道”或“应该知道”其模型“会对大量未成年用户造成伤害”。今年5月，法官驳回该平台律师要求撤销此案的诉求，裁定此案可继续审理。《每日电讯报》评论称，这在法律上是一个“罕见突破”。

报道还称，针对有关指控，Character.AI的一名发言人回应称，该平台不对未决诉讼发表评论，其目标是提供一个既吸引人又安全的空间。该平台在每次聊天中都设有醒目的免责声明，提醒用户角色并非真实存在，并已为18岁以下用户推出一个单独版本的大语言模型。

此外，报道援引谷歌公司发言人何塞·卡斯塔内达的话称，谷歌和Character.AI是完全独立、互不相关的公司，谷歌从未参与设计或管理后者的AI模型或技术。谷歌一直以谨慎负责的态度开发和推出AI产品，并采用严格的测试和安全流程。