美国企业家马斯克旗下人工智能企业xAI近日发布的一款聊天机器人引发争议。根据程序设计，这款机器人可进行“成人”对话，并向12岁及以上用户开放使用，引发不适当诱导未成年人的担忧。

新华社援引英国《每日电讯报》16日报道，这款聊天机器人名为“阿妮”，采用卡通形象，其对话模式包含“完全成人对话”的内容。

这一聊天机器人功能集成在xAI公司推出的“格罗克4”（Grok4）AI大模型中，在苹果商店标注为向12岁及以上用户开放使用，并已向免费服务用户开放。xAI官网注明“并非所有年龄都适用这款机器人”。

报道援引近日一项调查结果显示，儿童经常用人工智能（AI）聊天机器人陪伴自己。部分受调查儿童说，他们和机器人聊天是因为没有其他人可以对话。

英国全国防止虐待儿童协会的儿童网络安全政策副主管马修·索韦米莫说：“我们的确担忧，这项技术正被用于生成具有操控性、误导性和诱骗性的有害内容。”

成都《每日经济新闻》报道，与正儿八经的聊天机器人不同，“阿妮”更像是某种“AI女友”互动游戏，需要用户通过互动增加好感度。有网民透露，即便在选项中关闭了AI角色发表“工作场合不宜”（NSFW）言论的选项，仍难以杜绝AI发表“少儿不宜”的言论。

这并非Grok首次引发争议。新华社援引美国《纽约时报》报道，本月8日，Grok参考马斯克掌管的社交媒体平台X（原推特）用户发布的内容，生成一系列“反犹主义”言论，包括赞扬纳粹德国领导人希特勒；声称犹太姓氏的人更容易在网上传播仇恨言论；用与二战期间纳粹大规模屠杀犹太人相关的言论回应对白人的仇恨言论是“有效的”等。

12日，xAI在X平台发布一系列帖文，将上述事件归咎于Grok误用废弃代码。xAI解释说，调查发现“问题的根源是Grok上游代码路径更新，该更新与驱动Grok的底层语言模型无关”。当日，xAI在其社交媒体官方账号上写道：“我们为许多人经历的（Grok的）可怕行为深表歉意。”

xAI称，上述更新在线上存在16小时，其间调用了已废弃的代码，Grok因此受到X平台用户帖文内容的影响，包括帖文中含有的“极端观点”。目前，这段代码已经被移除，且xAI“对整个系统进行了重构，以防止类似滥用再次发生”。

今年5月，xAI称其一名员工在未经授权情况下修改了Grok的程序，导致其在不相关的对话中反复提到南非政治议题，并错误地坚称该国正在进行针对白人的“种族屠杀”。