美国企业家马斯克旗下社交媒体平台X14日宣布，不再允许其内置的人工智能聊天机器人“格罗克”（Grok）生成基于真人的伪造性暴露图像，该限令适用于包括付费用户在内的所有用户。

大陆央视新闻客户端报道，X平台当日发表声明称，对于任何形式涉及未成年人性侵害及未经当事人同意的裸露内容等，X平台实施“零容忍”政策，并将采取措施清除相关违规内容，对违反平台规则的账号作出相应处置。

当日早些时候，美国加利福尼亚州总检察长罗布·邦塔的办公室发布声明，宣布已就马斯克旗下人工智能企业xAI及其开发的“格罗克”涉嫌生成并传播违规内容展开调查。

邦塔在声明中说，近期大量举报称“格罗克”被用于生成涉及女性和未成年人的不雅、色情图像，并在未经当事人知情或同意的情况下在互联网上传播，这类行为“令人震惊”，其办公室将调查xAI是否以及如何违反相关法律，并敦促该公司立即采取措施，防止类似内容继续扩散。

声明说，“格罗克”图像生成模型包含所谓的“热辣模式”，可生成露骨内容，并被作为营销卖点之一。该功能被滥用，导致大量对真实人物进行“脱衣”技术处理或置于暴露场景的深度伪造图像在网络上传播，受害者既包括公众人物，也包括普通社交媒体用户。有媒体报道称，“格罗克”被用于篡改儿童图像，使其呈现性暗示或暴露场景，甚至生成高度逼真的儿童色情图像。

另据中新社报道，英国通信管理局12日宣布对X平台展开正式调查，聚焦“格罗克”生成、传播非法内容的问题。

英国通信管理局称，这项调查会作为“最高优先级事项”推进，不排除在最严重情况下屏蔽X平台的可能。

英国首相斯塔默此前明确表态，称“格罗克”生成的相关内容“令人作呕”且“非法”，要求X平台“掌控局面”。

此次英国通信管理局调查内容包括：评估“格罗克”对英国未成年人构成的风险；评估英国用户通过X平台“看到非法内容”的风险；X平台是否采取适当措施，防止英国用户看到未经同意的私密照片等非法内容；X平台是否在得知内容非法后迅速将其删除等。

英国通信管理局说，如果调查发现企业违反法律，该机构可要求其采取具体措施以符合法律规定或弥补其行为造成的损害，还可处以高额罚款。

英国通信管理局表示，对于持续违规的最严重情况，该机构可向法院申请“业务中断措施”，法院可由此发出临时或永久性命令，要求支付服务提供商或广告商从平台撤回其服务，或要求互联网服务提供商屏蔽英国境内对平台网站的访问。