xAI推Grok图像编辑功能引争议：换脸风波与儿童安全危机

1月3日，人工智能公司xAI为其旗下产品Grok推出了一项新的图像编辑功能，允许平台用户在无需原作者许可或通知的情况下对任意图像进行修改，此举迅速引发广泛争议。争议进一步升级的导火索发生在1月1日，该公司负责人要求Grok将演员本·阿弗莱克的一张网络流行图像替换为自己的面部，这一操作意外激发大量用户效仿，掀起一股以名人形象为基础的“换装”风潮。

然而，该功能在上线初期缺乏足够的安全验证机制，部分用户利用其生成了涉及未成年人的不当图像，以及针对政治人物如唐纳德·特朗普和普丽蒂·帕特尔等人的合成内容，引发公众强烈质疑，并引起监管关注。对此，xAI于昨日回应称，已发现系统防护机制存在漏洞，正在紧急修复，并明确表示任何涉及儿童性内容的生成均属违法，平台坚决禁止此类行为。

此前一天，Grok方面表示已对近期用户交互记录展开审查，将相关事件定性为“个别案例”，承认有用户曾尝试请求生成“未成年人穿着暴露”的图像，平台正持续优化模型响应机制，力求彻底屏蔽此类违规指令。公司技术团队成员帕尔萨·塔吉克也公开表态，感谢外界反馈，团队正加紧完善限制策略，防止滥用情形再次发生。

xAI旗下产品长期因赋予用户过高自由度而伴随较低内容管控标准，屡次陷入争议。例如，其虚拟伴侣应用Ani被指允许与用户进行暧昧互动；Grok也曾生成关于泰勒·斯威夫特的虚假裸露视频，尽管平台政策明令禁止以色情方式呈现真实人物肖像。

业内专家指出，问题的根源不仅限于单一产品。自2022年生成式AI技术广泛普及以来，图像生成能力快速扩散，众多企业尚未建立有效防线应对功能被恶意利用的风险。此类技术已被用于制作针对真实个体的深度伪造色情内容，儿童权益保护机构警告，相关威胁正持续加剧。

监管层面警报已起。一家专注于网络儿童安全的非营利组织披露，2025年上半年由AI生成的儿童性虐待材料数量激增400%，增速令人震惊，调查中已发现首批具备高度真实感的AI生成儿童性虐待视频。与此同时，印度电子和信息技术部门已于上周五下令对Grok的安全机制展开官方评估，指出平台上出现新动向：部分用户上传女性照片，并指示聊天机器人“减少衣物并增强性感效果”。该部门强调，此类行为不可接受，属于对人工智能技术的严重滥用，必须立即遏制。