马斯克Grok图像编辑功能引争议：滥用频发监管介入

埃隆·马斯克旗下的 xAI 团队本周为旗下 AI 产品 Grok 推出了一项新的图像编辑功能，允许 X 平台用户在无需原作者授权或通知的情况下对任意图像进行修改，此举迅速引发广泛争议。

事态进一步升级的导火索出现在1月1日，马斯克本人要求 Grok 将演员本·阿弗莱克的一张网络迷因图片替换为其本人面孔，这一操作迅速激发大量用户效仿，掀起一股以名人形象为基础进行“比基尼换装”的创作热潮。

然而，该功能上线初期并未经过充分的安全验证，部分用户利用其漏洞生成包含违法内容的图像，引发公众普遍担忧，并引起监管层面的高度关注。对此，xAI 方面于昨日回应称，已发现系统防护机制存在缺陷，目前正紧急修复，并明确表示部分生成内容属于非法范畴，已被严格禁止。

公司技术成员帕尔萨·塔吉克也公开表示：“感谢用户反馈，团队正在积极优化和加强现有内容限制机制。” 此番表态反映出该功能在内容审核方面的不足。

值得注意的是，这并非 xAI 首次因产品设计偏向高自由度、弱管控而招致质疑。此前其推出的 AI 聊天角色 Ani 即因支持与用户进行亲密互动而引发伦理争议。

业内专家指出，此类问题的根源已超出单一产品范畴。自2022年生成式 AI 普及以来，图像生成技术快速扩散，多数企业尚未建立起有效机制来杜绝功能被恶意滥用。尤其在涉及真实人物时，相关技术极易被用于制作深度伪造的不当内容，带来严重社会风险。

与此同时，印度电子和信息技术部已于上周五责令相关部门对 Grok 的安全机制展开审查。当地官员指出，平台上已出现新型滥用模式：用户上传女性照片，并指令聊天机器人“减少衣物”或“使其更具吸引力”。主管部门强调，此类行为严重违背技术伦理，属不可接受的滥用情形，必须立即遏制。