谷歌发布AI内容检测工具

在 2025 年 I/O 开发者大会上，谷歌发布了一款名为 SynthID Detector 的新工具，旨在应对深度伪造（deepfake）和虚假信息带来的挑战。该工具利用数字水印技术，识别由人工智能生成的媒体内容。

据相关介绍，从 2019 年到 2024 年，深度伪造视频的数量增长了 550%，与此同时，社交媒体上的 AI 生成内容也显著增加。为应对这一问题，SynthID Detector 正在面向早期用户逐步推出，记者、研究人员和开发者可申请加入测试名单。

该工具能够扫描文件中的隐形数字水印，从而判断内容是否由 AI 生成。无论是图片、视频、音频还是文本，它都可以精确定位水印所在的具体区域。例如，在一段音频中，它可以识别出水印所在的特定片段；在一张照片中，它则会标记可能嵌入水印的部分。即便这些内容在传播过程中经历了多次格式转换，工具仍能检测到其中的水印信息。

谷歌计划将 SynthID Detector 集成到多个自家产品中，包括视频生成工具 Veo 3、图像生成工具 Imagen 4 和音乐生成工具 Lyria 2。同时，谷歌还将与英伟达开展合作，把水印技术引入 NVIDIA Cosmos 模型，并与一些服务提供商共同验证水印的有效性。

需要指出的是，SynthID 并非绝对可靠，在某些极端情况下，例如对文本进行大幅修改或图像严重失真时，水印可能会被绕过。