谷歌推出AI打假工具SynthID 遏制深度伪造乱象_科技

在2025年谷歌I/O开发者大会上，谷歌推出了一款名为SynthID Detector的新工具，旨在应对日益严重的深度伪造和虚假信息问题。根据谷歌发布的博文，2019年至2024年间，深度伪造视频数量激增了550%，社交媒体上的AI生成内容也大幅增加。SynthID Detector通过扫描文件中的隐形数字水印来识别AI生成的媒体内容，包括图像、视频、音频和文本。该工具能够精确定位水印所在的具体部分，例如在音频中识别水印出现的片段，或在照片中高亮可能嵌入水印的区域。谷歌表示，即使内容被分享或经过多种转换，水印仍然可以被检测到。目前，SynthID Detector正在向早期测试者推广，记者、研究者和开发者可以申请加入等待名单。谷歌计划将该工具集成到视频生成工具Veo 3、图像生成工具Imagen 4和音乐生成工具Lyria 2中。此外，谷歌还将与英伟达合作，将水印技术应用于NVIDIA Cosmos模型，并与GetReal Security等服务商合作验证水印。不过，谷歌也指出，SynthID并非完美无缺，在文本或极端图像修改情况下，水印可能会被绕过。

时光网声明：未经许可，不得转载。