谷歌 Magic Editor 集成 SynthID，“火眼金睛”识别 AI 造假

IT之家 2 月 7 日消息，AI 生成媒体技术日新月异，其生成的内容以假乱真。谷歌公司正积极探索解决方案，将 SynthID 水印技术应用于其图像编辑工具 Magic Editor，以识别 AI 生成的图像和视频，从而应对潜在的虚假信息传播风险。

AI 生成的图片、视频甚至音频质量近年来大幅提升，“威尔・史密斯吃意大利面”的梗图便是例证。然而，技术的进步也带来了伦理挑战，尤其是在虚假信息传播方面。IT之家附上视频如下：

为此，各大 AI 实验室开始为 AI 生成内容添加水印，例如 xAI 在其 Grok 生成的图像右下角添加 logo。谷歌则采用了不同的方法 ——SynthID。

该技术于 2023 年 8 月推出，最初用于为 AI 生成的图像添加水印和识别。SynthID 的功能于 2024 年 5 月扩展到 AI 生成的文本和视频，该技术通过将数字水印嵌入像素和视频帧中，在不影响视觉质量的前提下实现内容标记。

最新消息显示，谷歌已将 SynthID 集成到 Magic Editor 的 Reimagine 功能中。本周起，使用 Magic Editor 进行 AI 生成编辑的图像将在 Google Photos 中使用 SynthID 进行标记，但并非所有编辑都会被标记，例如对背景中小物件的色彩修改可能无法被 SynthID 检测到。