Google DeepMind 推出了 SynthID，这是一种新的水印工具，可以区分人工智能生成的图像。
Synth ID 的创建是为了区分人工智能生成的内容与实际内容并保护版权。最初，它可以与 Google 的图像创建人工智能 Imagen 一起使用。Imaginen 是托管在 Google Cloud 机器学习平台 Vertex 上的一项服务。Imaginen 用户现在可以选择在创建 AI 图像时是否添加水印。
去年非常流行的生成式人工智能模型已经传播了基于人工智能的深度造假、未经同意的色情内容和侵犯版权的问题。水印作为解决这一问题的最流行的想法而受到关注，它是一种将信号隐藏在文本或图像中以区分其是否由人工智能创建的技术。
去年 7 月，美国政府宣布 OpenAI、Google 和 Meta 等主要人工智能公司自愿承诺开发水印工具，以防止人工智能生成内容的错误信息和滥用。
此前，5月，在Google年度I/O大会上，谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)提到，他正在开发一种以水印等版权保护技术为标准的AI模型。随后，谷歌 DeepMind 成为承诺与美国政府合作的公司中第一家公开发布水印工具的公司。
以前，水印的插入方式是在图像上添加肉眼可见的覆盖层或在元数据中添加信息。然而，谷歌 DeepMind 研究副总裁 Pushmeet Kohli 指出，在这种情况下，当图像被裁剪、调整大小或编辑时，水印可能会被损坏。
Synth ID 使用两个神经网络。第一个神经网络获取原始图像并创建一个看起来几乎相同的新图像，但对一些像素进行了微妙的修改。这是一种嵌入肉眼无法识别的图案的方法。第二个神经网络在图像中找到这些模式，并告诉用户水印是否存在或怀疑存在。Cawley 强调，Synth ID 的设计目的是检测水印，即使图像被捕获为屏幕截图或通过旋转和调整图像大小进行编辑。
芝加哥大学教授本·赵表示，谷歌 DeepMind 并不是唯一一家开发这种水印工具的公司。他参与开发了一个防止人工智能收集艺术家作品的系统。类似于 SynthID 的水印工具已经发布，可用于开源图像创建 AI“Stable Diffusion”。Meta尚未公开发布水印工具，但已对其进行了研究。
Colley 认为，虽然 Google DeepMind 的水印尚不完美，但它比现有水印更能抵抗操纵。
不过，赵教授对这种说法表示怀疑。“我认为很少有水印能够随着时间的推移而保持牢固，”他指出。研究表明，文本水印在发布后几个月内就会变得毫无用处。
他补充说，有恶意势力试图使水印对某种利益毫无用处。例如，使用深度伪造内容作为不存在的犯罪或事件的实际照片证据。
赵教授表示：“这些势力可以通过将 Deepfake 图像伪装成真实照片或声称真实照片是假的来获取大量利润。“他们不会仅仅停留在裁剪图像、通过压缩增加损耗或改变颜色。”
尽管如此，SynthID 的推出是良好的第一步，AI Partnership 的人工智能和媒体诚信项目总监 Claire Leibowicz 表示。她解释说，这些努力可能会导致行业共享有关哪些技术有效、哪些技术无效的信息。
莱博维茨强调，“无论情况多么困难，我们都不能放弃。”
Cawley 向本文解释说，SynthID 是一种“实验性”水印工具，他们将研究人们如何使用该工具来确定其优缺点，然后将其扩展到更广泛的人群。他拒绝回答 Google DeepMind 是否会将 Synth ID 的使用扩展到 Imaginen 之外。此外，没有提及是否有计划将 Synth ID 添加到谷歌自己的图像创建人工智能系统中。
初创公司 Hugging Face 的人工智能研究员 Sasha Luccioni 指出，这一决定可能会限制其实用性。她补充说，如果谷歌拥有该工具的独家所有权，那么只有谷歌才能嵌入和检测该水印。
Lucioni 强调，“如果我们在整个图像创作系统中添加水印组件，就可以减少 Deepfake 色情内容等造成的损害。”
原创文章，作者：小科同学，如若转载，请注明出处：https://www.kejixun.com/article/580543.html
