全球首个“数字水印”发布，极大提升生成式AI安全！

添加书签

AIGC开放社区
2023-09-05

专注AIGC领域的专业社区，关注OpenAI、百度文心一言等大语言模型（LLM）的发展和应用落地，关注LLM的基准评测和市场研究，欢迎关注！

谷歌旗下的AI研究机构DeepMind发布了，全球首个数字水印SynthID，主要用于提升生成式AI产品生成的图片安全，帮助用户识别图片的来源。未来，该水印会用于文本、视频、音频等领域。

据悉，SynthID可直接嵌入到，谷歌的文本生成图片模型Imagen合成的图片中。人的肉眼无法觉察到水印，不受更改颜色、添加滤镜等破坏操作影响；SynthID也可以识别图片中的水印。

简单来说，SynthID相当于钱币中的防伪标识，同时又能充当“验钞机”的作用，识别图片的真假，极大提升了生成式AI产品的安全性。

今年7月，谷歌、微软、OpenAI等7家科技巨头与美国官方签订了AI安全协议，将以安全、可靠、透明的方式发展生成式AI。其中，一项重要技术保护措施便是“数字水印”。而谷歌也成为了全球第一家在生成式AI领域提供该技术的服务商。

SynthID简单介绍

SynthID由两种深度模型组成而成，一个用于添加水印，另外一个用于识别水印。这两个模型分别在不同的图像数据集上进行了大规模训练、优化，以提升水印的准确率。

SynthID工作原理介绍

1）添加水印：SynthID可直接将水印嵌入到图片中，人的肉眼无法察觉到，同时也不受滤镜、更改颜色、压缩体积、更改亮度等操作影响。

左面有水印，右面无水印

改变颜色，仍然可以识别水印

2）识别水印：SynthID可以识别图片中的水印，并告诉用户该图片是 Imagen模型生成的，还是人工设计。当图片遭遇严重破坏时，例如，更改亮度、删除部分内容等，SynthID可以基于图片的元数据，仍然可以检测到图片中的水印。

如何使用SynthID

SynthID主要用于谷歌的文本生成图片模型Imagen。该模型基于Transformer（ChatGPT也借鉴了该模型）的语言理解能力，以及结合了扩散模型的高保真图片生成能力。

目前，部分用户可以在谷歌云的AI开发平台Vertex AI上，使用Imagen和SynthID功能。（地址：https://cloud.google.com/vertex-ai）

SynthID处于测试阶段，但谷歌表示，数字水印对于生成式AI的安全性非常重要。特别是随着技术的迭代、场景化落地，会有大量AI生成的文本、图片、视频、音频等内容在社会中流通，会产生潜在的安全威胁。未来，会将SynthID扩展至更多领域，全面提升生成式AI安全。

本文素材来源谷歌官网，如有侵权请联系删除

END

即将举行的活动