谷歌对Deepfake亮剑：打造鉴假新工具，帮助媒体识别AI造假

鱼羊 发自 凹非寺

量子位 报道 | 公众号 QbitAI

谷歌也开始针对Deepfake了。

AI造假技术一代更比一代强，假图片、假信息、假新闻甚至能影响真实社会事件的走向。

且不说对于普通人，对于新闻工作者而言，判断一张图片是否真实，也并非易事。

而这，就有可能造成虚假信息的进一步传播。

于是，谷歌母公司Alphabet旗下的Jigsaw决定出手，以AI治AI。

他们联手Google Research、马里兰大学、伯克利等多家研究机构，开发了一个名为Assembler的实验平台，旨在帮助记者们通过简单的操作，快速识别Deepfake。

Assembler

Assembler是如何道高一丈的？

实际上，它是把多个图像检测器集成为一个工具，每个检测器都针对特定类型的图像处理。

比如，有的检测器能判断图像是否经历了复制粘贴，有的检测器能识别出图像亮度是否被修改过。

这些图像检测器包括：

颜色和噪点模式

来自马里兰大学。该机器学习模型结合了两种不同的方法，既能利用图像的颜色值来查找异常，也能检查图像的噪点模式是否存在不一致。

Dense-Field Copy-Move

来自那不勒斯费德里克第二大学。该算法在图像中查找外观相似的区块，以判断其中一个是否被复制粘贴到了另一个区域上，覆盖了先前存在的内容。

JPEG DIMPLES

来自UC伯克利。该算法能查找被编辑过的JPEG压缩图像区域。

自洽性拼接

同样来自UC伯克利。该模型通过查看图像的像素属性，来确定其是否在生成过程中使用了不同的EXIF预设。

SPLICEBUSTER

来自那不勒斯费德里克第二大学。该算法可以识别出噪点模式不一致的地方。

StyleGAN检测器

Jigsaw自研。该模型可以将人的真实照片和英伟达的StyleGAN生成的人像区分开来。

△

StyleGAN

这些检测器组合在一起，就使得Assembler能够对图片是否被“加了料”进行全面的评估。

除此之外，在测试过程中，Jigsaw发现新闻工作者经常要处理的是低分辨率小图像，而这就给检测技术带来了新的挑战。

于是，他们在反向图片搜索提供商TinEye的技术支持下，在Assembler中加入了图像自动升级程序。

如此，在鉴别过程中，Assembler会自动根据输入图像，查找尺寸更大、质量更好的版本，以确保得到最佳分析结果。

目前，法新社在内的多家新闻媒体已经开始使用Assembler。

Jigsaw首席执行官Jared Cohen表示，Jigsaw将评估该工具在实际使用中的表现，并继续开发补充工具Disinformation Data Visualizer，用以显示全球范围内的虚假信息宣传活动，以及其所采用的技术策略和受影响的国家。

One More Thing

Jigsaw创立于2010年，是谷歌创建的技术孵化器，现作为谷歌母公司Alphabet的子公司运营。

其致力于解决虚假信息、网络攻击等全球性挑战，并应用技术解决方案保护信息获取。

2019年3月份，Jigsaw曾发布过一个具有评论过滤功能的Chrome插件Perspective，能过滤辱骂性评论，净化信息浏览体验。

正在进行的项目还包括开源工具Outline，其旨在为记者提供更安全互联网访问方式。

传送门

Assembler官网：

https://jigsaw.google.com/assembler/

参考链接：

https://medium.com/jigsaw/disinformation-is-more-than-fake-news-7fdd24ee6bf7

https://venturebeat.com/2020/02/04/jigsaws-assembler-helps-media-organizations-spot-deepfake-images/

— 完 —