陈根：AI骗AI，竟然成功了_风闻

文/陈根

AI竟然被自己骗了，这是怎么回事情呢？就是AI自己生成的照骗轻松逃过AI鉴别器的法眼。

然后有人用AI合成了一张马斯克机器女友的照片，然后更夸张的是合成了一张3米巨人都被AI识别成是真的了。以假乱真的AI生成式图片，AI自己分辨不出来了。而导致AI识别错误并不是什么高深的技术，而只是给图像增加颗粒度后，AI就出现了判断失误的情况。这样看来，AI鉴别器似乎不太靠谱的样子。

《纽约时报》最近做了一项测试，他们找来了市面上五个常见的AI鉴别器，分别喂给它们100多张照片做测试。结果发现，AI鉴别器不仅会把AI照片错认成真的，也会把真实照片划定为AI生成的。而且不同鉴别器之间的水平差距也不小。在这项测试中一共使用了5个AI鉴别器，分别是：Umm-maybe、Illuminarty、A.I or Not、Hive、Sensity，测试的内容包括AI和人类创作的图片，分别投喂给每个鉴别器，看它们识别判断的结果。

使用的AI创作工具包括Midjourney、Stable Diffusion、Dall-e等。那么测试的结果是怎么样的呢？《纽约时报》主要展示了这样几个例子。包含5张AI创作的图片，以及2张真人拍的照片。从统计结果来看，五个鉴别器中只有Hive全部判断正确。Umm-maybe的表现最差，只判断对了两张图。

这就给我们带来了困惑了，A合成照片都可以获得国际摄影大奖，但是却难倒了AI鉴别器。但值得关注的是，如果对AI图像进行一些加工处理，AI鉴别器就会识别失效。比如一张AI生成的照片，在没有加工过的情况下，有4个鉴别器判断它是AI生成的。但如果给图片加一些颗粒，AI鉴别器就会将这张图片的AI含量从99%，判断为仅有3.3%。

这就带给了我们一个思考，当AI可以深度合成照片，然后再经过稍微的手动调整之后，AI鉴别器在鉴别的时候就会认为是真的照片。这会在一定程度上对人类社会带来一些干扰，尤其是在一些情感关系的调查中，一些调查公司完全可以利用AI合成技术，不仅能合成照片，还可以合成视频，甚至合成语音对话，或者编造录音。

面对人工智能技术，或许我们人类将会进入一个眼见不再为实，耳听不再为实的时代。当AI造假之后，又遇到AI无法鉴别真假的情况下，我们该如何应对AI时代的危机？