如何判断照片是否为人工智能生成的假照片

Via：Image by Midjourney, directed by Steve Dennis

作者 |Meghan Bartels

翻译 |杜雅兴

审校 | 酷炫脑

朗读|胡恩

美工|Jenny

编辑 |YJ

AbdAlmageed 说 “作为人类，我们从小就认为眼见为实，这已经不是真的了，眼见不一定为实。”

你可能看过的照片表明情况并非如此，但美国前总统唐纳德特朗普确实并没有被捕，教皇也并没有穿过那件时尚且亮丽的白色羽绒服。 这些最近的病毒式点击是人工智能系统的成果，该系统通过处理用户的文本提示来创建图像。 他们向我们展示了这些程序如何段时间内就变得如此成功，并且足以让不知情的观察者上当受骗。

ai生成的小狗图

那么持怀疑态度的观众如何才能甄别出他们看到的图片是否是由 DALL-E、Midjourney 或 Stable Diffusion 等人工智能系统生成的呢？ 每个 AI 图像生成器，以及由它们生成的每个图像在其可信度程度方面以及可能泄露其算法的迹象方面各不相同。 例如，人工智能系统在历史上一直在努力模仿人手，并由此产生了很多的残缺不全的手指附肢。 然而，随着技术的进步，Midjourney V5 等系统似乎已经解决了这个问题，至少在某些例子中是这样。 总体而言，专家表示，即使不是完全不可能，将来自最佳图片生成器生成的最佳图像与真实图像区分开来并不容易。

宾夕法尼亚州立大学研究媒体技术心理影响的研究员 S. Shyam Sundar 说“ AI 图像生成器的能力非常惊人。在过去一年左右的时间里，图像生成能力更是经历了巨大飞跃。”

Sundar 指出，促使它能力飞跃背后的一些因素包括可用于训练此类 AI 系统的图像数量不断增加，以及数据处理基础设施和界面的进步，这使得普通互联网用户也可以使用该技术。 他继续说，该技术进步的结果是人工生成的图像变得无处不在，而且“几乎无法检测到，”。

最近的一项实验强调了人工智能的欺骗能力。英国兰卡斯特大学专注于数字技术研究的心理学家Sophie Nightingale 与同事合着了一项研究，他们测试了在线志愿者是否能够区分由 StyleGAN2 的人工智能系统创建的类似护照的头像和真实图像。 结果令人沮丧，即使在 2021 年底研究人员进行实验时结果也是如此。Nightingale说 “平均而言，人们的表现几乎都是随机的，那些人工生成的图片是如此逼真，以至于人们很难可靠地感知这些合成面孔与实际、真实面孔之间的区别” 。尽管在实验中人类给AI 提供了一些帮助（研究人员对 StyleGAN2 生成的图像进行了分类，只选择了最逼真的图像），但 Nightingale 表示，旨在将此类程序或者软件用于邪恶目的的人也可能会这样做。

在第二个测试中，研究人员试图帮助测试对象提高他们对 AI 的检测能力。 他们在参与者回答后标记每个答案的正确或错误，并且他们还通过让参与者通读检测人工生成图像的建议来提前让参与者做好准备。 该建议会强调 AI 算法经常出错的地方。比如制作不匹配的耳环，或将一个人的牙齿模糊在一起。Nightingale 还指出，算法通常难以创建比普通背景更复杂的东西。 她说，即使增加了这些辅助，参与者的准确度也只提高了大约 10%，而且生成试验中使用的图像的人工智能系统已经升级到一个新的改进版本。

具有讽刺意味的是，随着图像生成技术的不断改进，人类免于被人工智能系统愚弄的最佳防御可能是另一个人工智能系统：一个经过训练可以检测人造图像的系统。 专家表示，随着 AI 图像生成技术的进步，算法比人类更能检测机器人创造的一些微小的像素级指纹。

AI 生成的图像来自 Julie Wieland 名为“Vinyl Vengeance”的#aicinema 剧照系列，使用 Midjourney 创建。

威斯康星大学麦迪逊分校的计算机科学家 Yong Jae Lee 表示，创建这些 AI 侦探程序的工作方式与任何其他机器学习任务的工作方式相同。 他说“你收集一组真实图像，再收集一组人工智能生成的图像，然后你可以训练一个机器学习模型来区分这两者。”

Lee 和其他专家表示，这些系统仍然存在重大缺陷。 大多数此类算法都是根据来自特定 AI 生成器的图像进行训练的，无法识别由不同算法生成的假图片。 （Lee 说他和一个研究团队正在研究一种方法来避免这个问题，该方法涉及训练检测器来识别是什么使图像真实）。大多数检测器也缺乏可以吸引人来使用的用户友好界面。

此外，AI 检测器将需要始终努力跟上 AI 图像生成器的步伐，其中一些检测器包含类似的检测算法，但它们使用的方式不同，它们被用作学习如何降低其虚假输出的检测方式。 南加州大学计算机科学研究副教授 Wael AbdAlmageed 表示：“生成图像的 AI 系统与检测 AI 生成图像的 AI 系统之间的竞争将是一场军备竞赛。我认为短期内不会有任何一方获胜。”

AbdAlmageed 表示，没有任何方法能够捕捉到每一张人工制作的图像——但这并不意味着我们应该放弃。 他建议社交媒体平台需要开始在他们的网站上发布那些对抗人工智能生成的内容，因为这些公司比个人用户更有能力实施检测算法。

此外用户也需要带着更加怀疑地态度来评估视觉信息，在分享图片之前辨别一下它是否是虚假的、人工智能生成的甚至有害的。AbdAlmageed 说 “作为人类，我们从小就认为眼见为实，这已经不是真的了，眼见不一定为实。”

Via：giphy

1. AI-generated images of Trump being arrested circulate on social media. (2023b, March 21). AP NEWS. https://apnews.com/article/fact-check-trump-NYPD-stormy-daniels-539393517762

2. Edwards, B. (2023, March 16). AI-imager Midjourney v5 stuns with photorealistic images—and 5-fingered hands. Ars Technica. https://arstechnica.com/information-technology/2023/03/ai-imager-midjourney-v5-stuns-with-photorealistic-images-and-5-fingered-hands/

3. Marcus, G. (2022, December 19). AI Platforms like ChatGPT Are Easy to Use but Also Potentially Dangerous. Scientific American. https://www.scientificamerican.com/article/ai-platforms-like-chatgpt-are-easy-to-use-but-also-potentially-dangerous/

4. Hill, K., & White, J. (2020, December 28). Do These A.I.-Created Fake People Look Real to You? The New York Times. https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html

5. Nightingale, S. J., & Farid, H. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. Proceedings of the National Academy of Sciences of the United States of America, 119(8). https://doi.org/10.1073/pnas.2120481119

6. Stokel-Walker, C. (2023, March 27). We Spoke To The Guy Behind The Viral AI Image Of The Pope. BuzzFeed News. https://www.buzzfeednews.com/article/chrisstokelwalker/pope-puffy-jacket-ai-midjourney-image-creator-interview

7. Artificial Intelligence. (n.d.). Scientific American. https://www.scientificamerican.com/artificial-intelligence/

8. AI Image Detector - a Hugging Face Space by umm-maybe. (n.d.). https://huggingface.co/spaces/umm-maybe/AI-image-detector