一眼假的AI图片，但我爸妈全信了。
9月26日飓风「海伦妮」从佛罗里达州登陆美国，袭击美国南部多州多地，至今已造成超过230人死亡，「海伦妮」也已经成为2005年「卡特里娜」飓风以来，导致美国本土死亡人数最多的飓风。
与此同时，一张AI生成的照片，也在社交媒体上掀起轩然大波，甚至在下个月选举来临之前，引发了两党的「红蓝对决」。
到底是什么图片，能比飓风带来的影响更严重？
01
飓风营救 or
非洲秃鹫
共和党全国委员会的委员、Women for Trump 的联合创始人 Amy Kremer 发在 X 上推文「这张照片深入脑海，令我心痛」，配图是一个楚楚可怜的小女孩，身着救生衣，在救生艇上眼中含泪抱着一只小狗。
这类聚焦在单一受害者，无辜的女童不得不躲避灾祸的照片，都非常容易调动起人们的同情心，就像那张《饥饿的苏丹》，瘦骨嶙峋的小女孩背后是一只紧盯着她的秃鹰，越战中躲避燃烧弹的《凝固汽油弹女孩》激起过无数年轻人的反战情绪，那张学习中的「大眼女孩」也让希望工程深入人心。因此这张「飓风中紧抱小狗的女孩」照片也在社交媒体上被大量转发。
但在情绪过后仔细再看，小女孩的手臂和腿部极度光滑且和肤色不符，头发也呈现非常奇怪的纹理，大拇指骨节也呈现怪状凸起。没错，这张照片是一张 AI 生成的图片。
这张 AI 痕迹更浓了，但不妨碍收获百万级观看量｜图片来源：X
在被评论区的人指出「假图」之后，Kremer 直接发文开怼称「是啊，我是不知道这张照片是从哪来的，说老实话，哪儿来的无所谓。它已经永远烙印在我的脑海中了，有些人比这张照片所显示的经历还要糟糕得多。它象征着人们现在正在经历的创伤和痛苦。」换言之，她知道这张图片是假的，但她不在乎，因为她的目的不在于同情这位「AI 女孩」，而是攻击执政党应对「海伦妮」飓风的失责。
因为类似的 AI 照片也被极右翼政客 Laura Loomer、共和党 KOL 及特朗普支持者 Buzz Patterson 和 Juanita Broaddrick 转发，配文则是「我们的政府又让我们失望了」或「执政者抛弃了他们」。这些推文的传播量均已上百万。
传播只为甩锅｜图片来源：X
AI 假图片已经成了党派之间相互掣肘的政治工具，伴随着这张照片一同传播的还有各种阴谋论和假新闻，诸如「联邦紧急事务管理局正在准备把灾民财产充公」「当局在控制共和党支持州（飓风受灾州多为支持共和党的（红州）天气」。
相应的，Facebook上也流传着特朗普冒着洪水帮助居民的图片，当然也是AI合成的。该帖子在两天内被分享了超过16万次。
图片来源：PolitiFact
特朗普本人也在前不久泰勒·斯威夫特公开表态支持民主党总统候选人哈里斯后，在自己的 X 上发布了「Swifties for Trump」（支持特朗普的泰勒粉丝），附上的图片全是AI生成的假图。
这张图加配文「亲手制作，谢谢大家的喜欢」在 Facebook 上收获了 87 万点赞，3.5 万的评论，然而它是AI生成的一张假图片。
而喂给 AI 的原图，则是一个木雕艺术家 Michael Jones 和他创作真实存在的木雕狗，Jones的原帖只获得了1063个赞，110条评论，与AI假帖相去甚远。
同时，在 Facebook 上还流传着不同种族、性别、狗的品种的类似图片，它们的来源都是 Jones 的这张图，这意味着任何人都可以每小时用 AI 创造上百张以假乱真的图像，然后在社交平台上随即发布，总有几条能斩获不错的流量和曝光。其中，Facebook 是重灾区。
去年底，科技网站 404 Media 的记者就发现，Meta 旗下的 Facebook 上明显是 AI 生成内容的帖子数量激增，同时也扩散到 Meta 旗下的 Threads。
一眼AI但能收获大量流量｜图片来源：404
骗流量之外，AI 假图片还想骗钱，比如就像上面显示的木雕狗，可能帖子里就会附赠「购买同款木制品」的链接，实际上并不存在这些产品，又或者会把观众引流到其他广告网站，像上面最火的木雕狗帖，点开评论区就发现置顶了一条宠物用品的销售链接。
更吊诡之处在于，许多照片可能正是用 Meta AI 所生成，Meta AI 的目的之一就是让照片以假乱真，然而这些照片骗过了自己的用户，矛盾至此转换成了流量的循环。
AI 生成垃圾内容影响的不仅是「老龄化」的 Facebook，就连曾经以高质量文本内容出名的「美版知乎」Quora，都不得不面对 AI 生成内容去稀释社区内容质量的现状。
更糟糕之处也在于，现在许多 AI 生成图片正在和现实牢牢捆绑在一起，就比如海伦妮飓风尚未平息，但在 AI 假图被识破后，每个用户都会质疑每一张照片的真实性，哪怕它是基于现实的实拍照片，在经过大量假内容稀释后，都要面临「真假美猴王」自证清白的窘境。
巴以冲突、美国大选、巴西洪水、海伦妮飓风……这些现实生活中真实发生的天灾人祸，在碎片化、简介信息、图文为主且注重高度时效性的内容社区来上，战地记者的实拍图收到的浏览量可能远比不过 AI 生成的假图片。
而这些内容往往都针对毫无戒心的老年人，他们基于同情心，贡献了自己的点赞和转发，不知不觉中却成了算法的帮凶。而这些 AI 的养料则是基于原创但不被看见的艺术家。
而作为具有重要责任的社交平台，例如 Meta，则陷入了 AI 的自我「矛盾之战」：用户使用 Meta 的 AI 工具生产出虚假信息和垃圾信息，将其发布到 Meta 平台，而 Meta 的 AI 团队则需要通过技术鉴别到底哪些是真实图片，哪些是 AI 生成的。
其中的讽刺耐人寻味——AI 生成技术团队越进步，审核和鉴别团队就越难做。
在垃圾信息已经充斥互联网的当下，AI 生成工具的诞生，无疑再次为网络垃圾化的进行提供了加速度。如果无法解决这个挑战，被「困在系统中」的不仅仅是用户，后者平台，而是所有人。
