AI年代，目睹还为实吗

  在AI时代，“眼见为实”这句流传千年的古训，正在遭受前所未有的挑战。视频电话那头，出差在外的“伴侣”焦急地索要转账；班级群里，“班主任”用了解的声响发布紧迫缴费通知……现在，在人工智能（AI）的加持下，普通人也能在几分钟内生成足以以假乱真的内容。AI学会了模仿人的笔迹、复刻人的声响、合成人的面容，这类技能一旦被歹意使用，会令人“眼睁睁”地被骗。这不禁让人怀疑，AI年代，目睹还为实吗？

  AI造假侵入公共回忆

  近期，一段“以色列士兵躲在墙后痛哭”的视频在交际媒体渠道X上广泛传达。发布者称以军在伊朗火箭弹和无人机突击下遭受重创，该视频播放量敏捷打破160万。德国电视二台调查发现，该视频系典型的AI生成产品。视频中士兵佩带的徽章时隐时现，上面的文字更是一串毫无意义的乱码。多名网友也指出，视频中制服样式、哭声响效和枪械细节都与真实场景存在明显偏差。

  生成式东西进入新闻报导流程后，专业新闻组织的把关机制同样面临考验。2月，德国电视二台紧迫召回并解职了该组织一名驻纽约记者，因为其发回的一则关于美国移民与海关执法局执法举动的报导中，混入了一段由视频生成模型Sora生成的虚伪视频，画面旮旯清晰可见Sora水印。事情发生后，德国电视二台宣布为员工开设强制性训练课程，规范AI东西在新闻报导中的使用。“无视新闻原则造成的危害是巨大的。这关乎报导的公信力。”德国电视二台总编辑贝蒂娜·绍斯滕说。

  AI造假甚至侵入前史回忆。今年年初，达豪、布痕瓦尔德等约30家德国集中营纪念组织和博物馆联合签署一封公开信，敦促交际媒体渠道严厉打击使用AI生成大屠杀相关内容的行为。德国前史学家伊丽丝·格罗舍克说，使用AI生成的图画和视频看起来像极了前史相片——是非底色，瘦骨嶙峋的人，铁丝网后呼号的孩子……但仔细看就会发现反常，这类图画和视频中的人长相相似，身高相仿，并且都十分漂亮。

  “AI让纳粹受害者变得更年轻漂亮，这种美化扭曲了前史，却使用大众同情心取得广泛传达。”格罗舍克说，这类假造的帖子会削弱纪念馆、档案馆、博物馆和研究组织作业的权威性，危害它们的公信力。

  操作制造“社会一致”

  比假造内容更危险的，是AI能够假造“大都人的意见”。一个世界团队近期在美国《科学》杂志“方针论坛”栏目发表文章说，数字控制正进入新阶段。分布虚伪信息的不再仅仅单个账号，而是伪装成真实用户的AI集群。这类集群能够互相互动、回应真人、习惯情绪改变，并在不断相互附和和强化中制造出一种并不存在的“社会一致”。

  德国康斯坦茨大学研究人员达维德·加西亚解说说，这类AI集群由一组可被个人或组织控制的AI智能体构成。它们拥有相对稳定的身份和回忆，能够模拟人类行为，既能够围绕特定目标协同举动，也能够依据实时事情和用户反应调整表达方式。这类AI集群与前期的僵尸网络有着显著差异，后者一般行为机械，较简单辨认；而前者能够跨渠道运行，并通过互相呼应不断扩大影响。

  加西亚以为，真正的危险将不再局限于单个虚伪信息，而是“操作者”或许凭借大模型虚拟出“另一种社会”。他说：“AI集群能够通过缓慢而继续的进程，制造某种态度已获广泛支撑的假象，进而影响人们的观念甚至改变社会规范。当许多看似互相独立的声响不断表达相同态度时，大都派的错觉就会形成，即便这种大都原本并不存在。”

  从被动驳斥谣言到自动辨认

  面临这种能够假造“社会一致”的新威胁，研究人员和组织现已开始举动，使用技能手段予以辨认，并通过健全监督机制，及时辨别和揭穿虚伪信息和内容。

  加西亚以为，应使用模式辨认等技能手段，检测内容传达中是否存在反常同步、相互呼应和跨渠道联动，以更快发现由AI驱动的群体性操作。

  除了技能辨认，研究人员还主张建立独立监督机制，继续观察AI智能体如安在不同渠道上影响公共讨论，及时揭穿虚伪内容。加西亚说，这类网络越早被揭穿出来，就越难腐蚀大众信赖，也越难把原本多样的社会意见伪装成单一一致。

  德国人工智能研究中心（DFKI）和莱茵兰－普法尔茨州政治教育中心等组织日前推出尚处于测验阶段的深度防伪检测东西，以进步大众对可疑内容的辨认才能。与仅依靠像素反常辨认假造痕迹的传统办法不同，该东西不只会对图画和音频进行取证剖析，还会结合上下文打开穿插核验。后台的AI智能领会并行检索网络信息，并调用通过核实的现实资源库辅助判别，包含德新社现实核对团队提供的数据。

  DFKI在新闻公报中说，用户只需点击两下，就能将交际媒体上的可疑图片转发给检测体系，体系随后会剖析相关资料是否由AI生成或通过篡改，并向用户反应其为虚伪内容的或许性以及相应线索。

  莱茵兰－普法尔茨州政治教育中心主任伯恩哈德·库卡茨基说，虚伪信息已成为当前信息传达中的杰出问题，公民每天都或许接触到被操作的内容，因而辨别和核验信息的才能尤为重要。真正的“实”，不再仅仅是我们看到了什么，而是我们如何通过多维度的验证，去无限接近那个无法被轻易伪造的真相。