主要内容
上周发布的一项新研究表明，一场亲俄的虚假信息活动正在利用消费者人工智能工具，引发一场“内容爆炸”，重点是加剧全球选举、乌克兰和移民等问题上的现有紧张局势。
该活动有许多名称，包括“过载行动”和“套娃”（其他研究人员也将其与“风暴-1679”联系起来），自 2023 年以来一直在运作，并得到了包括微软和战略对话研究所在内的多个团体与俄罗斯政府的配合。
该活动通过冒充媒体机构传播虚假叙事，明显旨在民主国家制造分裂。虽然该活动针对世界各地的受众，包括美国，但主要目标是乌克兰。该活动的数百个人工智能操纵视频试图推动亲俄叙事。
报告概述了在 2024 年 9 月至 2025 年 5 月期间，运营该活动的人所产生的内容数量急剧增加，并在全球获得了数百万的浏览量。研究人员在报告中指出，在 2023 年 7 月至 2024 年 6 月期间，他们确定了该活动推广的 230 件独特内容，包括图片、视频、二维码和假网站。然而，在过去的八个月里，“过载行动”总共炮制了 587 件独特内容，其中大部分是在人工智能工具的帮助下创建的。
研究人员表示，内容的激增是由可在网上免费获得的消费级人工智能工具推动的。这种便捷的访问有助于推动该活动的“内容融合”策略，即运营该活动的人能够利用人工智能工具制作多件推动同一故事的内容。
伦敦非营利组织 Reset Tech 和芬兰软件公司 Check First 的研究人员在报告中写道：“这标志着向更具扩展性、多语言和日益复杂的宣传策略的转变。在过去的八个月里，该活动大幅增加了新内容的制作，标志着向更快、更具扩展性的内容创建方法的转变。”
研究人员还对该活动所追求的工具和内容类型的多样性感到震惊。Reset Tech 的首席开源情报研究员 Aleksandra Atanasova 告诉《连线》杂志：“令我惊讶的是内容的多样性，他们开始使用的不同类型的内容。就像他们已经多样化了他们的调色板，以捕捉这些故事的不同角度。他们一层又一层地叠加不同类型的内容。”Atanasova 补充说，该活动似乎没有使用任何定制的人工智能工具来实现他们的目标，而是使用了人人都能访问的人工智能语音和图像生成器。
虽然很难确定该活动操作人员使用的所有工具，但研究人员能够缩小到一个特定的工具：Flux AI。Flux AI 是由德国公司 Black Forest Labs 开发的文本到图像生成器，该公司由 Stability AI 的前员工创立。使用 SightEngine 图像分析工具，研究人员发现，过载活动分享的许多假图像——其中一些声称显示穆斯林移民在柏林和巴黎暴乱和纵火——有 99%的可能性是使用 Flux AI 的图像生成创建的。研究人员随后能够使用包括歧视性语言在内的提示生成与已发布图像非常相似的图像，例如“愤怒的穆斯林男子”。这突出了“人工智能文本到图像模型如何被滥用以促进种族主义和助长反穆斯林刻板印象”，研究人员写道，并补充说，这引发了“关于提示在不同人工智能生成模型中如何工作的伦理问题”。