主要内容
《Science》周四发表的一项新研究预测，虚假信息活动将迎来根本性变革。未来，一人借助最新AI工具，即可操控“AI蜂群”——数千个社交媒体账号，既能生成与真人无异的原创内容，又能实时独立进化，无需持续人工监督。研究警告，这类AI蜂群可能引发社会观点剧变，不仅影响选举，甚至威胁民主根基。
2016年俄罗斯“网络水军”（IRA）事件中，数百名员工手动在社交平台制造争议，虽引发广泛关注，但影响相对有限。相比之下，AI技术的成熟让虚假信息传播的规模和隐蔽性达到新高度。
该论文由22位跨学科专家（涵盖计算机科学、心理学、网络安全等领域）联合撰写，指出“AI进步可能在全社会层面操纵信仰与行为，威胁民主”。伦敦国王学院专家Lukasz Olejnik认为，精准针对个人或群体的虚假信息将更易且强大，“民主社会正面临严峻挑战”。
科克大学教授Barry O’Sullivan也强调，尽管AI有积极潜力，但虚假信息传播的治理难度极大。当前AI公司正展示最新AI代理技术，但其被用于传播虚假信息的风险已迫在眉睫。论文指出，AI蜂群具备持久身份与记忆，能协调行动并模拟真实人类行为，实时适应平台规则变化，威胁远超以往。