《无伪造法案》:是对人工智能深度伪造技术的保护还是对互联网自由的威胁? - AI News
《无伪造法案》:是对人工智能深度伪造技术的保护还是对互联网自由的威胁?

《无伪造法案》:是对人工智能深度伪造技术的保护还是对互联网自由的威胁?

2025-06-25

新闻要点

修订后的 NO FAKES 法案引发争议,从保护深伪转向可能威胁互联网自由。原本旨在防止未经授权数字复制的法案,如今大幅扩张,引发科技界担忧。它或改变互联网运作,影响创新,还可能造成过度审查。

- NO FAKES 法案从保护转向威胁互联网自由

- 法案扩张引发科技界对过度审查的担忧

- 法案或影响 AI 创新,小公司面临困境

- 强制过滤系统可能导致过度审查

主要内容

批评者担心修订后的《反虚假法案》已从针对人工智能深度伪造的保护演变为全面的审查权力。数字权利倡导者称,最初看似合理的应对人工智能生成深度伪造的尝试已滚雪球般演变成更令人担忧的情况。备受讨论的《培育原创、培育艺术和保护娱乐安全(反虚假)法案》——原本旨在防止未经授权的人物数字复制品——如今有可能从根本上改变互联网的运作方式。该法案的扩张在整个科技界敲响了警钟。它已远远超出仅保护名人免受虚假视频的影响,可能创建一个全面的审查框架。

从合理的保障措施到大棒式做法
最初的想法并非完全错误:创建针对未经授权生成真人虚假视频的人工智能系统的保护措施。我们都在网上看到过那些令人不安的深度伪造。但立法者选择了电子前沿基金会所称的“联邦化图像许可系统”,而非制定狭隘、有针对性的措施,这远远超出了合理的保护范围。“更新后的法案强化了最初的错误做法,”电子前沿基金会指出,“通过为该系统规定一个全新的审查基础设施,不仅涵盖图像,还涵盖用于创建它们的产品和服务。”

尤其令人担忧的是,《反虚假法案》要求几乎每个互联网平台都实施这样的系统,不仅在收到下架通知后删除内容,还防止类似内容再次上传。本质上,它迫使平台部署在其他情况下已被证明不可靠的内容过滤器。

创新受阻
对于人工智能领域来说,也许最令人担忧的是《反虚假法案》针对工具本身。修订后的法案不仅会打击有害内容,还可能关闭可用于创建未经授权图像的整个开发平台和软件工具。这种做法让人想起因有人可能使用文字处理器撰写诽谤性内容而试图禁止它。该法案包括一些限制(例如,工具必须“主要设计”用于制作未经授权的复制品或有有限的其他商业用途),但这些区别难以解释。在人工智能图像生成领域冒险的英国小型初创企业可能会在有机会立足之前,就因站不住脚的指控而陷入昂贵的法律诉讼。与此同时,拥有大量律师的科技巨头更能应对此类风暴,可能会巩固其主导地位。

任何人都知道处理 YouTube 的 ContentID 系统或类似版权过滤工具是多么令人沮丧地不准确。这些系统经常误标记合法内容,如音乐家表演自己的歌曲或创作者在合理使用规定下使用材料。《反虚假法案》将有效地在整个互联网上强制实施类似的过滤系统。虽然它包括对模仿、讽刺和评论的例外,但通过算法执行这些区别几乎是不可能的。“这些系统经常标记相似但不同的东西,”电子前沿基金会解释说,“就像两个人演奏同一首公共领域的音乐。”对于没有谷歌规模资源的小型平台来说,实施这样的过滤器可能成本过高。可能的结果是,许多平台会过度审查以避免法律风险。事实上,人们可能会期望大型科技公司反对如此全面的监管。然而,许多公司一直保持沉默。一些行业观察人士认为这并非巧合——老牌巨头更能轻松吸收会压垮较小竞争对手的合规成本。