主要内容
Meta 正在起诉一家在其社交媒体平台上宣传生成式 AI 应用的公司，这些应用能让用户在未经他人同意的情况下“nudify”他人。上周，哥伦比亚广播公司（CBS）的一项调查在 Meta 的 Facebook、Messenger、Instagram 和 Threads 平台上发现了数百个数字脱衣应用的广告，之后便对 Joy Timeline 提起了诉讼。Meta 表示：“这一法律行动既强调了我们对这种滥用行为的严肃态度，也体现了我们保护社区免受其害的决心。我们将继续采取必要措施——包括法律行动——来打击此类滥用我们平台的行为。”Meta 的诉讼特别旨在阻止总部位于香港的 Joy Timeline 在其社交媒体平台上列出 CrushAI nudify 应用的广告，此前该公司已“多次尝试……绕过 Meta 的广告审核流程”。这一法律行动紧随 CBS 最近发表的一项调查之后，该调查发现 Meta 平台上有数百个 nudify 应用的广告。Meta 当时告诉 CBS，此后已删除了一些此类广告，删除了运行这些广告的账户，并屏蔽了与裸体深度伪造应用相关的 URL，但表示随着剥削性生成式 AI 应用找到新的规避检测方法，执行其政策变得越来越困难。CBS 的报告称，在 Meta 删除了已被调查标记的应用的广告后，仍可在 Instagram 上找到 AI 深度伪造裸体工具的广告。CBS 发现的许多广告针对的是 18 至 65 岁之间的美国、英国和欧盟男性。除了违反 Meta 的平台安全和审核政策外，未经他人同意数字“脱衣”他人的应用——绝大多数广告用于针对女性和女名人——正在导致敲诈和“性勒索”计划的增加，并经常落入儿童手中。2024 年 4 月，404 媒体在发现 Instagram 上宣传的用于创建非自愿 AI 深度伪造的工具后发表了类似的调查，苹果和谷歌随后在其各自的应用市场中删除了被该报告标记的应用。2024 年 8 月，旧金山对 16 个最常访问的 AI“脱衣”深度伪造网站提起了自己的诉讼。