旧金山命令Meta停止“允许”AI儿童虐待广告

旧金山城市检察官已向Meta发出停止和终止函，要求该公司停止“允许”含AI生成儿童性虐待内容的付费广告，并解释这些广告为何在平台上反复出现。

WIRED报道，Meta近几个月投放了超350个此类广告，将未成年人静态图像（部分为真实个体，包括欧洲王室成员）转化为描绘其性行为的短视频。点击后会引导用户下载AI图像和视频生成应用，部分应用可用于数字脱衣或制作非自愿亲密图像。这些广告由Tech Transparency Project（TTP）研究人员发现，含重复上传内容，覆盖欧盟2.9万多个账户，还针对美、澳、印用户。8月初WIRED首次报道53个广告后，Meta仍有超250个广告继续投放。

“Meta对已知的AI生成儿童性虐待广告问题未采取措施，反而从中获利，”旧金山城市检察官David Chiu在声明中表示，“这些广告令人不安，对真实儿童造成伤害。Meta声称对儿童剥削零容忍，但问题的规模和持续性表明现有措施严重不足。”

Chiu在致Meta律师的四页信中质问广告政策和安全系统漏洞，要求法律、儿童安全和广告部门与市办公室“立即讨论”。Meta称广告未在旧金山显示，或不属其管辖范围，但市检察官回应称旧金山消费者可通过Meta平台访问，应属管辖。Meta已删除所有广告，总花费不足5000美元，称不允许此类应用存在。