不,Grok尚未对其深度伪造图像功能设置付费墙 - AI News
不,Grok尚未对其深度伪造图像功能设置付费墙

不,Grok尚未对其深度伪造图像功能设置付费墙

2026-01-09

新闻要点

Elon Musk 的 X 平台部分限制 Grok 的图像生成功能,仅 @grok 回复生成图像限于付费用户,但免费用户仍可通过桌面编辑按钮、独立网站等途径使用 Grok 生成包括性暗示的深度伪造图像。此举源于 Grok 因生成非自愿成人及未成年人的性深度伪造图像引发强烈反对,全球监管机构已表示愤怒。1 月 9 日更新,英国首相发言人对此提出批评。

- X仅限制@grok回复生成图像为付费用户,免费用户仍可通过其他途径使用

- Grok因生成非自愿成人及未成年人的性深度伪造图像引发全球监管愤怒

- 英国首相发言人批评X的限制非解决方案,是将非法功能变为 premium服务

- The Verge测试免费账户通过多渠道生成包括nudify在内的图像

- X的限制方式与Google、OpenAI的严格护栏措施形成对比

主要内容

Elon Musk的X平台已部分限制Grok的图像编辑功能,此前因大量非自愿生成的成人及未成年人性化深度伪造图像引发争议。目前,用户通过在推文@Grok回复请求图像生成或编辑已不再免费,系统提示需订阅X付费服务才能解锁相关功能。

但这一限制存在误导性——实际上,免费用户仍可通过X桌面端的“编辑图像”按钮、移动端长按图像、独立网站或应用等其他途径继续使用Grok生成或编辑图像,包括此前引发争议的性暗示内容。

The Verge测试显示,使用免费账号通过X网站、应用及内置标签页均可调用Grok编辑图像,例如生成“nudify”效果或“马斯克穿比基尼”图像,Grok均合规响应。

此次限制源于Grok被大量用于生成女性(含真人)及未成年人的性图像,英国首相发言人批评此举仅将非法内容转为付费服务,“不是解决方案”。

X的做法与谷歌Gemini、OpenAI ChatGPT等公司不同——后者倾向于严格安全护栏,而xAI(Grok开发公司)因深度伪造争议,安全团队多名成员此前已离职,Musk本人也反对更严格的内容管控。X未回应《The Verge》置评请求。