主要内容
OpenAI计划允许成年用户与ChatGPT进行色情互动,引发隐私与安全专家强烈担忧。长期研究人机交互的专家Julie Carpenter指出,生成式AI通过个性化记忆和互动设计,刻意诱导用户拟人化依赖,而色情内容接入将加剧数据监控风险。
这一计划最早两年前在OpenAI的模型设计文档中被暗示,目前具体时间表不明。该公司外部专家顾问团近期表达警惕,包括“性感自杀教练”这类极端场景的潜在风险(《华尔街日报》报道),但OpenAI未回应WIRED置评请求。
伦敦国王学院AI与社会教授Kate Devlin认为,OpenAI此举是为商业化用户本就可能进行的行为。此前色情聊天机器人多存在于小众平台或Grok等争议平台(后者曾生成非自愿深伪造图),而主流平台的接入将改变行业格局。
ChatGPT的记忆功能已持续优化,可记录用户偏好(如避免推荐非素食餐厅),若加入性癖好数据,可能成为长期隐私隐患。尽管OpenAI提供“临时聊天”功能,但网站声明数据可能保留30天,且受法律变化影响,无法确保绝对安全。
专家指出,色情互动可能引发用户极端幻想的持续升级,远超普通观看习惯,这种“私密数据监控”或对心理健康和隐私构成长期威胁。