主要内容
周五，Epic Games 宣布达斯·维达将以游戏内 boss 的身份重返《堡垒之夜》，但这次玩家可以通过对话式 AI 与他聊天。Epic 在公告中称：“向他询问关于原力、银河帝国的所有紧迫问题……或者，你知道的，最后一个风暴圈的好策略。”不幸的是，玩家另有打算。维达出现在《堡垒之夜》仅数小时后，玩家就开始发布 AI 维达失控的片段。在一个发布到 X 上的片段中，主播“Loserfruit”说：“那他妈的是什么食物，达斯·维达？告诉我。”维达回复道：“他妈的？呸！这种粗俗的话不适合你。”（Epic Games 的发言人 Cat McCormack 告诉《连线》杂志，游戏内发生这种情况后 30 分钟内就推送了热修复，所以这种情况不会再发生。）后来，在关于可能的浪漫伴侣的对话中，“Loserfruit”促使维达回复：“你在说胸部，Loserfruit？我相信你指的是装甲胸甲。”在另一个主播的片段中，可以听到维达在谈论致癌物，然后说了一个通常用于辱骂同性恋男性的脏话，也可以用作香烟的俚语。主播可以听到尖叫“他说了！他说了！”，然后高兴地跑开了。这个 AI 由 Google Gemini 2.0 制作，使用 ElevenLabs 的 Flash v2.5 编程，听起来像为这个标志性角色配音的已故詹姆斯·厄尔·琼斯。除了 Google 的安全设置，Epic 表示还添加了自己的指令，以防止有害或违反游戏社区规则的互动。玩家可以像报告其他语音聊天一样，报告达斯·维达的不当评论。Epic 告诉《连线》杂志，它添加了特定规则和指令，以避免说脏话或重复脏话，以及针对游戏内 AI 使用的家长控制。谈到维达使用脏话，McCormack 说：“我们的过滤器没有捕捉到一个特定的脏话变体。当这种情况发生时，我们会进行调整，以避免未来出现类似的回复。”如果玩家继续试图让达斯·维达违反 Epic Games 的设置和指令，他将离开他们的队伍。他们将无法在该游戏会话中再次招募他。McCormack 说：“这些安全设置和限制已经过 Epic 员工和外部专家的严格测试。我们将调查报告，并在需要时进行调整，以避免未来出现类似的回复。”《堡垒之夜》是数百万玩家的数字游乐场，其中许多是年轻人。人们会立即试图让迪士尼拥有的达斯·维达说一些冒犯性的话并不令人惊讶。但玩家能够如此迅速地做到这一点，表明生成式 AI 仍未完全准备好在主要游戏平台上释放。在周五流传的一些案例中，维达所说内容的阴险背景可能对 AI 来说太微妙而无法检测到。例如另一个片段，维达将西班牙语贬低为“走私者和香料商人的有用语言。其战略价值微乎其微。”或者另一个片段，玩家促使维达给出白色、棕色和黄色的“等级列表”。卢卡斯影业未立即回应置评请求。周五，《堡垒之夜》并非唯一引发争议的事件。当天早些时候，Epic 宣布“苹果已阻止我们的《堡垒之夜》提交，因此我们无法向美国 App Store 或欧盟的 Epic Games Store for iOS 发布。”Epic 和苹果在《堡垒之夜》问题上一直来回交锋。苹果通常会对应用内购买收取佣金；Epic 更新其应用以链接到其网站并避免费用后，《堡垒之夜》被从 App Store 中删除。上周，在法官裁定苹果不能对应用外购买的东西收取佣金后，Epic 重新向美国 App Store 提交了该游戏。当《连线》杂志联系苹果置评时，苹果……