主要内容
Anthropic 已回应关于其在与音乐出版商的法律纠纷中使用 AI 伪造来源的指控，称其 Claude 聊天机器人犯了“诚实的引用错误”。4 月 30 日，Anthropic 数据科学家 Olivia Chen 提交的一份文件中包含了一个错误引用，这是该 AI 公司针对使用受版权保护的歌词来训练 Claude 的指控进行辩护的一部分。代表环球音乐集团、ABKCO 和 Concord 的一名律师在听证会上表示，Chen 文件中引用的来源是“完全捏造的”，并暗示这是 Anthropic 的 AI 工具产生的幻觉。Anthropic 辩护律师 Ivana Dukanovic 在周四提交的一份回应中表示，受到审查的来源是真实的，并且 Claude 确实在文件中用于格式化法律引用。虽然聊天机器人生成的错误卷号和页码被“手动引用检查”发现并纠正，但 Anthropic 承认措辞错误未被发现。Dukanovic 说：“不幸的是，尽管提供了正确的出版物标题、出版年份和提供来源的链接，但返回的引用包含了不准确的标题和错误的作者”，并且该错误不是“伪造权威”。该公司为引用错误导致的不准确和混乱道歉，称其为“一个令人尴尬且无意的错误”。这是使用 AI 工具进行法律引用在法庭上引发问题的众多案例之一。上周，一名加利福尼亚法官斥责了两家律师事务所，因为它们未能披露使用 AI 创建了一份充满“虚假”材料的补充简报，这些材料“并不存在”。一名错误信息专家在 12 月承认，ChatGPT 在他提交的一份法律文件中产生了幻觉引用。