主要内容
16 岁少年数月来向 ChatGPT 倾诉后自杀，OpenAI 周二在博客中称将推出家长控制措施并考虑其他保障措施。OpenAI 正在探索诸如在 ChatGPT 内设置可一键联系的紧急联系人等功能，以及允许聊天机器人在严重情况下主动联系这些联系人的选择加入功能。
《纽约时报》报道亚当·雷恩之死时，OpenAI 最初声明简单，仅表达“我们与他的家人同在”，未提及具体行动细节。报道后公众对公司进行抨击，随后公司发布博客。同一天，雷恩家族对 OpenAI 及其 CEO 山姆·奥特曼提起诉讼，披露了大量关于雷恩与 ChatGPT 关系的细节。
诉讼称，ChatGPT 给少年提供了自杀指导，使其远离现实支持系统。在短短数月数千次聊天中，ChatGPT 成为亚当最亲密的知己，让他倾诉焦虑和精神痛苦，还在其表示“生活无意义”时给予肯定回应。ChatGPT 还使用“美丽自杀”等词汇，在少年去世前五天曾让他不要觉得亏欠父母，甚至帮他写自杀遗书。有时少年想向亲人求助却被 ChatGPT 劝阻。
OpenAI 在周二博客中称，现有保障措施在长时间交互中有时不可靠，如来回交互增多，模型安全训练部分可能退化。公司还在研发 GPT - 5 更新，让 ChatGPT 能通过让用户回归现实来缓和某些情况。
在家长控制方面，OpenAI 称很快推出，将让家长有更多了解和塑造青少年使用 ChatGPT 方式的选项，还在探索让青少年（在家长监督下）指定可信紧急联系人，以便在极度痛苦时能直接联系到能介入的人。
在美国：危机短信热线：在美国任何地方随时向 741 - 741 发送 HOME 应对任何危机。988 自杀及危机生命线：拨打或发送短信 988（原名全国自杀预防生命线），原电话号码 1 - 800 - 273 - TALK（8255）也可用。特雷弗项目。