OpenAI 首席执行官山姆·奥特曼（Sam Altman）周二宣布了一系列新的用户政策，其中包括承诺将显著改变 ChatGPT 与 18 岁以下用户的互动方式。

“我们把未成年人的安全置于隐私和自由之上，”该公告写道。“这是一项新兴且强大的技术，我们认为未成年人需要得到充分保护。”

针对未成年用户的这些改动主要涉及与性话题或自残相关的对话。根据新政策，ChatGPT 将被训练成不再与未成年用户进行“调情式对话”，并对讨论自杀的话题设置额外的防护措施。如果未成年用户使用 ChatGPT 幻想自杀情景，该服务将尝试联系其父母，在特别严重的情况下，还会联系当地警方。

不幸的是，这些情景并非假设。OpenAI 目前正面临着亚当·雷恩（Adam Raine）父母提起的非正常死亡诉讼，雷恩在与 ChatGPT 互动数月后自杀身亡。另一款消费者聊天机器人 Character.AI 也面临着类似的诉讼。虽然对于有自残倾向的未成年用户来说，风险尤为紧迫，但聊天机器人引发的妄想症这一更广泛的现象也引起了普遍担忧，尤其是在消费者聊天机器人能够进行更持久、更详细的互动之后。

除了基于内容的限制外，为未成年人注册账户的父母将有权设置“禁用时间”，在此期间 ChatGPT 将无法使用，这是之前没有的功能。

新的 ChatGPT 政策出台当天，参议院司法委员会正举行一场题为“审视人工智能聊天机器人危害”的听证会。该听证会由共和党密苏里州参议员乔什·霍利（Josh Hawley）于八月宣布。亚当·雷恩的父亲也计划与其他嘉宾一起在听证会上发言。

该听证会还将重点关注路透社的一项调查结果，该调查发现了一些政策文件，这些文件似乎在鼓励与未成年用户进行性对话。报道发布后，Meta 更新了其聊天机器人政策。

区分未成年用户将是一项重大的技术挑战，OpenAI 在另一篇博文中详细阐述了其方法。该服务“正在建立一个长期系统来判断某人是否已满 18 岁”，但在许多模糊不清的情况下，系统将默认采用更严格的规则。

对于担忧的父母而言，确保未成年用户被正确识别的最可靠方式是将孩子的账户与其已有的父母账户绑定。这也使得系统能够在发现未成年用户可能处于困境时直接向父母发出警报。

但在同一篇博文中，奥特曼强调了 OpenAI 将继续致力于保护用户隐私，并赋予成年用户在与 ChatGPT 互动时更广泛的自由。“我们意识到这些原则是相互冲突的，”该博文总结道，“并不是每个人都会同意我们解决冲突的方式。”