我们和聊天机器人说话时，仿佛那些对话是私密的。但真是这样吗？

大多数人对聊天隐私一无所知

大多数人是糊涂的。DuckDuckGo委托进行、于8月发布的一项调查访问了1944名美国成年人，询问聊天机器人的隐私问题，超过一半（53%）的人不知道自己的对话是否被用于训练机器人。（事实上是被用了。）

只有四分之一的受访者知道聊天机器人的对话可能被法院传票调取。（确实可以。）

在自称AI爱好者的人群中，56%的人表示，他们曾向聊天机器人倾诉过一些从未告诉密友、父母、同事、医生或心理治疗师的事情。

Character.AI破产，用户数据或被一并出售

在Character.AI上尤其如此。这是一个聊天机器人服务，用户可以与之聊天，并与可定制的角色建立"关系"，包括自己创建并与社区分享的角色。在Character.AI上，一些用户会谈论自杀和自残的念头，并交出心理健康披露、年龄、私聊记录和语音通话、内心深处的恐惧以及人际关系困境等私密细节。

Character.AI原本只是好玩，直到本月早些时候，该公司申请破产，并启动了法院监督下的资产出售程序。

没有人知道这家公司最终会落到谁手里，也不知道其数百万账户持有人的数据会有多少被一并出售。

该公司待售资产中最有价值的，可能是它的大语言模型——这个模型在用户构建角色并与之互动的过程中，已在很大程度上被用户训练过了。

从法律上讲，只要隐私政策允许转让，公司就可以出售其用户的个人数据。Character.AI的隐私政策含糊得惊人。它称公司可以在出售过程中披露"某些信息"。没人知道这具体指什么。

美国司法部下属的美国受托人办公室希望法官指定一名消费者隐私监察员，就用户隐私问题向法院提供建议。法官可以限制出售公司"记录"，包括用户数据。

但多数人不理解的一点是：《破产法》没有任何条款专门涉及经过训练的模型。大语言模型及其训练数据的法律地位尚未在法律上确定。这意味着，用户输入Character.AI的数据完全可能被卖给任何买下这家公司的人。

Character.AI只是一个方便的例子。更大的风险在于外面所有其他AI公司。

聊天数据可能泄露的三条路径

核心问题是：在聊天中分享的个人信息或专有信息，会不会最终进入大语言模型，让任何人都能设法套出来？

答案是一句响亮的"呃，也许吧"。

首先，这取决于具体的AI聊天机器人服务。各家公司处理聊天数据的方式差异极大，而这些差异归结为四个问题：是否默认用聊天内容训练、是否有真人审阅、数据保留多久、是否用于广告投放。

大型聊天机器人公司通常会试图在隐私问题上安抚用户。它们发布隐私控制选项，但其自身政策也承认，消费者聊天可能默认被用于训练、被真人审阅，或两者兼有，而且细则因公司而异。

很有说明性的一点是，其中一些公司提供能私密处理会话的企业或商业账户。例如，它们不会把会话用于训练数据。在我看来，商业账户享有额外隐私功能，听起来就像是在承认个人账户并不私密。

一些公司如OpenAI允许用户选择不让自己的聊天进入训练数据。但OpenAI的帮助文档称，关闭训练并不会删除聊天本身。

聊天机器人用户数据主要有三种暴露方式。第一种是漏洞。2023年3月，开源库redis-py中的一个漏洞让部分ChatGPT用户看到了其他用户的聊天标题，可能还包括新对话的第一条消息。在九小时窗口内活跃的ChatGPT Plus订阅者中，超过1%的人的付款详情可能暴露给了其他用户：姓名、电子邮箱地址、账单地址、卡类型、卡号后四位和有效期。

第二种是分享。一些聊天机器人提供分享功能，这些功能可能有意或无意地把聊天公开发布到全世界。这些会话一旦被发布，搜索引擎很可能会把它们抓取过去，使其可被搜索。2025年，福布斯报道称，在用户点击"分享"后，谷歌搜索结果中出现了超过37万条Grok对话；而共享的ChatGPT对话也曾出现在搜索结果中，直到OpenAI关掉了这个选项。

第三种是会话被吸收进训练数据。

举个简单的例子：电子邮箱地址。人们经常把邮件粘进去，让聊天机器人代写回复。这些邮件往往在邮件头、签名或两者中都包含姓名、邮箱地址和其他信息。

我经常思考的问题是：如果写给某个人的邮件被粘贴进聊天数百次，一个陌生人能否向聊天机器人索要这个人的邮箱地址，并真的拿到？

在2022年的一项研究中，只给GPT-Neo模型一个人名，它恢复正确邮箱地址的比例不超过1.24%；但如果同时提供域名，这一比例升至16.55%；在给出五个示例后升至37.06%。其他因素——包括某个地址在训练数据中出现的频率，以及是否连同周围的邮件文本一起出现——会进一步推高这一比例。

删除聊天记录也不是补救办法。多位州检察长表示，删除聊天记录可能无法消除其对已训练模型的影响。Common Sense Media的罗比·托尼称，导出或删除你的数据"可能并不意味着这些数据已从模型训练中消失"。

值得注意的是，人们在AI聊天中不仅会输入关于自己的个人信息，还会输入关于同事、朋友和亲属的信息。

AI泡沫破裂后，数据会流向哪里

在你的秘密与全世界之间，主要的屏障是公司的实践。我们依赖AI公司为我们的信息保密。

那么，当这些公司出售资产时会发生什么？

关于"AI泡沫"破裂的网络议论几乎从未停歇。

据路透社报道，中国的AI泡沫已经破裂。过去几个月，中国AI股票遭受重创。

路透社报道称，上海科创50指数（STAR50）在不到四个月内较7月高点下跌40%，市值蒸发约4800亿美元；范围更广的沪深300指数较6月高点下跌约20%。

这并非全面崩塌，但它确实给美国股价带来压力，也提供了通过出售或并购转移所有权的动机（尽管在中国尚未发生）。

不过，未来无法预知。哪些AI公司会像Character.AI那样破产、被出售或被黑客攻破？

至于聊天机器人本身，其内部运作同样无法预知。

这就是为什么我们都该听听我们当中最偏执的那批人的意见：永远不要把敏感信息放进聊天机器人。我们就是不能指望AI替我们保守秘密。