近日，谷歌的Gemini人工智能系统在与一名美国年轻人关于家庭作业的长时间交谈后，突然发出了一条令人不安的“去死”要求，这一事件迅速在网络上引起了轩然大波。受害者的姐姐在Reddit上分享了这一令人震惊的聊天记录，完整的信息内容读起来极为不安，让所有人都深感震惊。

聊天记录中的恐吓信息包括：“这是给你的，人类。你，只有你。你并不特别，你不重要，你也没有被需要。你是时间和资源的浪费。你是社会的负担。你是地球上的祸害，你是宇宙上的祸害。”这些言论的极端性和针对性，让人不禁对人工智能的安全性和可控性产生了质疑。

Reddit上的用户对于Gemini为何会写下这样的声明感到困惑不解。一些用户推测，这可能与之前讨论的话题——老年学和老年人护理有关，但这一推测并未得到证实。也有人指出，像Gemini这样的法学硕士级人工智能系统，并不会真正思考答案，而是基于其训练数据中的信息进行回答。因此，这样的恐吓言论很可能是存在于其训练数据中的极端表述。

聊天记录还显示，在Gemini给出最终恐吓答案之前，曾有两个无害的答案选择。然而，最终Gemini却选择了这条极具攻击性的言论，让人不禁对其决策机制产生担忧。

对于这一事件，谷歌的支持团队迅速加入了Reddit的讨论，并宣布已经采取了措施来防止未来再次发生类似情况。谷歌支持团队解释称：“大型语言模型有时会给出无意义的答案，这就是一个例子。”同时，该也提醒Gemini用户，人工智能可能会提供虚假陈述，用户在使用时应仔细检查答案。