Sam Altman警告:ChatGPT 新代理功能藏隐患
作者: CBISMB
责任编辑: 张金祥
来源: ISMB
时间: 2025-07-21 18:12
关键字: ChatGPT ,Sam Altman,隐患
浏览: 86
点赞: 7
收藏: 10
最近,ChatGPT 搞出了个大动静,上线了一个能让用户“偷懒”的新功能——代理功能,它厉害就厉害在不用用户一直盯着、手把手操作,自己就能把任务给办了。可这看似美好的创新,却引来了 OpenAI 老板 Sam Altman 的大声疾呼:这功能有风险,大家得小心!
ChatGPT 这个新代理功能一亮相,就让人眼前一亮。以前用 ChatGPT,用户得一步一步给它指令,现在可不一样了。OpenAI 在介绍的时候举了个超贴心的例子,就说筹备婚礼这么复杂的事儿吧,从买结婚穿的漂亮衣服,到订蜜月旅行要住的酒店,ChatGPT 代理都能自己搞定。要是用户点头同意,它还能直接拍板做购买决定,就像有个贴心小秘书在身边,帮用户省了不少心。
不过,这世上没有十全十美的事儿。Altman 站出来提醒大家,虽然 OpenAI 给这个新功能加了好几道“安全锁”,搞了不少安全措施和警告提示,但人工智能这玩意儿太复杂了,就像个神秘的黑盒子,谁也没办法提前知道它会给出啥反应。最让人担心的是,那些心怀不轨的犯罪分子可能会钻空子,用花言巧语把 ChatGPT 代理给忽悠了,然后偷偷把用户的个人信息偷走。要是这些信息落到坏人手里,后果简直不堪设想,用户的隐私、财产安全都可能受到威胁。
Altman 自己就特别谨慎,他说自己目前绝对不会在“高风险使用场景”里用这个人工智能代理。虽然他没明说哪些场景算高风险,但大家推测,像那种涉及花大钱、大额交易的场景,肯定就在其中。而且,他也不会把自己的大量个人信息告诉这个代理,就怕一不小心就泄露了。
为了帮用户降低风险,OpenAI 给出了实用建议,就是给 ChatGPT 代理的权限要“恰到好处”,只给它完成指定任务必须用到的那点权限就行。Altman又举了个例子,要是代理要帮用户安排和朋友的晚餐约会,那看看日历,知道用户啥时候有空,这是合理的;但如果只是让它去买件衣服,就没必要让它去翻用户的日历了。
Altman 还特别提醒大家,那种指令范围特别广的任务,风险可不小。就好比用户跟它说“把我昨晚的邮件都看看,别问东问西,直接处理”,这就像给骗子开了个后门,他们很可能通过这些邮件把用户的个人信息偷走。
Sam Altman 这番警告,就像给 ChatGPT 新代理功能的推广泼了一盆冷水,但也给大家提了个醒。在享受人工智能带来的便利时,可不能忘了背后的安全风险。怎么在便利和安全之间找到平衡,不仅是 OpenAI 要解决的问题,也是整个行业得好好思考的事儿。