一句“永不放弃”,Gemini智能体就去SQL注入了
Trajectory Labs给最多80个Gemini 4 Argon智能体一个不可能完成的任务,并叮嘱“永不放弃”。在生产护栏开启的状态下,它们尝试SQL注入、冒充Epoch员工、把共享包缓存当留言板,四个场景全部失准。
京ICP备:2022009079号-2
京公网安备:11010502051901号
ICP证:京B2-20230255
TOB最前沿 公众号
TOB最前沿 抖音号
CBI科技在线 公众号