前沿模型安全警报响起:AI网络攻防能力每4个月翻倍
原创
3474 浏览 84 点赞 3 收藏
英国AI安全研究院(AISI)最新发布的评估报告在技术圈引起广泛关注。报告指出,前沿模型在网络攻防任务上的能力提升速度正在急剧加速——当前能力翻倍周期已缩短至约4个月,远低于2025年底时评估的7个月翻倍周期。
这一信号意味着:AI正在快速跨越从"辅助工具"到"执行型系统"的门槛。AISI的测试显示,Anthropic的Claude Mythos Preview成为首个通过其32步"最后防线"(TLO)红队测试的模型,该测试模拟从侦察到完全域控制的完整攻防链条,通常需要人类红队专家20小时才能完成。
更值得注意的是,OpenAI的GPT-5.5仅在三周后便展现出几乎相同的能力水平。这种技术迭代速度让安全界不得不重新审视现有的防御体系。AISI坦承:当前的安全基准已无法有效区分前沿模型的能力差距,亟需引入对抗性防御层作为新的评估标准。
随着AI Agent能力快速进化,开发者需要将关注焦点从模型能力本身扩展到Agent治理层面,包括权限边界设计、Sandbox隔离、工具调用审计以及多步推理安全控制等方面。业界共识正在形成:Agent治理的重要性正在超越单纯的模型能力提升。
来源:Air Street Press等综合报道
©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
分类
业界新闻
相关推荐
AI垃圾邮件过滤器被老派"文本加盐"手法轻松击穿
老何的技术日记
376
0软件会被AI颠覆吗?金山办公要成为每个人的“个人助理”
CBI资讯
352
0三星描绘“日常AI”路线:手机、穿戴与家电走向协同智能
466
0OpenAI提出企业AI新账本:别只看Token价格,要看每项成功任务成本
46
0研究人员仅花不到100美元就成功投毒开源AI模型
latiao
847
0lili123123
我还没有写个人简介......
213
帖子
0
提问
359
粉丝
最新发布
微软两位AI基础设施高管离职,其中一人加入英伟达
2025-11-28 11:48:06 发布AI吃电UPS承压,施耐德电气Galaxy PX UPS重磅亮相
2025-11-28 09:56:28 发布热门推荐
京公网安备:11010502051901号