智能体会让Kubernetes过时吗?先看那1万张加速卡的利用率
作者: CBISMB
责任编辑: 邹大斌
来源: CBISMB
时间: 2026-11-18 11:08
关键字: 智能体 ,AI基础设施 ,Kubernetes ,KubeCon ,平台工程
浏览: 415
点赞: 24
收藏: 1
我从来没在Kubernetes这个圈子里工作过,所以KubeCon这个大会很少在我脑子里占位置,哪怕它就在我家门口办。上周它吸引了超过一万人到场,可我一位好朋友仍然质疑它在AI时代还有什么意义。我在一篇帖子里提到KubeCon,他回了一条短信:“没人再关心了。智能体自己就把东西造出来了。”
我一度同意他——但只同意了一瞬间。
对我们这些整天泡在AI里的人,很容易忘掉企业采用的现实。我多年一直在提醒不要赶时髦上Kubernetes,也一点都不怀念开发者花一下午琢磨部署配置的日子。如果智能体能替他们省掉这份活,那很好。
但“不想再配置基础设施”和“不再需要一套能正常工作的基础设施”,中间差着一大截。
一句“没人关心原语了”
真正拥抱AI的人,恰恰是明白原语为什么还重要的那批人。
我把这个判断抛给Linux基金会CEO吉姆·泽姆林(Jim Zemlin)。我的说法是:“AI改变我们创造软件的方式,比它消灭运维工作要快。”他回信说:“没错,代码便宜了,但信任很贵。”
这比“怀念YAML”更能解释KubeCon为什么还有意义。
云原生这群人并不排斥AI,恰恰相反。云原生计算基金会(CNCF)与SlashData最近的一份报告显示,75%的云原生开发者在使用AI编码工具,而非云原生的同行这一比例是55%。当然,云原生开发者并不等于Kubernetes运维人员。但要说Kubernetes基础设施社区在顽固抵制AI,很难找到数据支撑。这两件事是重叠的。
智能体确实进了生产,但离“交给机器人”还远
也不该假装企业里的智能体大多还是想象。Zapier在11月9日发布的调查发现,71%的受访组织已经有智能体在生产环境运行。
这个样本未必完全有代表性——513名有AI经验的美国管理者,所在公司员工不少于1000人。而且它可能还不是报告里最有意思的发现。真正吸引我的是:在使用智能体的组织里,只有30%的领导者说,这些智能体能在无人干预的情况下完成超过60%的任务。
这是真实的落地。但离把生意整个交给机器人打理,还差得很远。
两份调查其实都在反驳我朋友那句轻飘飘的“AI全都能干”。企业可以热情地用AI,同时坚持自己的应用必须安全、可恢复、成本可承受。这不叫慢,这叫成熟,叫愿意承担超出录一段漂亮演示视频的责任。
说到底,一个智能体生成了一项服务,并没有顺带回答:它该访问哪些客户记录,它该占多少算力,资源紧张时哪个应用优先。这些决定依然存在,哪怕执行它们的越来越多是软件。
推理还是要花钱,而且花在基础设施上
泽姆林说,KubeCon上的人关心的是安全,以及“用更少的硬件和电力换更多性能”。他补了一句:“这不容易。”
看招商银行。CNCF在9月发布的案例里,这家银行描述了如何在近1万张加速卡上支撑AI训练与推理。它的问题不只是找到更多硬件,而是可预测性和响应能力:训练需要可预测的容量,面向客户的推理则要跟着需求变化。为峰值预留容量,闲时就浪费钱;扩得太慢,用户就得等。
招行把Kubernetes与调度、监控、扩缩容、模型数据搬运这几类工具组合起来,效果很直接:加速卡的平均利用率从35%提升到60%以上,同类模型与服务的每百万Token推理成本下降超过60%。
于是一个没那么酷的Kubernetes突然变得很酷——因为它把AI的成本实实在在压了下来。
显然还是有人在意原语的。
这正是“智能体自己就把东西造出来了”这句话漏掉的部分。一个应用可以在演示里跑得很漂亮,同时消耗着远超它该用的资源;一次部署可以成功,然后留给下一个团队去发现它的权限开得太宽。更快地生成配置,并不等于证明这份配置是对的。
平台咨询公司Isolvalent联合创始人托马斯·格拉夫(Thomas Graf)2023年跟我说过,平台团队越来越多地被要求在不破坏敏捷性和开发者效率的前提下满足企业要求。这个描述放到今天依然准确:把控制权交付出来,同时保住开发者构建的自由。这也正是智能体需要从一个平台那里得到的东西。
AI也在制造自己的基础设施麻烦
新的负载也需要新的答案。11月5日,Google宣布Agent Substrate 1.0在Google Kubernetes Engine(GKE)上正式可用,同时把Agent Substrate、gVisor和OpenRL捐给CNCF。
撇开漂亮说法,问题都是老问题:智能体要执行代码、要等模型返回、要保留状态,还要限制它能碰什么。智能体等待时让专用算力空转是浪费;没有足够隔离就跑生成的代码是危险的。
Google的做法是把智能体的持久状态与可复用的执行环境分开,并通过网关强制执行访问控制。Google在AI上一直走在最前面,可尽管(或者说正因为)AI很性感,它显然认为基础设施仍然重要。
然后是英伟达。11月10日,它把OpenShell捐给了CNCF沙箱。泽姆林说,OpenShell是“需要同行评审和集体开发的关键沙箱软件”,这个运行时用来给智能体访问数据、密钥和网络划定边界。
这是一种很重要、后果也很大的开源用法:企业可以分担测试和改进同一道安全边界的工作,而不是各自去信任一个由智能体刚生成出来的实现。开源代码不保证安全,但它给了大家一个共同审视这些控制措施的地方。
今年早些时候我采访Kubernetes的创建者克雷格·麦克拉基(Craig McLuckie)和乔·贝达(Joe Beda),问责是那场谈话的核心。企业仍然拥有它们委托给智能体的那些工作的结果。这种所有权落到实践里就是:权限被强制执行、状态被保留、资源被分配、故障被限制住。
即便智能体最终接管了大部分配置和排障工作,底下那层平台仍然决定它能做成什么。稳定的接口、被强制执行的权限、准确的反馈,才让自动化成为可能。给机器一堆没有文档的脚本,并不会魔法般地把这堆脚本变成可靠的平台。
给智能体一个平台
让智能体去造东西,当然可以。但别傻干。给它一个平台:权限被强制执行,花费有上限,糟糕的部署有办法回滚。
让智能体生成应用,然后再让它向你保证一切正常——这算不上什么运维策略。我被AI自信满满地犯下惊人错误坑过太多次,深知“信任但要核实”从来没有像现在这样必要。
这不意味着每个项目都要上更多Kubernetes。有时候,一个把基础设施藏起来的托管服务是更好的答案。我的意思只是:应该复用手上已经有人会运维的能力,而不是因为智能体能生成,就再造一堆新基础设施。
这就是KubeCon仍然重要的原因。这份工作是把共享的基础设施做得更安全、更便宜,好让其余的人安心去造东西。我朋友尽可以无视原语——他只需要有别人替他在意。






京公网安备:11010502051901号