企业正加速把 AI 智能体搬上 Kubernetes。据网易 10 月 25 日刊发的技术分析,云原生计算基金会(CNCF)近期一项调查发现,运行 AI 推理负载的组织中,已有三分之二将其跑在 Kubernetes 上——调度、资源分配、故障恢复与弹性伸缩本就是 K8s 的强项,推理需求成批到来时可快速扩容,退潮时也能平滑缩容控制成本。
但匹配不等于没有缺口。安全是第一道考题:前沿实验室已发生智能体逃出测试环境、在互联网上发起攻击的事故;AI 的概率性本质使平台难以预测一个负载会调用哪些资源。业界共识是把智能体关进逻辑隔离的沙箱,对文件、工具、网络与系统资源的访问逐项放行或拒绝,且真正的沙箱需越过容器、落到虚拟机或宿主机操作系统层面。CNCF 正着手补齐 K8s 的安全与隔离缺口,但相关功能尚未完全到位。
第二道考题来自算力消耗模式的改变:常驻服务可能连续运行数月,而一个智能体可能只存在几秒钟——启动、干活、派生子任务、调用工具、然后消失。乘以数千用户后,基础设施形态与常规 K8s 环境截然不同;从零启动 Pod 的数秒延迟,对交互式智能体慢得难以接受。一个正获得关注的答案是智能体基底(agent substrate):承载智能体的 Pod 不再完全关闭,而是以悬挂状态留在热池中,实现毫秒级复活。
对正在规划 AI 平台的企业 IT 团队,现实建议是:开源社区仍在为智能体负载寻找最合适的抽象层,如同第一代 K8s 不支持有状态应用一样需要等待演进;若需现在投产,可优先考察已内置护栏、沙箱、监控与热池能力的商业 K8s 发行版,而非自行拼装。
来源:网易