10月26日，Cloudflare公开了一起云上AI推理平台的租户隔离事故：2026年8月27日至9月9日期间，Workers AI平台上由智谱提供的GLM-5.3模型（@cf/zai-org/glm-5.3）存在跨请求KV cache暴露问题，部分用户的响应中出现了其他客户此前发给模型的请求数据，经核查共影响155次响应，且全部发生在输入超过681,280 token的超长上下文prompt上。

从根因看，这是配置不匹配触发SGLang推理引擎KV cache缺陷的结果。KV cache是大模型推理中为降低重复计算与调用成本而广泛使用的机制，请求间共享的缓存页一旦在租户边界处理不当，就可能把前一个请求的内容带入下一个请求的响应；超长上下文请求缓存页更多、生命周期更长，放大了这一风险。9月8日安全研究员Gadi Evron经HackerOne报告该问题，Cloudflare次日下架模型并修复，随后与SGLang社区协作推进系统性整改。

对使用云上AI API的企业而言，警示相当具体：多租户隔离不能只看平台与账号边界，推理缓存层同样是真实的数据暴露面。选型云推理服务时应审查供应商对prompt缓存的租户隔离机制与披露记录；对敏感数据的长文档处理场景，尤其需要评估超长上下文与缓存复用组合的泄露风险，必要时选择独占实例或私有化部署。

来源：开源中国 原文链接