---
title: "KServe RFC 提议为机密推理引入远程证明 TLS"
dek: "该提案拟将 TLS 密钥与连接终止移入可信执行环境。网关配置、调度和密钥释放权限仍有待解决。"
---

KServe 仓库于 2026 年 11 月 9 日收到一份 RFC，提议为机密推理引入结合远程证明的端到端传输层安全协议（TLS）。作者指出，将模型权重放在可信执行环境（TEE）内保护，并不意味着服务链路上的提示词和生成结果也受到同样保护。保存的议题记录呈现的是提案与讨论，并非已发布的修复。[^1]

据 RFC 描述，启用 `enableLLMInferenceServiceTLS` 后，控制器会生成自签名证书，将私钥存入持久化到 etcd 的 Kubernetes Secret。拥有相应 Secret、etcd 或备份访问权限的一方因此可能取得密钥。文中描述的网关还会终止客户端 TLS 连接，接触明文，再将流量重新加密后发往工作负载。这些路径与 RFC 将服务提供方视为不可信方的威胁模型存在冲突。[^1]

提案拟增加可选的 `tls` 配置，通过 CDH 从密钥代理服务（KBS）获取证书和密钥，写入内存卷，跳过证书 Secret 的创建，并在 TEE 内终止 TLS。对于符合条件且未配置调度器的路由，控制器将采用 TLSRoute 透传。RFC 指出，这与当前 EPP 调度路径不兼容；将网关和 EPP 放进独立 TEE 的方案仍在讨论，如何对其配置进行远程证明尚未解决。[^1]

:::analysis
问题位于 T2 runtime（运行时）和 T1 hardware（硬件）层：仅有硬件隔离，无法确定 TLS 在哪里终止，也无法确定谁控制网关配置。作者随后澄清，秘密持有方需要信任并固定可见的度量值和密钥释放策略；仅有 KBS 证书，不能为 istiod 下发的配置提供远程证明。用户和运营方应对照文中路径，核查实际部署版本、TLS 终止位置、Secret 存储、路由及 KBS 策略；来源没有推荐任何修复版本。这里涉及的可核验属性是可识别性：如果为用户提供服务的确切版本和配置有记录且可检查，用户就能判断自己是否曾暴露于文中描述的路径；这份 RFC 并未确认此类记录已经存在。[^1]
:::

:::checked
我们于 2026 年 11 月 17 日阅读了所提供的 KServe 第 6577 号议题保存副本，包括 RFC 正文和 11 月 9 日至 11 日的评论。这份材料能够确认参与者提出了哪些方案与疑问。我们没有测试系统、检查实现代码，也没有独立确认实际部署行为。[^1]
:::

[^1]: KServe 仓库，“RFC: End-to-end attested TLS for confidential inference”，第 6577 号议题，创建于 2026 年 11 月 9 日。https://github.com/kserve/kserve/issues/6577
