Google 让 Gboard 的联邦学习隐私可以被外部审计

30 秒看懂#

Google Research 在 2026 年 10 月 2 日公布了一套新的联邦学习系统，并表示它已经用于 Gboard 的英语和日语下一词预测。

变化不在于再加一层“隐私承诺”。设备上传前会把训练数据加密，并给数据绑定访问策略。服务器端工作负载只有通过 TEE 远程证明，而且运行的程序符合策略，才能取得解密密钥。访问策略会发布到公开透明日志，关键二进制也可以从开源代码进行可复现构建。

这使外部审计者可以检查“哪些程序被允许接触数据”和“实际运行的是不是这些程序”。差分隐私仍然存在，TEE 没有取代它。

旧问题在哪里#

联邦学习常被简化成“数据不离开设备”。真实生产系统更复杂。

Google 过去的系统会让设备参与本地计算和聚合。Secure Aggregation 可以保护上传过程，但服务器到底运行了什么程序、差分隐私噪声是否按描述加入，外部观察者很难独立核验。

新系统把这个问题改成一条可检查的执行链。数据访问条件在上传前确定，服务器工作负载需要证明自己的身份和代码，策略与构建记录也对外公开。

新系统怎么工作#

第一步发生在设备端。

设备先加密训练样本，再为数据绑定访问策略。策略定义哪些服务器端 TEE 程序可以处理数据，以及这些程序能够释放什么结果。设备只接受已经发布到公开透明日志的访问策略。

第二步是密钥控制。

Google 的 Key Management System 运行在 TEE 集群中。服务器端训练任务想取得解密密钥，必须先提交远程证明。KMS 会检查实际运行的程序是否符合数据上传时绑定的访问策略。只有匹配时才释放密钥。

第三步才是训练。

根 TEE 执行 Python 训练程序，并把可并行任务交给多个 worker TEE。Google 表示，工作负载操作方只能看到指标和经过差分隐私处理后的模型权重，不能直接查看设备上传的训练数据。

训练轮结束后，系统会保存由 KMS 加密的恢复状态。根节点或 worker 出现故障时，可以从恢复状态继续执行，而不需要额外暴露隐私数据。

外部审计具体能检查什么#

访问策略会发布到 Rekor 公共透明日志。审计者可以查看设备可能参与哪些服务器端工作负载。

Google 还公开了 Confidential Federated Compute 仓库。KMS 和数据处理二进制可以从公开代码进行可复现构建。

远程证明因此不只回答“当前跑的是哪个二进制”，还可以继续追到“这个二进制对应哪一版公开源码”。

这仍然不等于完整的形式化软件正确性证明。Google 自己也把更完整的软件正确性证明列为后续方向。

为什么更多计算被移到服务器#

新系统把原本放在客户端的一部分梯度计算移到了服务器端 TEE。

这样做的前提是服务器端执行环境现在有更强的验证边界。设备先加密上传，符合访问策略的 TEE 再解密和计算。系统可以先收集设备上传，再在服务器端安排训练，不必持续等待设备在线。

Google 公布的 Gboard 实验使用 5000 轮训练，每轮 cohort 为 6500 台设备。Google 还表示，旧流程训练一个模型可能需要一到两个月。新系统把主要瓶颈移到服务器侧，并通过多个 TEE 并行执行。

这些结果只适用于 Google 公布的 Gboard 场景，不能直接推成所有联邦学习工作负载都会获得相同加速。

Gboard 已经使用这套系统#

Google 表示，Gboard 已经使用新的 TEE 联邦学习系统训练英语和日语下一词预测模型。

论文报告称，新系统在更小、可外部验证的隐私预算下获得更快训练和更高准确率。这里的“更快”和“更高准确率”都来自论文与 Gboard 实验范围。

这使这项工作不只是隐私计算原型。它已经进入真实键盘模型训练流程。

对机器学习系统的参考#

如果系统要处理敏感训练数据，可以把问题拆成四个执行条件。

第一，数据在进入服务器前就绑定允许访问它的程序，不把权限决定留到数据上传之后。

第二，程序只有证明自己正在运行被允许的代码，才获得解密能力。

第三，策略、证明和构建产物需要让第三方可以核对，而不是只存在内部控制台。

第四，操作方只获得真正需要的指标和受隐私约束的模型结果，不直接获得原始训练数据。

Google 这次强调的“可验证”来自这些条件共同作用，而不是某一个单独的加密组件。

边界#

TEE 仍然有侧信道和硬件实现风险。Google 在公开材料中明确保留了这些限制。

动态加载也有边界。Google 允许把专有模型结构和预处理信息在运行时加载进 TEE，但要求所有与隐私直接相关的逻辑留在可审核的 Python 程序里。

外部可验证也不等于已经获得数学上的端到端软件正确性证明。当前能确认的是，Google 给服务器端联邦学习增加了更完整的外部验证机制，并已将它部署到 Gboard。

来源#

• Google Research：Toward provably private learning from federated data ↗
• 论文：Toward verifiably private learning from federated data ↗
• Confidential Federated Compute ↗