在 DP-FedAvg 中截取客户的更新
Clipping of clients' updates in DP-FedAvg
在提出算法 DP-FedAvg
的论文 Learning differentially private recurrent language models
中,客户端更新的剪辑似乎发生在客户端。每个客户端剪辑他的本地更新,然后 returns 已经剪辑的更新返回到服务器。
然而,在另一篇论文 Advances and open problems in federated learning
中,似乎服务器是剪辑更新的服务器。该论文在第 48 页说,
“使用这种技术,服务器剪辑单个更新的 L2 范数,聚合剪辑的更新,然后将高斯噪声添加到聚合中”。
TFF
中遵循的是哪个过程?谁在执行剪辑?
TFF 中没有任何固有的东西可以阻止您提到的任何一个选项;两者都可以实现。
如果您询问了具体的可用 API,那么 tff.aggregators.DifferentiallyPrivateFactory.gaussian_fixed
在聚合值之前创建聚合器,将剪裁应用到客户端 的固定规范 。
在提出算法 DP-FedAvg
的论文 Learning differentially private recurrent language models
中,客户端更新的剪辑似乎发生在客户端。每个客户端剪辑他的本地更新,然后 returns 已经剪辑的更新返回到服务器。
然而,在另一篇论文 Advances and open problems in federated learning
中,似乎服务器是剪辑更新的服务器。该论文在第 48 页说,
“使用这种技术,服务器剪辑单个更新的 L2 范数,聚合剪辑的更新,然后将高斯噪声添加到聚合中”。
TFF
中遵循的是哪个过程?谁在执行剪辑?
TFF 中没有任何固有的东西可以阻止您提到的任何一个选项;两者都可以实现。
如果您询问了具体的可用 API,那么 tff.aggregators.DifferentiallyPrivateFactory.gaussian_fixed
在聚合值之前创建聚合器,将剪裁应用到客户端 的固定规范 。