我可以在张量流联合的梯度上聚合吗?

时间:2019-05-20 06:08:30

标签: tensorflow tensorflow-federated

目前,张量流的federated_learn似乎只包括对模型的可训练变量起作用的诸如federated_averaging之类的东西。我将如何在服务器上实现需要渐变的算法?

谢谢

1 个答案:

答案 0 :(得分:2)

0.2.0版本开始,TensorFlow Federated包含FedSGD(tff.learning.build_federated_sgd_process())的实现,如论文所述:

基于分散数据的深度网络通信高效学习 Brendan McMahan,Eider Moore,Daniel Ramage,Seth Hampson,Blaise Aguera和Arcas。 AISTATS 2017。 https://arxiv.org/abs/1602.05629

代码可以在tensorflow_federated/python/learning/federated_sgd.py中找到,该代码显示了客户端上的聚合渐变,并将聚合渐变发送回服务器。