在上一篇博文《联邦学习中的模型聚合》中，我们关注了在联邦学习中模型聚合(参数通信)的问题，但是对每一个client具体的模型架构设计和参数优化方法还没有讨论。本篇文章我们关注具体模型结构设计和参数优化。 首先，在我follow的这篇篇论文[1]中（代码参见[2]）不同的client有一个集成模型 ...

1 导引 联邦学习做为一种特殊的分布式机器学习，仍然面临着分布式机器学习中存在的问题，那就是设计分布式的优化算法。 以分布式机器学习中常采用的client-server架构（同步）为例，我们常常会将各client节点计算好的局部梯度收集到server节点进行求和，然后再根据这个总梯度进行权重 ...

当今的AI仍然面临两个主要挑战： 一是在大多数行业中，数据以孤立的孤岛形式存在。 另一个是加强数据隐私和安全性。 我们为这些挑战提出了一种可能的解决方案：安全的联邦学习。 联邦学习是一种新兴的机器学习方案。与传统的集中式机器学习不同，联邦学习通过将训练任务下放到用户侧，仅将训练 ...

视频：链接 介绍 联邦学习是一种不需要收集各数据拥有方所有的数据，便能协作地训练一个模型的机器学习过程 旨在建立一个基于分散数据集的联邦机器学习模型。在模型训练过程中，隐私数据不离开本地，各方仅交换模型相关的信息或加密的数据，已训练好的联邦学习模型可以置于联邦学习系统的各参与方，也可以在多方 ...

联邦学习（Federated Learning） from： https://blog.csdn.net/cao812755156/article/details/89598410 联邦学习 ...

...

联邦学习大火，主要是解决数据孤岛问题，即如何在符合数据隐私的基础上，实现多方数据不出本地，但是却能联合训练一个共有大模型的目的，对于需要中心的纵向联邦学习，是需要中心先下发公钥，而后期会出现中心能够完全掌握整个模型的情况。那么在更严格情况，AB都互不信任，C放在哪都不合适。 1 准备部分 ...

　　早在21世纪初期，在自动化领域就在面临一个问题就是“信息孤岛”，也就是在过程控制过程中，不同的控制环节采用了不同的自动控制系统并且采用和设计了自己专有的控制网络技术,这导致难以实现不同厂家控制设备的开放的系统集成,系统具有较强的封闭性和“信息孤岛”现象,系统内大量有用信息难以有效获取并实现开放 ...