联邦学习之纵向联邦学习
...
原文：联邦学习[纵向联邦学习中两方解决方案]
联邦学习大火，主要是解决数据孤岛问题，即如何在符合数据隐私的基础上，实现多方数据不出本地，但是却能联合训练一个共有大模型的目的，对于需要中心的纵向联邦学习，是需要中心先下发公钥，而后期会出现中心能够完全掌握整个模型的情况。那么在更严格情况，AB都互不信任，C放在哪都不合适。 准备部分 这里以线性回归为例子，参考自 联邦学习的研究与应用，刘洋 范涛 ,介绍在没有中间人的情况下，直接 方交互的过程。为 ...
2020-10-15 12:01 2 989 推荐指数：
相关推荐
基于散列和RSA的纵向联邦学习样本对齐实现方案
在纵向联邦学习联合建模过程中，两家公司用户群体不可能完全重叠，第一步需要找到相同的用户ID集合。在不泄露数据前提下，找到双方公共ID集合的技术称为私有集交集（Private Set Intersection, PSI）。下面介绍一下基于散列和RSA算法的实现方案。 假设： 公司 ...
联邦学习
视频：链接 介绍 联邦学习是一种不需要收集各数据拥有方所有的数据，便能协作地训练一个模型的机器学习过程 旨在建立一个基于分散数据集的联邦机器学习模型。在模型训练过程中，隐私数据不离开本地，各方仅交换模型相关的信息或加密的数据，已训练好的联邦学习模型可以置于联邦学习系统的各参与方，也可以在多方 ...
联邦学习
联邦学习（Federated Learning） from： https://blog.csdn.net/cao812755156/article/details/89598410 联邦学习 ...
联邦学习中的模型聚合
论文[1]在联邦学习的情景下引入了多任务学习，其采用的手段是使每个client/task节点的训练数据分布不同，从而使各任务节点学习到不同的模型，且每个任务节点以及全局(global)的模型都由多个分量模型集成。该论文最关键与核心的地方在于将各任务节点学习到的模型进行聚合/通信，依据模型聚合方式 ...
联邦学习中的隐私研究
当今的AI仍然面临两个主要挑战： 一是在大多数行业中，数据以孤立的孤岛形式存在。 另一个是加强数据隐私和安全性。 我们为这些挑战提出了一种可能的解决方案：安全的联邦学习。 联邦学习是一种新兴的机器学习方案。与传统的集中式机器学习不同，联邦学习通过将训练任务下放到用户侧，仅将训练 ...
联邦学习中的优化算法
1 导引 联邦学习做为一种特殊的分布式机器学习，仍然面临着分布式机器学习中存在的问题，那就是设计分布式的优化算法。 以分布式机器学习中常采用的client-server架构（同步）为例，我们常常会将各client节点计算好的局部梯度收集到server节点进行求和，然后再根据这个总梯度进行权重 ...
联邦学习中的模型架构
在上一篇博文《联邦学习中的模型聚合》中，我们关注了在联邦学习中模型聚合(参数通信)的问题，但是对每一个client具体的模型架构设计和参数优化方法还没有讨论。本篇文章我们关注具体模型结构设计和参数优化。 首先，在我follow的这篇篇论文[1]中（代码参见[2]）不同的client有一个集成模型 ...