聯邦學習之縱向聯邦學習
...
原文：聯邦學習[縱向聯邦學習中兩方解決方案]
聯邦學習大火，主要是解決數據孤島問題，即如何在符合數據隱私的基礎上，實現多方數據不出本地，但是卻能聯合訓練一個共有大模型的目的，對於需要中心的縱向聯邦學習，是需要中心先下發公鑰，而后期會出現中心能夠完全掌握整個模型的情況。那么在更嚴格情況，AB都互不信任，C放在哪都不合適。 准備部分 這里以線性回歸為例子，參考自 聯邦學習的研究與應用，劉洋 范濤 ,介紹在沒有中間人的情況下，直接 方交互的過程。為 ...
2020-10-15 12:01 2 989 推薦指數：
相關推薦
基於散列和RSA的縱向聯邦學習樣本對齊實現方案
在縱向聯邦學習聯合建模過程中，兩家公司用戶群體不可能完全重疊，第一步需要找到相同的用戶ID集合。在不泄露數據前提下，找到雙方公共ID集合的技術稱為私有集交集（Private Set Intersection, PSI）。下面介紹一下基於散列和RSA算法的實現方案。 假設： 公司 ...
聯邦學習
視頻：鏈接 介紹 聯邦學習是一種不需要收集各數據擁有方所有的數據，便能協作地訓練一個模型的機器學習過程 旨在建立一個基於分散數據集的聯邦機器學習模型。在模型訓練過程中，隱私數據不離開本地，各方僅交換模型相關的信息或加密的數據，已訓練好的聯邦學習模型可以置於聯邦學習系統的各參與方，也可以在多方 ...
聯邦學習
聯邦學習（Federated Learning） from： https://blog.csdn.net/cao812755156/article/details/89598410 聯邦學習 ...
聯邦學習中的模型聚合
論文[1]在聯邦學習的情景下引入了多任務學習，其采用的手段是使每個client/task節點的訓練數據分布不同，從而使各任務節點學習到不同的模型，且每個任務節點以及全局(global)的模型都由多個分量模型集成。該論文最關鍵與核心的地方在於將各任務節點學習到的模型進行聚合/通信，依據模型聚合方式 ...
聯邦學習中的隱私研究
當今的AI仍然面臨兩個主要挑戰： 一是在大多數行業中，數據以孤立的孤島形式存在。 另一個是加強數據隱私和安全性。 我們為這些挑戰提出了一種可能的解決方案：安全的聯邦學習。 聯邦學習是一種新興的機器學習方案。與傳統的集中式機器學習不同，聯邦學習通過將訓練任務下放到用戶側，僅將訓練 ...
聯邦學習中的優化算法
1 導引 聯邦學習做為一種特殊的分布式機器學習，仍然面臨着分布式機器學習中存在的問題，那就是設計分布式的優化算法。 以分布式機器學習中常采用的client-server架構（同步）為例，我們常常會將各client節點計算好的局部梯度收集到server節點進行求和，然后再根據這個總梯度進行權重 ...
聯邦學習中的模型架構
在上一篇博文《聯邦學習中的模型聚合》中，我們關注了在聯邦學習中模型聚合(參數通信)的問題，但是對每一個client具體的模型架構設計和參數優化方法還沒有討論。本篇文章我們關注具體模型結構設計和參數優化。 首先，在我follow的這篇篇論文[1]中（代碼參見[2]）不同的client有一個集成模型 ...