本文提出了聯邦匹配平均(FedMA)算法。FedMA通過對提取到的具有相似特征的隱元素(即卷積層的通道,LSTM的隱狀態,全連接層的神經元)進行匹配和平均,按層構建共享全局模型。FedMA訓練的CNN ...
挖個坑吧,督促自己仔細看一遍論文 ICLR ,看看自己什么時候也能中上那么一篇 流口水 鄭重聲明:原文參見標題,如有侵權,請聯系作者,將會撤銷發布 Abstract 聯邦學習允許邊緣設備協同學習共享模型,同時將訓練數據保留在設備上,將模型訓練能力與將數據存儲在雲中的需求分離開來。針對例如卷積神經網絡 CNNs 和LSTMs等的現代神經網絡結構的聯邦學習問題,我們提出了聯邦匹配平均 FedMA 算法 ...
2019-12-18 19:11 3 761 推薦指數:
本文提出了聯邦匹配平均(FedMA)算法。FedMA通過對提取到的具有相似特征的隱元素(即卷積層的通道,LSTM的隱狀態,全連接層的神經元)進行匹配和平均,按層構建共享全局模型。FedMA訓練的CNN ...
一、闡述了聯邦學習的誕生背景: 在當前數據具有價值,並且需要被保護,數據分布為non-IID情況下,需要提出一個框架來進行行之有效的訓練,這也是聯邦學習誕生的原因; 二、論文的相關工作: ...
設一共有\(K\)個客戶機, 中心服務器初始化模型參數,執行若干輪(round),每輪選取至少1個至多\(K\)個客戶機參與訓練,接下來每個被選中的客戶機同時在自己的本地根據服務器下發的本輪(\(t ...
背景 設備中有很多數據,可以用來訓練模型提高用戶體驗。但是數據通常是敏感或者龐大的。 隱私問題 數據孤島:每個公司都有數據,淘寶有你的購買記錄,銀行有你的資金狀況,它們 ...
1.communication-efficient algorithms parallel gradient descent Federated Averaging Algorithm 比較 (epoch相當於計算量) 結論:FedAvg減少了通信量,增加了計算量 ...
原文鏈接:https://blog.csdn.net/cao812755156/article/details/89598410 https://zhuanlan.zhihu.com/p/79284686 聯邦學習簡介 聯邦學習(Federated Learning)是一種新興的人工智能基礎 ...
聯邦學習簡介 聯邦學習(Federated Learning)是一種新興的人工智能基礎技術,在 2016 年由谷歌最先提出,原本用於解決安卓手機終端用戶在本地更新模型的問題,其設計目標是在保障大數據交換時的信息安全、保護終端數據和個人數據隱私、保證合法合規的前提下,在多參與方或多計算 ...
挖個大坑,等有空了再回來填。心心念念的大綜述呀(吐血三升)! 鄭重聲明:原文參見標題,如有侵權,請聯系作者,將會撤銷發布! 項目地址:https://github.com/open-intelligence/federated-learning-chinese 具體內容參見項目地址,歡迎 ...