INTRODUTION
left:在雲中心的機器智能中,用戶設備與雲中心模型進行交互,生成日志來訓練模型。用戶日志組合到一起后來提高模型,用於之后的服務器用戶請求。
Middle:在聯邦學習中,模型被運送到用戶設備上,在本地進行評估和訓練。改進之后的模型傳給服務器,在服務器端產生一個新模型然后在應用在用戶設備上。
Right:安全聚合應用在聯邦學習上,模型更新的聚合在邏輯上由虛擬機執行,安全多方通信引發的廉潔第三方,所以雲服務器端只會學習到聚合之后的模型更新。
技術方面
這有兩個缺點:
-
用戶必須交換隨機數s,可能會增大通信開銷
-
用戶在交換隨機數之后掉線了,所對應的隨機數便不能抵消,最終結果是無意義的。
而兩兩共享的隨機數可以通過D-H密鑰協商協議來實現,通過借助 pseudorandom generator (PRG)減少了通信開銷。協商的密鑰作為偽隨機數生成器PGR的種子。
偽隨機數生成算法的內部狀態可以被保存下來,然后用於控制子序列運行時生成的數字。在繼續之前,從較早的輸入恢復狀態減少了生成重復值和序列的可能性
有了代碼會更好理解:
Double-Masking to Protect Security
首先,用戶在生成隨機數s的同時也生成一個隨機seed b,在秘密分享階段,用戶把b給分享給其他用戶。
在恢復階段,服務器必須對用戶做出明確的選擇,或者請求隨機數s或者b;一個用戶並不會將s和b都分享給同一個用戶,收集在線用戶至少t個s和t個b之后,服務器可以減去所有的b來顯示和。
這篇博客寫的挺好:https://blog.csdn.net/qq_37734256/article/details/104223580
PPT:http://jakubkonecny.com/files/2018-01_UW_Federated_Learning.pdf