Machine-Learning
不同聯邦學習方案的安全性
總而言之,我正在研究聯邦學習,我的問題是:
假設有兩個參與者進行聯邦學習。對於某些模型(例如邏輯回歸模型,假設一方具有某些特徵 $ X_1 $ 和標籤 $ y $ , 另一個有一些其他的特點 $ X_2 $ . 係數表示為 $ W_1 $ 和 $ W_2 $ ,分別),方案使用“完全加密/遮罩”,加密/秘密共享訓練過程的所有中間結果。
然而,有些方案只是隱藏了部分中間結果,對於最“激進”的方案,只有 $ W_2X_2 $ 被加密或秘密共享。然後,發送給對方,對方解密/恢復 $ W_2X_2 $ 並像明文一樣繼續計算。這些方案認為,暴露 $ W_2X_2 $ 不會進一步透露資訊 $ X_2 $ 並且被認為是安全的。
我的問題是如何評估後者的安全性,是否有任何可能的攻擊來恢復原始數據或僅由一個參與者建立一個與最終聯邦模型幾乎相同的新模型?
這是一種攻擊:https
://arxiv.org/pdf/2011.09290.pdf 希望有所幫助。