Differential-Privacy

對差分隱私的敏感性

  • August 20, 2020

我想驗證我的敏感性知識。所以在 $ \epsilon $ -差分隱私,根據敏感度和隱私損失參數使用拉普拉斯機制添加雜訊。拉普拉斯考慮了全域靈敏度,雜訊在 L1 範數 ιn 上進行縮放 $ \epsilon-\delta $ 差分隱私雜訊是通過考慮局部敏感性並使用 L2 範數作為度量的高斯機制添加的,我是對的還是我錯過了什麼?我認為也許我以某種方式混淆了這些概念。

差分隱私書是該領域的典型參考資料,在這裡非常有用。由於這個答案基本上相當於引用那本書,我將介紹如何找到正確的東西來引用。

Ctrl+F-ing “拉普拉斯”,我們找到定理 3.6,它指出拉普拉斯機制是 $ (\epsilon,0) $ -差分私有。這個機制增加了iid $ \mathsf{Lap}(\Delta f/\epsilon) $ 輸出雜訊,其中(如您所述): $$ \Delta f = \max_{\substack{x, y\in\mathbb{N}^{|\mathcal{X}|}\\lVert x - y\rVert_1 = 1}} \lVert f(x) - f(y)\rVert_1 $$ 所以這是 $ \ell_1 $ 版本的靈敏度。

Ctrl+F-ing “Gaussian”,我們看到它適用於通過以下方式定義的靈敏度: $$ \Delta_2 f = \max_{\substack{x, y\in\mathbb{N}^{|\mathcal{X}|}\\lVert x - y\rVert_1 = 1}} \lVert f(x) - f(y)\rVert_2 $$ 這是個 $ \ell_2 $ 敏感性的概念(儘管注意“相鄰數據集” $ x, y $ 仍然在 1 以內 $ \ell_1 $ 規範,這意味著它們最多仍然存在一行不同)。然後定理 3.22 表明 $ (\epsilon, \delta) $ 差分私有,高斯機制增加了獨立同分佈雜訊 $ \mathcal{N}(0, 2\ln(1.25/\delta) \Delta_2(f)^2/\epsilon^2) $ 到函式的輸出。

引用自:https://crypto.stackexchange.com/questions/83445