查罗塔尔科技大学-差分隐私保护

原文标题：Deep Learning: Differential Privacy Preservation in the Era of Big Data
原文作者：Jalpesh Vasa, Amit Thakkar
发表会议：计算机信息系统学报
原文链接： https://doi.org/10.1080/08874417.2022.2089775
主题类型：隐私保护

论文工作

本文阐述了一些可能的攻击，阐述了在一些大数据平台中保护隐私的一些基本方法，并讨论了基于深度学习方法在隐私保护方面的有效性。最后给出了一种增强深度学习模型隐私保护的有效方法。

论文的主要贡献有以下三点：

• 提供对大数据时代中几种隐私侵犯攻击的深入洞察。
• 研究了深度学习中差分隐私保护的核心思想，以及它们的优缺点。
• 为深度学习方法中的隐私保护提供可能的研究方向

差分隐私实现机制

拉普拉斯机制和指数机制

面向大数据的深度学习差分隐私保护

攻击方法

• 深度学习中的成员推断攻击：由于训练集和测试集的行为不同而引起。对手推断一个数据集是否存在于训练数据集中。攻击![]
  模型如下

• 对抗攻击：修改原始图像，有意地通过混淆来干扰深度神经网络。攻击模型如下

• 模型和训练数据提取攻击：从攻击者复制的模型的个人数据中提取模型中训练的参数，从而导致训练集的隐私泄露

• 链接攻击：攻击者将匿名数据与不同数据集中的非匿名数据链接起来，造成隐私泄露。

• 干扰攻击：攻击者通过数据挖掘技术非法获取个人信息

• 关联攻击：攻击者可以根据背景知识生成相关信息，以此获得更多的隐私信息造数据隐私泄露。

隐私保护方法

• 基于 K-匿名的方法

  使用上述的方法实现数据的隐私保护，实验表明基于 K-匿名的方法不能很好的解决大数据环境下的隐私保护问题

• 基于优化算法方法

  通过实验表明该方法会造成信息损失，同时时间复杂度也更高

• 采用加密的方法实现隐私保护

这些算法的优点如下图所示。如点到点的云系统，该方法的能耗与与合作模型相比降低了 75%。蜜罐加密方案改进了攻击检查和安全性

• 基于深度学习的隐私保护方案

其中多方案差分隐私方法减少了通信花销，同时效率更高。私有卷积深度神经网络在不同的隐私预算中，保持相同的预测准确率。

• 深度学习的差分隐私保护方法
  包含 11 种差分隐私保护方案，这些方案提供了数据在深度学习中免受各种攻击的安全性，使端到端学习系统同时具有学习到的特征和分类器。

  其中加密深度神经网络云安全方法，包损失减少 10%，响应时间提高了 5%。

总结

由于大量私人数据的隐私问题，深度学习隐私保护是一个重要的研究领域。如果攻击者访问到用户的个人信息，将会造成用户数据的丢失。一个有效的隐私保护方案对深度学习中隐私保护的增强有很大的影响。

本篇论文总结了一些常见的隐私保护方案，同时探究不同的隐私保护方案各自的优点。其中基于深度学习的隐私保护方法比其他经典的方法更有效地保护数据隐私。