行业查询网站,做网站切片,自己成立一家公司需要什么,腾讯云官网登录入口ChatGPT狂飙160天#xff0c;世界已经不是之前的样子。 新建了免费的人工智能中文站https://ai.weoknow.com 新建了收费的人工智能中文站https://ai.hzytsoft.cn/
更多资源欢迎关注 联邦学习使多个参与方可以在数据隐私得到保护的情况下训练机器学习模型。但是由于服务器无法… ChatGPT狂飙160天世界已经不是之前的样子。 新建了免费的人工智能中文站https://ai.weoknow.com 新建了收费的人工智能中文站https://ai.hzytsoft.cn/
更多资源欢迎关注 联邦学习使多个参与方可以在数据隐私得到保护的情况下训练机器学习模型。但是由于服务器无法监控参与者在本地进行的训练过程参与者可以篡改本地训练模型从而对联邦学习的全局模型构成安全序隐患如后门攻击。 本文重点关注如何在有防御保护的训练框架下对联邦学习发起后门攻击。本文发现后门攻击的植入与部分神经网络层的相关性更高并将这些层称为后门攻击关键层。 基于后门关键层的发现本文提出通过攻击后门关键层绕过防御算法检测从而可以控制少量的参与者进行高效的后门攻击。 论文题目Backdoor Federated Learning By Poisoning Backdoor-Critical Layers
论文链接https://openreview.net/pdf?idAJBGSVSTT2
代码链接https://github.com/zhmzm/Poisoning_Backdoor-critical_Layers_Attack 方法 本文提出层替换方法识别后门关键层。具体方法如下 第一步先将模型在干净数据集上训练至收敛并保存模型参数记为良性模型 。再将良性模型的复制在含有后门的数据集上训练收敛后保存模型参数并记为恶意模型 。 第二步取良性模型中一层参数替换到包含后门的恶意模型中并计算所得到的模型的后门攻击成功率 。将得到的后门攻击成功率与恶意模型的后门攻击成功率 BSR 做差得到 △BSR可得到该层对后门攻击的影响程度。对神经网络中每一层使用相同的方法可得到一个记录所有层对后门攻击影响程度的列表。 第三步对所有层按照对后门攻击的影响程度进行排序。将列表中影响程度最大的一层取出并加入后门攻击关键层集合 并将恶意模型中的后门攻击关键层在集合 中的层参数植入良性模型。计算所得到模型的后门攻击成功率 。如果后门攻击成功率大于所设阈值 τ 乘以恶意模型后门攻击成功率 则停止算法。若不满足则继续将列表所剩层中最大的一层加入后门攻击关键层 直到满足条件。
在得到后门攻击关键层的集合之后本文提出通过攻击后门关键层的方法来绕过防御方法的检测。除此之外本文引入模拟聚合和良性模型中心进一步减小与其他良性模型的距离。 实验结果 本文对多个防御方法在 CIFAR-10 和 MNIST 数据集上验证了基于后门关键层攻击的有效性。实验将分别使用后门攻击成功率 BSR 和恶意模型接收率 MAR良性模型接收率 BAR作为衡量攻击有效性的指标。 首先基于层的攻击 LP Attack 可以让恶意客户端获得很高的选取率。如下表所示LP Attack 在 CIFAR-10 数据集上得到了 90% 的接收率远高于良性用户的 34%。 然后LP Attack 可以取得很高的后门攻击成功率即使在只有 10% 恶意客户端的设定下。如下表所示LP Attack 在不同的数据集和不同的防御方法保护下均能取得很高的后门攻击成功率 BSR。 在消融实验中本文分别对后门关键层和非后门关键层进行投毒并测量两种实验的后门攻击成功率。如下图所示攻击相同层数的情况下对非后门关键层进行投毒的成功率远低于对后门关键层进行投毒这表明本文的算法可以选择出有效的后门攻击关键层。 除此之外我们对模型聚合模块 Model Averaging 和自适应控制模块 Adaptive Control 进行消融实验。如下表所示这两个模块均对提升选取率和后门攻击成功率证明了这两个模块的有效性。 ChatGPT狂飙160天世界已经不是之前的样子。 新建了免费的人工智能中文站https://ai.weoknow.com 新建了收费的人工智能中文站https://ai.hzytsoft.cn/
更多资源欢迎关注
