Adversarial examples for poisoning attacks against federated learning
波 王, 晓蕊 代, 伟 王, 菲 于, 飞 魏, 梦楠 赵 · Scientia Sinica Informationis · 2022
为了解决传统的机器学习中数据孤岛和数据隐私问题, 联邦学习技术应运而生. 现有的联邦学习方法采用多个不共享私有数据的参与方联合训练得到了更优的全局模型. 然而研究表明, 联邦学习仍然存在很多安全问题. 典型地如在训练阶段受到恶意参与方的攻击, 导致联邦学习全局模型失效和参与方隐私泄露. 本文通过研究对抗样本在训练阶段对联邦学习系统进行投毒攻击的有效性, 以发现联邦学习系统的潜在安全问题. 尽管对抗样本常用于在测试阶段对机器学习模型进行攻击, 但本文中, 恶意参与方将对抗样本用于本地模型训练, 旨在使得本地模型学习混乱的样本分类特征, 从而生成恶意的本地模型参数. 为了让恶意参与方主导联邦学习训练过程, 本文进一步使用了`` 学习率放大"的策略. 实验表明, 相比于Fed-Deepconfuse攻击方法，本文的攻击在CIFAR10数据集和MNIST数据集上均获得了更优的攻击性能.