Privacy Preserving and Robust Aggregation for Cross-Silo Federated Learning in Non-IID Settings

作者: Marco Arazzi, Mert Cihangiroglu, Antonino Nocera

发布时间: 2025-03-07

来源: arxiv

研究方向: 联邦学习

主要内容

该研究提出了一种针对非独立同分布（non-IID）环境下跨数据孤岛联邦学习的隐私保护和鲁棒聚合策略。该策略通过引入类感知梯度掩码，有效解决了联邦学习在非独立同分布数据设置下的性能退化问题，同时提高了隐私保护和鲁棒性。

1. 设计了一种自适应掩码机制，能够防御后门攻击和收敛预防攻击，通过仅使用梯度聚合来保护隐私。

2. 在高度挑战性的非独立同分布设置下评估了提出的方法，并验证了其在多个数据集和攻击场景中的性能。

3. 在多个数据集和Dirichlet分布上进行的广泛实验表明，该方法在非独立同分布设置中不仅优于FedAvg和其他广泛接受的聚合策略，而且在对抗场景中也能保持模型完整性。

1. 类感知梯度掩码

2. 自适应掩码机制

3. 梯度聚合

4. 加权平均聚合

5. Dirichlet分布

实验结果表明，该方法在非独立同分布设置中优于传统的聚合策略，例如FedAvg、FedProx、FedNova和SCAFFOLD，平均提高了5-20%的准确率。此外，该方法显著降低了对抗威胁，大大降低了攻击成功率，同时保持了稳健的模型性能。

未来的工作可能集中在优化掩码计算、利用近似梯度评估和集成自适应掩码机制，以加速收敛同时保留性能优势。