Статья в журнале · 2025
Сжатие с учётом конфиденциальности в федеративном обучении: всесторонний обзор механизмов, методов и компромиссов
Privacy-Aware Compression for Federated Learning: A Comprehensive Survey of Mechanisms, Methods, and Trade-offs
International Journal of Latest Research in Engineering and Technology (IJLRET), vol. 11 (12), 7–21 ·
Аннотация
Федеративное обучение (FL) позволяет распределённым клиентам совместно обучать модель, сохраняя конфиденциальность данных: необработанные данные не передаются. Однако системам FL приходится искать баланс между тремя конкурирующими целями — защитой приватности, эффективностью передачи данных и точностью модели. В этом всестороннем обзоре рассматриваются современные методы и механизмы, решающие эти задачи с помощью сжатия с учётом конфиденциальности. С помощью структурированной методики поиска мы систематически изучили 50 ключевых работ, опубликованных в ведущих изданиях в 2018–2025 годах. Рассмотренные подходы объединены в четыре основных семейства: (i) численное проектирование механизмов (например, механизмы Minimum Variance Unbiased и Interpolated MVU), совместно оптимизирующие распределение шума и битовый бюджет; (ii) методы сжатия (квантование, разреживание, сжатые измерения и обучаемые автокодировщики) с гарантиями приватности; (iii) теоретико-игровые модели с совместимыми стимулами (например, аукционы и теория контрактов) для персонализированных бюджетов приватности; (iv) практические реализации на периферийных устройствах и в системах IoT. Эмпирические данные показывают, что продуманные сочетания этих подходов сокращают объём передаваемых данных на 50–90 %, сохраняя точность модели в пределах 1–3 % от базовых моделей без защиты приватности при формальных ограничениях (например, дифференциальная приватность с ε ≤ 2). Мы выделяем нерешённые проблемы: нелинейные компромиссы между приватностью, полезностью и объёмом передачи, устойчивость к адаптивным противникам, неоднородность клиентов и практическую применимость. В заключение обсуждаются открытые направления исследований: сжатие, устойчивое к византийским атакам, соответствие нормативным требованиям на практике и адаптивные схемы онлайн-сжатия. Обзор даёт единый взгляд на то, как сочетать проектирование механизмов, криптографию и методы теории обучения для создания практичных, доказуемо приватных и эффективных по передаче данных систем федеративного обучения.
Нанькайский университет, Тяньцзинь, Китай.