Machine learning and privacy protection : Attacks and defenses

Apprentissage automatique et protection de la vie privée : attaques et défenses L'adoption croissante d'algorithmes d'apprentissage automatique dans des domaines sensibles à la protection de la vie privée a révolutionné l'analyse des données dans de nombreux domaines. Ces algorithmes, notamment les réseaux neuronaux profonds, l'analyse en composantes principales (PCA) et les réseaux neuronaux graphiques (GNN), traitent de grandes quantités de données pour en extraire des informations utiles et précieuses. L'intégration de ces techniques dans des applications critiques traitant des informations sensibles, comme des dossiers médicaux ou des données des réseaux sociaux, a permis des avancées significatives dans l'analyse des données et les capacités de prédiction. Cependant, à mesure que ces modèles de ML deviennent plus répandus, ils exposent involontairement des vulnérabilités qui peuvent compromettre la vie privée des individus par le biais de divers vecteurs d'attaque. Cette thèse aborde les défis critiques en matière de protection de la vie privée posés par les systèmes modernes de ML, en se concentrant particulièrement sur les attaques par inférence d'appartenance (MIA) et les attaques par inférence de lien (LIA). Nous proposons de nouvelles méthodologies d'attaque et des mesures défensives correspondantes qui améliorent notre compréhension des vulnérabilités en matière de protection de la vie privée tout en fournissant des solutions pratiques pour la protection de la vie privée. Nous visons à concevoir ces solutions tout en maintenant un équilibre prudent entre la protection de la vie privée et l'utilité du modèle, en particulier pour les applications de ML du monde réel. Dans notre première contribution, nous présentons une nouvelle attaque MIA contre le PCA, où un adversaire peut déterminer si un échantillon spécifique a été utilisé dans le calcul des composantes principales. Nous démontrons que cette attaque atteint des taux de réussite élevés, en particulier lorsque le nombre d'échantillons utilisés par le PCA est relativement faible. Pour contrer cette vulnérabilité, nous étudions différentes approches de mise en œuvre de mécanismes différentiels de protection de la vie privée (DP) dans le PCA, en analysant leur efficacité en matière de protection contre les MIAs tout en préservant l'utilité des données. Nous fournissons des preuves empiriques complètes montrant les compromis entre les garanties de confidentialité et la performance du modèle. Dans notre deuxième contribution, nous présentons une nouvelle attaque d'inférence de liens (LIA), à savoir l'attaque Node Injection Link Stealing (NILS) contre les GNN, qui démontre comment un adversaire peut exploiter la nature dynamique des GNNs en injectant des nœuds malveillants pour déduire des informations sur les arêtes. Nous évaluons cette attaque en fonction d'une nouvelle notion de confidentialité différentielle dédiée aux structures de graphes et proposons des stratégies de défense dédiées. Enfin, notre troisième contribution se concentre sur le cadre distribué, c'est-à-dire l'apprentissage vertical fédéré des graphes (VFGL), et nous développons une attaque LIA basée sur le gradient qui révèle comment les informations sur le gradient dans le FL peuvent laisser échapper des détails sur la structure des graphes. Comme pour NILS, cette attaque est également évaluée sur différents ensembles de données et architectures de modèles, et des stratégies défensives spécifiques basées sur des mécanismes DP sont proposées.