Cette thèse aura lieu dans le cadre du projet DEEL et portera sur l’utilisation de techniques issues du calcul-multi-parties sécuritaire afin de faire avancer les connaissances en apprentissage machine équivoque (sur des données privées/confidentielles).
Cette thèse aura lieu dans le cadre du projet DEEL et portera sur l’utilisation du chiffrement homomorphe afin de faire avancer les connaissances en apprentissage machine équivoque (sur des données privées/confidentielles).
Un schéma de chiffrement homomorphe (HE) [10] permet de calculer une fonction (ou un circuit) arbitraire sur des données chiffrées de telle manière à ce que l’entité effectuant le calcul (ex : un fournisseur de ressources de calcul) n’apprenne aucune information sur les données d’entrée ou même la sortie du calcul. De pure vue de l’esprit pendant une trentaine d’années, le HE est devenu ces dernières années, en partie notamment aux avancées concernant le calcul sur les réseaux Euclidiens, un outil utilisable en pratique [2], même si sa performance en termes de temps de calcul n’est pas encore satisfaisante pour permettre un déploiement à très large échelle. En particulier, des schémas de chiffrement partiellement homomorphe, dont le nombre d’opération dans le monde des chiffrés est paramétré, ont permis des avancées notables dans le monde des technologies d’amélioration du respect de la vie privée [1].
Un schéma de chiffrement homomorphe (HE) permet de calculer une fonction (ou un circuit) arbitraire sur des données chiffrées de telle manière à ce que l’entité effectuant le calcul (ex : un fournisseur de ressources de calcul) n’apprenne aucune information sur les données d’entrée ou même la sortie du calcul. De pure vue de l’esprit pendant une trentaine d’années, le HE est devenu ces dernières années, en partie notamment aux avancées concernant le calcul sur les réseaux Euclidiens, un outil utilisable en pratique [2], même si sa performance en termes de temps de calcul n’est pas encore satisfaisante pour permettre un déploiement à très large échelle. En particulier, des schémas de chiffrement partiellement homomorphe, dont le nombre d’opération dans le monde des chiffrés est paramétré, ont permis des avancées notables dans le monde des technologies d’amélioration du respect de la vie privée [1].
In this talk, I introduced the challenges of confidentiality, and more generally security, in machine learning and some research avenues from my research group.
Dans cette présentation, j’ai présenté les enjeux de confiance dans l’IA et le ML, exposé quelques pisptes explorées dans mon équipe relatives au chiffrement homomorphe et quelques avenues de travaux futurs.
In this talk, I introduced the challenges of confidentiality, and more generally security, in machine learning as I chaired the Confidentiality session of the Mobilit’AI 2024 Conference.
De nos jours, les sources de données, et leurs curateurs, sont répartis à travers le monde. Il arrive que les propriétaires de ces données souhaitent collaborer entre eux afin d’augmenter la qualité de ces données, particulièrement avant d’entrainer des modèles d’apprentissage machine.
In this talk, I presented the challenges faced when using a blackbox privacy enhancing technology, in particular regarding its asumptions. I illustrated the complexity of trusting the promises of confidentiality of the inputs, in particular when using a SMPC mechanism where the participants, or an eavesdropper, learn only the output of the mechanism. From the output of CryptoGraph, a mechanism for privately curating graph data, an adversary is able to reconstruct most of the input of the participants.
De nos jours, les sources de données, et leurs curateurs, sont répartis à travers le monde. Il arrive que les propriétaires de ces données souhaitent collaborer entre eux afin d’augmenter la qualité de ces données, particulièrement avant d’entrainer des modèles d’apprentissage machine.
A l’automne 2020, je vais enseigner le cours INF4471, Introduction à la sécurité informatique, au Bac d’Informatique de l’UQAM. Le cours sera donné à distance, comme tous les cours des universités Montréalaises de l’automne 2020. Le cours sera probablement proposé sur Moodle.
Depuis l’hiver 2021, j’enseigne regulierement le cours INF8700, Securite des systemes, donnees, contrats, en Maitrise d’Informatique, de TI, etc. de l’UQAM. Tout le matériel de cours est sur Moodle.
À partir de l’hiver 2025, et au titre de la direction des programmes de Maitrise en Informatique et du Doctorat en Informatique, j’enseignerai le cours INF8700, Introduction à la recherche. Tout le matériel de cours est sur Moodle.