Fondements de la sécurité et de la confidentialité de l'IA
Détails de l'atelier
Informations pratiques
Aucun équipement spécifique requis.
Connaissance de base de l'IA et de l'apprentissage automatique.
À propos de cet atelier
Les systèmes d'intelligence artificielle (IA) sont de plus en plus intégrés dans les infrastructures critiques, les agents autonomes et les dispositifs physiques, créant des opportunités sans précédent mais aussi de nouveaux risques pour la sécurité, la confidentialité et la confiance sociétale. À mesure que l'IA devient incarnée et agentique—intégrée dans les diagnostics médicaux, les robots autonomes, les réseaux sans fil et les appareils périphériques—les vulnérabilités aux niveaux algorithmique et matériel exposent les individus, les organisations et les sociétés à des menaces qui transcendent les frontières traditionnelles de la cybersécurité.
De manière générale, nous visons à fournir un forum constructif pour promouvoir les collaborations de recherche internationales afin de faire progresser les fondements, les technologies et les mécanismes de gouvernance nécessaires pour concevoir, déployer et réguler des systèmes d'IA dignes de confiance.
Dans cette première édition de cet atelier aux AI Days 2026, nous inviterons des chercheurs prestigieux à parler de leurs travaux en cours sur le développement de méthodes vérifiables pour protéger les systèmes d'IA contre les attaques adversariales émergentes, l'empoisonnement de données et les atteintes à la vie privée.
Programme de l'atelier
13:00–13:05
Accueil et remarques introductives
13:05–13:30
Sayan Biswas, EPFL
Decentralized ML: Trust No One, Train Together
13:30–13:55
Yann Chevaleyre, Sorbonne University
Adversarial Attacks: From Image Classification Neural Networks to LLMs
13:55–14:05
Pause
14:05–14:30
Anastasiia Kucherenko, HES-SO Valais-Wallis
Understanding LLM Training Data: Search, Attribution, and Security Implications
14:30–14:55
Leonardo F. Toso, Columbia University
Learning What to Share: Feature Learning for Adversarially Robust Federated Systems
14:55–15:00
Remarques de clôture
Intervenants & Organisateurs
Dr. Rafael Pinot
Professeur junior, Département de Mathématiques (Organisateur)
Sorbonne University
Rafael est professeur junior au département de mathématiques de Sorbonne Université. Il détient une chaire sur les fondements mathématiques de l'informatique et de la science des données au sein de l'unité de recherche LPSM. Il est également membre actif de l'initiative IA Responsable au sein du Sorbonne Center for Artificial Intelligence (SCAI). De 2021 à 2023, il a été chercheur postdoctoral à l'École Polytechnique Fédérale de Lausanne, où il a travaillé avec le Pr. Rachid Guerraoui et la Pr. Anne-Marie Kermarrec au sein du Centre de recherche Ecocloud. De 2017 à 2020, il a complété son doctorat en informatique à l'Université PSL (Paris Dauphine) et l'Université Paris Saclay (CEA LIST) où il a été encadré par le Pr. Jamal Atif, le Dr. Florian Yger et le Dr. Cédric Gouy-Pailler.
Dr. Nirupam Gupta
Professeur assistant titularisable en Informatique (Organisateur)
University of Copenhagen
Nirupam est professeur assistant titularisable dans la section ML du département d'informatique de l'Université de Copenhague (DIKU). Avant de rejoindre DIKU, il était chercheur postdoctoral à l'École d'informatique de l'EPFL (Suisse) et au département d'informatique de l'Université de Georgetown (États-Unis). Il a obtenu son doctorat en 2019 de l'Université du Maryland College Park (États-Unis) et son diplôme de licence en 2013 de l'Indian Institute of Technology Delhi (Inde).
Prof. Yann Chevaleyre
Professeur ordinaire, Département de Mathématiques
Sorbonne University (LAMSADE)
Yann Chevaleyre est professeur ordinaire au département de mathématiques de Sorbonne Université. Il détient une chaire sur les fondements mathématiques de l'informatique et de la science des données au sein de l'unité de recherche LPSM. Il est également membre actif de l'initiative IA Responsable au sein du Sorbonne Center for Artificial Intelligence (SCAI). Depuis 2024, il est responsable de l'équipe Data Science à LAMSADE. Ses recherches portent sur l'apprentissage automatique, l'apprentissage par renforcement, la théorie des jeux et la robustesse adversariale dans les systèmes d'IA.
Dr. Sayan Biswas
Chercheur postdoctoral
EPFL - Scalable Computing Systems (SaCS) Lab
Sayan Biswas est chercheur postdoctoral au laboratoire Scalable Computing Systems (SaCS) de l'EPFL, sous la supervision de la Prof. Anne-Marie Kermarrec. Il a complété son doctorat en informatique à l'INRIA et à l'École Polytechnique en 2023. Ses recherches portent sur la conception de systèmes distribués sécurisés et dignes de confiance pour l'apprentissage décentralisé et l'entraînement de modèles ML, en mettant l'accent sur les approches préservant la vie privée, la confidentialité différentielle, l'apprentissage fédéré, l'équité et la personnalisation. Il a été reconnu avec le Best Paper Award à CADE 2022 et a publié largement dans les meilleurs lieux de publication, notamment ICML, PoPETs et autres conférences de premier ordre.
Dr. Anastasiia Kucherenko
Chercheuse postdoctorale
Institute of Entrepreneurship and Management, HES-SO Valais-Wallis
Anastasiia Kucherenko est chercheuse en informatique possédant une solide formation mathématique, passionnée par la résolution de problèmes du monde réel. Actuellement axée sur la sécurité de l'IA, elle se spécialise dans l'attribution des données d'entraînement—la première étape vers l'IA explicable. Ses domaines d'expertise en recherche incluent les protocoles de gossip et épidémiques, la confidentialité différentielle, les algorithmes distribués, la théorie des probabilités, la théorie des graphes, la science des réseaux, la cryptographie et la théorie de la complexité.
Leonardo F. Toso
Doctorant
Columbia University, Department of Electrical Engineering
Leonardo F. Toso est doctorant en quatrième année en génie électrique à l'Université Columbia, sous la direction du Prof. James Anderson. Il est Fellow présidentiel et CAIRFI (Center for AI and Responsible Financial Innovation). Ses recherches portent sur l'intersection de la théorie du contrôle, de l'apprentissage automatique et de l'optimisation, avec un accent particulier sur l'apprentissage par transfert, l'apprentissage fédéré et le contrôle adaptatif. Son travail intègre la sécurité, la robustesse et l'apprentissage dans des systèmes distribués complexes. Il a reçu le Best Paper Award à L4DC 2024 et le Outstanding Paper Award à CDC 2025, et a publié largement dans les meilleurs lieux de publication, notamment ICLR, AAAI et autres conférences de premier ordre.