Chaire en intelligence artificielle de confiance
La chaire SAFE IA est centrée sur la thématique de l’IA de confiance, et plus précisément sur la robustesse et la fiabilité des systèmes d’intelligence artificielle.
La chaire SAFE IA est financée par la Fondation UTC pour l'innovation.
Présentation
Enseignant responsable de la chaire : Sébastien Destercke
Partenaires : SOPRA STERIA, mécène fondateur de la Fondation UTC pour l’innovation, SCAI (The Sorbonne Center for Artificial Intelligence), le CNRS et l’université de technologie de Compiègne.
Assurer cette robustesse et fiabilité est en effet un aspect primordial dans de nombreuses applications, industrielles ou autres: détection de défauts d’usinage, d’obstacles sur le chemin d’un transport autonome, de conditions médicales d’un patient, commande de robots, …
L’objectif de la chaire SAFE IA est de proposer de nouvelles méthodes pour garantir la robustesse des modèles d’IA, et de mettre ces méthodes à l’épreuve dans des cas d’études issus du monde industriel ou d’autres applications où avoir des garanties de fiabilité est essentiel.
La chaire regroupe des membres de 5 laboratoires de l’UTC travaillant sur l’IA elle-même et sur des domaines où l’IA est appelée à jouer un rôle de plus en important dans le futur. Il s’agit de l’équipe CID (dont fait partie le titulaire) du laboratoire Heudiasyc et du laboratoire LMAC dont une partie des travaux sont au cœur de l’IA, et des laboratoires Roberval, BMBI, Heudiasyc et Avenues qui portent autant de domaines dans lesquels l’IA est appelée à occuper un espace privilégié. Elle est de plus associée à Sopra Steria.
Axes scientifiques
La chaire combinera des actions de recherche amonts pour développer de nouveaux outils d’IA capables de répondre aux problèmes existants ou futurs que rencontreront leur application, à des actions de mise en œuvre et d’innovation sur des cas d’études. Pour cela, elle explorera principalement 3 axes ou problématiques scientifiques :
Prédictions sûres et fiables
L’enjeu de cet axe de recherche est de pouvoir prédire des prédictions dont le taux d’erreur est garanti, dans l’objectif d’augmenter la confiance dans les modèles et d’avancer vers une certification de ces derniers. En particulier, cet axe se focalisera sur les problèmes de fournir de telles garanties pour chaque individu , et non pas en moyenne, et de les produire dans des espaces de prédictions complexes (problèmes incluant une dimension temporelle, images, …)
Mots clefs : calibration, garantie statistiques, quantification d’incertitude, prédiction conformelle, apprentissage avec abstention
Domaines applicatifs explorés : industrie 4.0. (prédiction de défauts), transports autonomes (reconnaissance d’obstacle), villes intelligentes et énergie (prédiction de consommations futures), santé (diagnostic médical).
Modèles robustes
L’enjeu de cet axe de recherche est d’obtenir des modèles robustes à l’imperfection des données disponibles (« small and bad » data plutôt que « big ») ou au fait que l’environnement de déploiement diffère de l’environnement d’apprentissage du modèle, par exemple lors d’un passage de la simulation (in-silico) ou d’un environnement contrôlé (in-vitro) vers un environnement réel (in-vivo), ou encore lorsque de nouvelles classes non-présentes à l’apprentissage apparaissent.
Mots clefs : apprentissage par transfert, optimisation robuste, auto-apprentissage, transport optimal, données manquantes ou partielles, détection d’anomalies/nouveauté.
Domaines applicatifs explorés : conduite autonome et drones (simulation à commande en situation réelle), santé (modèle à patient), industrie 4.0. (détection de nouveau défauts).
Apprentissage collaboratif
L’enjeu de cet axe est d’améliorer la qualité des modèles, soit via une collaboration modèle-modèle (par exemple des modèles s’appuyant sur différentes modalités ou mesures), soit via une collaboration modèle-humain (en sollicitant l’expert de manière pertinente et limitée).
Mots clefs : co-apprentissage, auto-apprentissage, apprentissage actif, fusion de classifieurs.
Domaines applicatifs explorés : e‑santé (smart home), ville et transports intelligents (capteurs multiples avec possibles défaillance/absence).
Moyens
Il s’agit d’un projet d’envergure, principalement financé par la fondation UTC pour l’innovation et ses membres, avec des moyens humains mis à dispositions par l’ensemble des partenaires. À son démarrage, la chaire inclus et prévoit :
- 5 laboratoires, 2 partenaires académiques, 1 partenaire industriel, pour un total de + de 15 personnes (chercheurs, ingénieurs, …) impliquées.
- 1 ingénieur de recherche pendant 3 ans
- 6 doctorats
- + de 10 stages
- Des invitations de professeurs et chercheurs étrangers
Contacts de la recherche à l'UTC