La chaire SAFE IA est cen­trée sur la thé­ma­tique de l’IA de confiance, et plus pré­ci­sé­ment sur la robus­tesse et la fia­bi­li­té des sys­tèmes d’intelligence artificielle.

Présentation

Ensei­gnant res­pon­sable de la chaire : Sébas­tien Destercke

Par­te­naires : SOPRA STERIA, mécène fon­da­teur de la Fon­da­tion UTC pour l’innovation, SCAI (The Sor­bonne Cen­ter for Arti­fi­cial Intel­li­gence), le CNRS et l’université de tech­no­lo­gie de Compiègne.

Assu­rer cette robus­tesse et fia­bi­li­té est en effet un aspect pri­mor­dial dans de nom­breuses appli­ca­tions, indus­trielles ou autres: détec­tion de défauts d’usinage, d’obstacles sur le che­min d’un trans­port auto­nome, de condi­tions médi­cales d’un patient, com­mande de robots, …

L’objectif de la chaire SAFE IA est de pro­po­ser de nou­velles méthodes pour garan­tir la robus­tesse des modèles d’IA, et de mettre ces méthodes à l’épreuve dans des cas d’études issus du monde indus­triel ou d’autres appli­ca­tions où avoir des garan­ties de fia­bi­li­té est essentiel.

La chaire regroupe des membres de 5 labo­ra­toires de l’UTC tra­vaillant sur l’IA elle-même et sur des domaines où l’IA est appe­lée à jouer un rôle de plus en impor­tant dans le futur. Il s’agit de l’équipe CID (dont fait par­tie le titu­laire) du labo­ra­toire Heu­dia­syc et du labo­ra­toire LMAC dont une par­tie des tra­vaux sont au cœur de l’IA, et des labo­ra­toires Rober­val, BMBI, Heu­dia­syc et Ave­nues qui portent autant de domaines dans les­quels l’IA est appe­lée à occu­per un espace pri­vi­lé­gié. Elle est de plus asso­ciée à Sopra Steria.

Axes scientifiques

La chaire com­bi­ne­ra des actions de recherche amonts pour déve­lop­per de nou­veaux outils d’IA capables de répondre aux pro­blèmes exis­tants ou futurs que ren­con­tre­ront leur appli­ca­tion, à des actions de mise en œuvre et d’innovation sur des cas d’études. Pour cela, elle explo­re­ra prin­ci­pa­le­ment 3 axes ou pro­blé­ma­tiques scientifiques :

Prédictions sûres et fiables 

L’enjeu de cet axe de recherche est de pou­voir pré­dire des pré­dic­tions dont le taux d’erreur est garan­ti, dans l’objectif d’augmenter la confiance dans les modèles et d’avancer vers une cer­ti­fi­ca­tion de ces der­niers. En par­ti­cu­lier, cet axe se foca­li­se­ra sur les pro­blèmes de four­nir de telles garan­ties pour chaque indi­vi­du , et non pas en moyenne, et de les pro­duire dans des espaces de pré­dic­tions com­plexes (pro­blèmes incluant une dimen­sion tem­po­relle, images, …)

Mots clefs : cali­bra­tion, garan­tie sta­tis­tiques, quan­ti­fi­ca­tion d’incertitude, pré­dic­tion confor­melle, appren­tis­sage avec abstention

Domaines appli­ca­tifs explo­rés : indus­trie 4.0. (pré­dic­tion de défauts), trans­ports auto­nomes (recon­nais­sance d’obstacle), villes intel­li­gentes et éner­gie (pré­dic­tion de consom­ma­tions futures), san­té (diag­nos­tic médical).

Modèles robustes

L’enjeu de cet axe de recherche est d’obtenir des modèles robustes à l’imperfection des don­nées dis­po­nibles (« small and bad » data plu­tôt que « big ») ou au fait que l’environnement de déploie­ment dif­fère de l’environnement d’apprentissage du modèle, par exemple lors d’un pas­sage de la simu­la­tion (in-sili­co) ou d’un envi­ron­ne­ment contrô­lé (in-vitro) vers un envi­ron­ne­ment réel (in-vivo), ou encore lorsque de nou­velles classes non-pré­sentes à l’apprentissage apparaissent.

Mots clefs : appren­tis­sage par trans­fert, opti­mi­sa­tion robuste, auto-appren­tis­sage, trans­port opti­mal, don­nées man­quantes ou par­tielles, détec­tion d’anomalies/nouveauté.

Domaines appli­ca­tifs explo­rés : conduite auto­nome et drones (simu­la­tion à com­mande en situa­tion réelle), san­té (modèle à patient), indus­trie 4.0. (détec­tion de nou­veau défauts).

Apprentissage collaboratif

L’enjeu de cet axe est d’améliorer la qua­li­té des modèles, soit via une col­la­bo­ra­tion modèle-modèle (par exemple des modèles s’appuyant sur dif­fé­rentes moda­li­tés ou mesures), soit via une col­la­bo­ra­tion modèle-humain (en sol­li­ci­tant l’expert de manière per­ti­nente et limitée).

Mots clefs : co-appren­tis­sage, auto-appren­tis­sage, appren­tis­sage actif, fusion de classifieurs.

Domaines appli­ca­tifs explo­rés : e‑santé (smart home), ville et trans­ports intel­li­gents (cap­teurs mul­tiples avec pos­sibles défaillance/absence).

Moyens

Il s’agit d’un pro­jet d’envergure, prin­ci­pa­le­ment finan­cé par la fon­da­tion UTC pour l’innovation et ses membres, avec des moyens humains mis à dis­po­si­tions par l’ensemble des par­te­naires. À son démar­rage, la chaire inclus et prévoit :

• 5 labo­ra­toires, 2 par­te­naires aca­dé­miques, 1 par­te­naire indus­triel, pour un total de + de 15 per­sonnes (cher­cheurs, ingé­nieurs, …) impliquées.
• 1 ingé­nieur de recherche pen­dant 3 ans
• 6 doc­to­rats
• + de 10 stages
• Des invi­ta­tions de pro­fes­seurs et cher­cheurs étrangers

Contacts de la recherche à l'UTC

Pla­quette de la recherche à l'UTC

• Augus­tin, lau­réat Ma Thèse en 180s
• Parole de diplô­mé : Cyril, Res­pon­sable Groupe Archi­tec­ture S.I.
• As de chœur – Medley