L’éthique au cœur de la formation en intelligence artificielle

En quelques années, le métier de spécialiste de la science des données (data scientist) s’est décliné en plusieurs profils. Le Guide des métiers de la science des données par Télécom Paris, dans son édition de mars 2019, en dénombrait ainsi vingt, comme l’ingénieur en apprentissage machine ou l’ingénieur IA. On attend de ces femmes et de ces hommes, responsables du déploiement de ces technologies dans notre quotidien, une haute conscience des impacts de l’IA sur la société. Considérer les questions éthiques tout au long de la formation est la voie que propose le Mastère Spécialisé® IA de Télécom Paris.

Deux Mastères Spécialisés® autour des données et de l’intelligence artificielle sont proposés par Télécom Paris. Si le MS Big Data existe depuis 2013, le MS IA, issu d’un partenariat entre Télécom Paris et l’ENSTA Paris, est venu compléter l’offre de formation en 2019. Il partage avec lui plusieurs enseignements fondamentaux, comme les sciences de la donnée, les mathématiques et l’apprentissage machine, mais en diffère par des thématiques propres comme l’IA symbolique, l’apprentissage pour la robotique, le traitement du langage ou les interactions humain-machine. Les deux MS ont également pour objectif de former les étudiants aux aspects socio-économiques de la science des données. Ainsi, le module de 24h intitulé « Enjeux sociaux, économiques et juridiques de l’IA et de la science des données » du MS IA traite d’éthique de l’intelligence artificielle et démarre dès la rentrée.

Une formation à l’éthique tout au long du cursus

« C’est tout à fait volontaire de commencer dès le début du MS IA par une prise de conscience des enjeux liés à l’éthique », explique Valérie Beaudouin, une des deux responsables de ce module, professeure de Sociologie à Télécom Paris et spécialiste des usages du numérique, « et tout à fait essentiel de poursuivre la réflexion sur 4 mois ». Ainsi, le questionnement éthique nourrit en continu les apports théoriques du cursus.

Les étudiantes et étudiants – âgés de 30 à 40 ans avec déjà un parcours professionnel derrière eux, ou jeunes diplômés – ne partent pas vierges de tout préjugé sur les IA. Ils sont confrontés depuis longtemps à des discours média au ton alarmiste, voire inquiétant. Plutôt sensibles au caractère somme toute exagéré de ces propos, ils ne veulent pas pour autant entrer dans des métiers « à risques ». Le module sur les enjeux éthiques de l’IA leur offre un espace de discussion, de remise en perspective, permettant de trouver des solutions. Il est un rendez-vous régulier qu’ils apprécient.

Intégrer les questions éthiques est encore rare dans les formations. Le témoignage d’un data scientist ayant changé d’orientation par la suite, en observant comment l’IA bouleversait les métiers de ses collaborateurs, a motivé Valérie Beaudouin pour créer cette formation : « Il faut permettre aux jeunes d’aller vers ces métiers sans contradiction avec leurs valeurs morales. » D’autant plus que la demande est forte, entre les acteurs de la santé, de la cybersécurité, de la banque-assurance, des transports, de l’industrie automobile, de la grande distribution et des services en ligne.

Un enseignement qui privilégie le traitement des sujets par des voix différentes

Par la variété de leurs champs disciplinaires d’origine (sociologie, droit, économie, communication), les enseignants du module ont des points de vue très différents, ce qui est une des forces de ce Mastère Spécialisé®. Winston Maxwell, également responsable du module éthique et directeur d’études en droit et numérique à Télécom Paris se souvient : « L’équipe pédagogique s’est posée un temps la question de savoir s’il ne faudrait pas différencier les sujets d’études et les cas d’usages par enseignant-chercheur, chacun traitant seul et totalement un cas. » Il est apparu au contraire qu’il serait beaucoup plus instructif qu’un même cas soit traité plusieurs fois via des angles d’attaque différents. Valérie Beaudouin ajoute : « Les étudiants apprécient cette différence des voix. Ils apprécient également que les enseignants-chercheurs se posent aussi des questions. »

Un projet d’étude tient une place centrale dans le cursus. Pour cette première année du MS IA, les apprenants ont été réunis avec 30 élèves du cycle ingénieur, plus jeunes, et à tous a été demandé d’analyser une problématique (quel avenir pour le travail avec l’IA et la robotique, l’attachement émotionnel aux robots, l’intelligence de la machine peut-elle dépasser celle de l’humain, les algorithmes sont-ils biaisés…) à partir de prises de position de chercheurs ou d’experts, d’une œuvre de fiction et de travaux de recherche sur des pratiques concrètes. Le résultat est une cartographie très riche de l’ensemble des problèmes actuels liés à l’IA.

Le module éthique n’est que le début

Le choix de mener le questionnement éthique dès le début et en continu tout au long du cursus du MS IA offre aux élèves le meilleur élan pour garder leurs sens éthiques en éveil. Les deux enseignants-chercheurs sont heureux, car cela s’exprime dans les grands sujets qui ont marqué les élèves, reflet de leur évolution tout au long de l’année. En premier lieu, « la question des injustices et des inégalités » s’est révélée à eux. Sur l’avenir du travail, ils ont saisi que les positions sont beaucoup plus nuancées et que tout n’est pas forcément dramatique. N’ayant pas nécessairement auparavant été attirés par la chose juridique, ils ont pris pleinement conscience que cet environnement évolue en fonction de la technologie. Enfin, les questions sur le respect de la vie privée les ont amenés également à mieux prendre garde à leurs choix techniques, par exemple savoir « comment conserver un apprentissage statistique optimal même avec des tailles d’échantillons d’apprentissage réduites. »

La formation théorique du MS IA qui s’étend de septembre à juin se poursuit par un stage de 4 à 6 mois en entreprise, en vue de la réalisation d’une thèse professionnelle. L’occasion pour les élèves de mettre encore plus en pratique les éclairages que leur ont apportés les sciences sociales et les humanités.