LES FEMMES AU SERVICE D’UNE IA ÉTHIQUE

Le volet recherche d’ANITI cible une IA certifiable, collaborative et acceptable, au sens social, économique, juridique et éthique. Une des problématiques de l’IA éthique[1] est de garantir l’absence de biais, de discrimination ou d’exclusion dans les décisions prises à partir des données numériques d’une personne (âge, genre, origine ethnique, nationalité, ….).

A contrario, une IA utilisant un algorithme biaisé peut avoir de lourdes conséquences. Ainsi, Amazon a dû désactiver une application qui discriminait les candidatures de femmes à l’embauche[2], IBM[3], mais aussi Amazon et Microsoft ont dû retirer leurs algorithmes de reconnaissance faciale[4].

Un algorithme peut devenir « sexiste » du fait que les données d’apprentissage peuvent être biaisées et que les algorithmes sont conçus à 88% par des hommes[5]. En réponse à cela, on peut détecter et éliminer les biais dans les données et dans les algorithmes, ce qui constitue un axe de recherche majeur d’ANITI, mais aussi impliquer davantage les femmes.

COMMENT FAIRE REVENIR LES FEMMES ?

Historiquement, les femmes ont occupé une place importante en informatique, puis elles s’en sont progressivement éloignées. De plus, l’IA est multidisciplinaire, des mathématiques aux sciences cognitives, en passant par les neurosciences et l’informatique. Progressivement ces matières se sont masculinisées. La spécialité Numérique et Science Informatique est choisie en 2020 par 15 à 20 % de lycéen·ne·s dont moins de 3 % de jeunes filles. Il y a à peine 10 % d’étudiantes à l’université en informatique. Au final, l’IA pâtit de cette absence de « vocations » féminines[6].

Mais il est possible de ré-intéresser les femmes aux sciences en général, au numérique en particulier. Par exemple, les écoles comme Girls who Code aux États-Unis, rencontrent un grand succès.

En France, le rapport sur l’IA, dirigé par Cédric Villani, prône une IA éthique et inclusive et donnait une cible de 40 % d’étudiantes dans le numérique à l’horizon 2020. Les quatre instituts d’Intelligence artificielle, créés suite à ce rapport, vont de fait être évalués sur les actions menées en faveur de la mixité, tant sur le volet recherche que sur le volet de la formation.

RÔLE ET FONCTIONNEMENT DE LA COMMISSION ANITI SUR LA MIXITÉ

Face à ce constat, en novembre 2019, ANITI a mis en place une commission[7] en vue de contribuer à la diversité de genre en IA. Au-delà d’améliorer le taux de présence féminine dans ANITI, il s’agit de sensibiliser le grand public aux enjeux de l’IA éthique et d’inciter les femmes de tous âges à travailler dans les domaines de l’IA.

La commission définit et lance des actions visant à combattre les préjugés sur l’IA et à lutter contre les stéréotypes de genre. La cible est en priorité le milieu scolaire, filles et garçons, car on sait que les stéréotypes sont ancrés dès le plus jeune âge.

La commission veille à la représentativité des femmes dans les événements auxquels ANITI participe. Elle est aussi vigilante sur l’aspect mixité dans la diffusion de la culture scientifique, comme la création d’un jeu pédagogique pour les lycéen·ne·s qui inclut la sensibilisation aux biais et un débat sur les enjeux d’une IA acceptable.

Ces actions se font en coordination avec le Rectorat, la Région, etc. , les établissements académiques et les associations qui œuvrent contre les inégalités F/H.

Une action phare s’adressera dès la rentrée 2020/2021 au public des écoles primaires de la Région Occitanie. Des binômes F/H d’étudiants en licence seront initiés à l’IA et à ses enjeux par des jeunes chercheurs d’ANITI puis interviendront dans les classes pour animer des ateliers d’initiation à l’IA, tout en sensibilisant l’auditoire à l’égalité du genre. Les enseignants pourront reproduire ces ateliers les années suivantes et sensibiliser de nouveaux élèves à l’IA.

Enfin, un réseau d’ambassadrices et d’ambassadeurs « Mixité en IA » issus de chaque entreprise partenaire d’ANITI sera mis en place et servira de relais et force de propositions pour toutes ces actions.

CONCLUSION : UNE AMBITION À LONG TERME

La commission mixité peut s’appuyer sur le label ANITI et sur la médiatisation croissante de l’IA pour promouvoir la nécessité d’une IA éthique auprès d’un public large et jeune. En outre, en donnant des clés pour lutter contre les stéréotypes, la commission a pour ambition d’accroître au fil du temps le nombre de femmes dans les métiers de l’IA.

ANITI, Artificial and Natural Intelligence Toulouse Institute.

Labellisé pour une durée de quatre ans, le projet a démarré en septembre 2019.

ANITI comporte : 24 chaires, 12 partenaires académiques, 30 partenaires industriels, une Graduate School, une offre de formation continue, 200 personnels de recherche dont la moitié de jeunes chercheurs.

aniti-gt-mixite@univ-toulouse.fr

www.aniti.univ-toulouse.fr

Références

[1] CNIL, Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle,
15 décembre 2017.
https://www.cnil.fr/fr/ethique-et-intelligence-artificielle

[2] Amazon scraps secret AI recruiting tool that showed bias against women, Reuters, 10 octobre 2018

[3] https://www.ibm.com/blogs/policy/facial-recognition-susset-racial-justice-reforms

[4] https://www.lesnumeriques.com/vie-du-net/reconnaissance-faciale-un-afro-americain-arrete-a-tort-depose-plainte-contre-la-ville-de-detroit-n151751.html

[5] Aude BERNHEIM et Flora VINCENT, Intelligence Artificielle : pas sans elles, dans la collection « Égale à Égal »

[6] Science, technologie, ingénierie et mathématiques. https://www.journaldunet.com/management/formation/1423325-plus-de-femmes-dans-les-stem-science-technologie-ingenierie-et-mathematiques/

[7] La commission est composée de Nicolas Viallet, Directeur opérationnel d’ANITI, Corinne Joffre, Secrétaire générale, Chantal Soulé-Dupuy , directrice de la Graduate School, Catherine Gadon et Gwenael Kaminski du service Diffusion de la Culture Scientifique et Technique de l’UFT, Mélanie Ducolombier et Alix de Jonquières, du service Communication, Florence Sedes, Professeur à l’IRIT et présidente du groupe « Femmes et Informatique » de la Société Informatique de France ; et de Femmes et Science Occitanie Toulouse. La commission est co-dirigée par Marjorie Allain-Moulet, co-pilote industrielle du programme intégratif ANITI sur l’IA acceptable et Mohamed Kaâniche, Directeur scientifique adjoint d’ANITI.