Femmes et IA : « L’intelligence artificielle reflète les biais de la société »

« Un impensé des politiques publiques » : les premiers mots du président du Sénat, Gérard Larcher, ont le mérite de la clarté. Il est vrai qu’au vu des chiffres, le rapport entre les femmes et le monde de la tech, soulève bien des interrogations puisque « seulement 20% des employés occupant des fonctions techniques dans des entreprises d’apprentissage », « 12% des chercheurs en IA dans le monde », « 6% des développeurs de logiciels professionnels », sont des femmes.

Ces inégalités dans les métiers se reflètent dès le plus jeune âge comme le rappelle Gérard Larcher : les femmes représentent « 40% des effectifs des enseignements de spécialité en maths », « 14% en sciences informatiques et numériques », « 13% en sciences de l’ingénieur » et « 17% en mathématiques, informatique et numérique ». « Le défi est de taille » conclut-il.

« Trop peu de femmes dans les études scientifiques et technologiques »

Cette absence de femmes dans les métiers de l’intelligence artificielle n’a rien de surprenant au vu des chiffres présentés par le président du Sénat. Dès lors, comment comprendre de tels écarts ? Elyes Jouini, professeur en économie et mathématiques à l’Université Paris-Dauphine, y voit la conséquence des « stéréotypes » et des « rôles modèles », qu’il estime « extrêmement prégnants dès le plus jeune âge » : « si un garçon n’est pas bon en tout, on va lui conseiller de s’orienter vers les filières scientifiques, alors que pour les filles, on va leur laisser le choix pour qu’elles s’épanouissent » avance-t-il.

Un constat partagé par Hélène Deckx van Ruys, directrice RSE et copilote du groupe Femmes et IA au Laboratoire de l’égalité qui parle de « responsabilité tripartite » partagée entre les parents, l’enseignement et l’entreprise. « Il faut dégenrer et démystifier dès le primaire les métiers de l’informatique ! » appelle-t-elle de ses vœux. Sarah Cohen-Boulakia, professeure à Paris-Saclay, abonde : « Il faut agir tôt, ouvrir les matières scientifiques à tous les milieux et à tous les âges » encourage-t-elle, en prenant exemple sur la « mise en place de bourses d’excellence pour favoriser la mixité » au sein de Paris-Saclay. « Nous devons rassurer sur le fait que les mathématiques ne doivent pas faire peur et démystifier les difficultés ».

Pour autant, les stéréotypes semblent toujours « bien ancrés » selon la sénatrice Dominique Vérien, présidente de la délégation aux droits des femmes au Sénat. Paradoxalement, ceux-ci sont d’autant plus forts au sein des pays développés, comme le soutient Elyes Jouini, étude à l’appui : « Les pays dans lesquels les filles poursuivent le moins des études scientifiques au niveau supérieur sont paradoxalement les pays les plus égalitaires », à l’image de la France. De la même manière, l’enseignant explique que « dans les pays égalitaires, il faut se chercher une identité (…) et la première d’entre elles, est l’identité de genre ». « Il faut arriver à changer le regard de la société dans son ensemble sur ces métiers » plaide-t-il lui aussi, montrant néanmoins des signes d’inquiétude sur le cas français : « En 5 ans, le nombre de doctorantes dans la tech en France a baissé de 6%, alors qu’il a augmenté de 19% en Europe ». Il pointe cependant « quelques raisons d’espérer », face à « une situation très variable selon les pays » : « Nous comptons 55% de femmes en filières scientifiques en Tunisie, et sommes passés de 10 à 29% en l’espace de dix ans au Sénégal ».

En France, Laure Darcos, sénatrice de l’Essonne, déplore cependant qu’il y ait « trop peu de femmes dans les études scientifiques et technologiques ». Et quand bien même, lorsqu’elles sont reconnues dans le secteur, elles restent « invisibilisées ». Une « invisibilisation » qui ne se cantonne pas pour autant aux stéréotypes de genre, mais également aux problématiques de racisme : « Les logiciels de reconnaissance faciale reconnaissent plus facilement les hommes blancs que les femmes noires » tance-t-elle. « Les femmes ont également besoin de représentation ! » presse de son côté Hélène Deckx van Ruys, tout en regrettant l’absence de « modèle » féminin dans l’informatique. Car oui, au-delà des problématiques d’éducation pure, les violences sexistes et sexuelles demeurent trop présentes dans un monde presque exclusivement masculin. Malgré « une prise de conscience dans les écoles », Elyes Jouini tire la sonnette d’alarme en dénonçant un « sexisme ambiant dans les écoles d’ingénieur » et les « mini-agressions » subies par les étudiantes qui « les éloignent des parcours scientifiques ». Pire encore, au sein des classes préparatoires scientifiques, « seulement 1 élève sur 15 est une femme » témoigne Stéphane Piednoir, sénateur de Maine-et-Loire et ancien professeur de mathématiques. Un chiffre atteste de cette réalité : « Il manque 100 000 femmes ingénieures en France », selon Hélène Deckx van Ruys.

Certains s’avancent cependant sur des solutions. Pour Elyes Jouini, il est nécessaire d’ « offrir des filières mixtes et pluridisciplinaires », en prenant en compte dans les critères de sélection, les notes scientifiques, mais également les notes dans les autres matières telles la littérature ou l’histoire. « Pour agir sur les questions de l’IA, il n’est pas nécessaire d’embrasser des carrières scientifiques, mais avoir de la curiosité » détaille Marine Rabeyrin. De son côté, Hélène Deckx van Ruys pointe le « manque d’éducation financière pour les filles » : « Les femmes négocient bien moins leur salaire que les hommes, car elles n’osent pas » s’alarme-t-elle. Elyes Jouini abonde : « Les codes sociaux et culturels sont difficiles à acquérir lorsque l’on part du mauvais pied » constate le chercheur, qui observe qu’ « en matière de sélectivité, les filles ne choisissent pas des filières moins sélectives que celles des garçons ». « En revanche, en termes de rémunération, les garçons ont choisi les filières les plus rémunératrices » conclut-il.

« 88% des algorithmes sont créés par des hommes qui, inconsciemment ou non, reproduisent leurs biais »

Cette absence de présence des femmes dans les métiers de l’intelligence artificielle et notamment dans la programmation, constitue un facteur essentiel des stéréotypes de genre que l’IA va reproduire, caricaturer voire accentuer. « En France, si vous demandez à une IA de représenter une personne d’un certain métier sans préciser s’il s’agit d’un homme ou d’une femme, vous aurez toujours « un » médecin, « une » infirmière, « un » PDG et « une » secrétaire », déplore Stéphane Piednoir, également président de l’OPECST (Office parlementaire d’évaluation des choix scientifiques et technologiques).

Pour Tanya Perelmuter, co-fondatrice et directrice de la stratégie et des partenariats de la Fondation Abeona (collectif pour une IA responsable et inclusive), rapporteure générale du rapport « Algorithmes : contrôle des biais SVP de l’Institut Montaigne », si elle estime que l’IA n’est pas sexiste en tant que telle, « elle est entraînée par des humains qui reflètent notre société ». Même constat pour Jessica Hoffmann, chercheuse dans l’équipe PAIR (People + AI Research) de Google, qui met en avant les biais dans le domaine des ressources humaines : « S’il y a eu des discriminations les fois précédentes dans le recrutement, l’algorithme va les reproduire ». Discriminations d’autant plus facilitées que « 88% des algorithmes sont créés par des hommes qui, inconsciemment ou non, reproduisent leurs biais » : « Les algorithmes sont d’excellents élèves, mais qui sont leurs professeurs ? » se demande pour sa part Hélène Deckx van Ruys.

Si les données et programmateurs se trouvent en porte-à-faux, Elyes Jouini souhaite que ne soit pas omis le rôle des utilisateurs dans la reproduction des stéréotypes : « Si les utilisateurs ne sont pas choqués par le résultat produit, le processus va continuer » remarque-t-il ; d’où le rôle clé de la sensibilisation. A ce titre, Marine Rabeyrin, responsable du groupe Femmes & IA du Cercle InterL, s’est avancée sur les solutions à mettre en place au sein des entreprises pour pallier ces biais. Sa stratégie repose sur 4 piliers : « S’engager » par la signature d’une charte par les entreprises ; « s’évaluer » par une grille de critères ; « agir » en faveur de la diversité ; « devenir exemplaire ». Une stratégie que partage Tanya Perelmuter, qui propose de son côté de travailler sur des solutions « techniques », qui consistent à « tester des algorithmes, exiger de la transparence (…) et comprendre sur quelles données ces algorithmes étaient entraînés », ainsi que des solutions « sociétales et politiques », qui passent par « diversifier les équipes qui créent les algorithmes, former des femmes dans les métiers scientifiques et technologiques ainsi que les citoyens à comprendre les enjeux de l’IA ».

Toutes ces solutions requièrent néanmoins une « action coordonnée » que souligne Marine Rabeyrin, à la fois par la dispense de « modules de sensibilisation » dans les écoles, des « formations » au sein des entreprises, mais également dans le secteur public, « une de ses premières missions » rappelle Laure Lucchesi, spécialiste des politiques publiques du numérique et ex-directrice d’Etalab (Chief Data & IA Officer auprès du Premier ministre), au regard des obligations inhérentes au service public telles l’action dans l’intérêt général, l’égalité et la diversité.

« Mettre la femme au centre de la transformation numérique »

A ce titre, le service public est particulièrement confronté aux enjeux du numérique. Pour Laure Lucchesi, l’IA peut même constituer « un atout pour l’égalité femmes-hommes dans la sphère publique », notamment au regard de l’automatisation de certaines tâches administratives, souvent dévolues aux femmes, mais également en termes de compilation du temps de parole dévolu aux femmes dans les médias, mesuré par l’Arcom (ex-CSA). D’autant plus que ces questions d’éthique et de gouvernance viennent parfois percuter de manière brutale certaines dérives de l’IA : « Les femmes souffrent et sont persécutées par les « deepfakes » (ou images/vidéos détournées) » remarque la sénatrice Christine Lavarde, présidente de la délégation à la prospective. A ce titre, elle relève que « 96% de ces fausses images sont des images pornographiques de femmes détournées », faisant référence à la fausse image dénudée de la chanteuse Taylor Swift, qui avait fait plus de 100 millions de vues, l’artiste devant elle-même nier l’existence de telles images.

Dès lors, pour éviter de telles dérives, il est nécessaire de « mettre la femme au centre de la transformation numérique » des mots de Sasha Rubel, responsable des politiques publiques en IA Europe-Afrique-Moyen-Orient chez Amazon, qui déplore « le manque de personnel qui réfléchit à ces enjeux de responsabilité » … qui ne sont jamais très éloignés des enjeux économiques. « Cultiver la diversité, c’est un impératif éthique mais aussi un impératif économique » explique-t-elle, chiffres à l’appui. « Les femmes ont 13 fois moins de chance que les hommes de déposer un brevet technologique » et « seulement 10% des start-up possèdent dans leur organe créatif des fondatrices ». L’impact sur le revenu peut également être colossal : « Des connaissances de l’IA peuvent augmenter un salaire jusqu’à 47% » relève-t-elle, ce qui fait dire à la responsable que la femme doit se saisir pleinement des nouvelles technologies : « L’indépendance financière de l’avenir de la femme dépend de sa capacité de se mettre au centre de cette révolution technologique qui va toucher tous les aspects de notre vie ».

Pas de quoi soulever un vent de pessimisme si l’on en croit cependant certaines données. Ainsi, sur les 1% des brevets les plus cités, 15% concernent des femmes, alors qu’elles ne sont que 7% parmi les déposants de brevets.

Intelligence artificielle, « miroir » ou « loupe » de notre société ? Quel que soit le terme choisi, « l’IA ne pourra jamais remplacer les humains » et se confrontera aux biais de ceux qui la programment. Au travers d’une discussion avec un ingénieur qui l’appelait « Madame le sénateur », lui précisant qu’il recherchait au sein de son entreprise, une « directeur femme », Dominique Vérien lui conseillait « plutôt de chercher une directrice », concluant son propos, non sans ironie : « Tant qu’on cherche des hommes, on aura du mal à trouver des femmes ».