Bien que les IA ne créent pas les préjugés sexistes en tant que tels, elles participent à leur diffusion.
C’est notamment ce qu’a révélé une récente étude de l’Unesco dans laquelle les plateformes d’IA générative (comme Open AI, Meta…) ont été invitées à “écrire une histoire” au sujet de personnes aux profils variés (genre, sexualité, milieux culturels…).
Le résultat ? Les hommes sont plus facilement associés à des mots tels que “entreprise”, “cadre” ou à des emplois à statut élevé alors que les femmes se voient attribuer des mots liés au domestique comme “maison” et “famille”.
Les travaux de Virginie Mathivet, fondatrice de Hemelopse et spécialiste de l’IA en France corroborent ce constat. Des hommes blancs dans la quarantaine sont présentés lorsqu’elle demande de générer l’image d’un·e CEO alors que lorsque la recherche est “secrétaire”, ce sont des femmes qui sont mises en avant. “Ce qui se passe en fait, c’est qu’elles [les IA] produisent ce qu’on leur demande et leurs modèles sont nourris à partir des images les plus présentes dans la société” déplore-t-elle. Effectivement, les IA sont généralement alimentées par des banques de données déjà existantes, elles-mêmes remplies de préjugés.
Le problème ? De plus en plus utilisées, ces applications d’IA ont un impact sur les perceptions de millions de personnes et participent à perpétuer (voire à amplifier significativement) des inégalités. Il en va de même pour des assistants vocaux genrés issus de l’IA tels qu’Alexa qui entretiennent l’image d’une femme serviable et soumise.
Les femmes, particulièrement touchées par l’automatisation des emplois liée à l’IA
Avec l’essor de l’IA générative, le monde du travail est remodelé et certains emplois sont voués à évoluer. Dans leurs études respectives, McKinsey, l’Organisation Mondiale du travail ou encore Goldman Sachs montrent que les emplois des femmes seront affectés de manière disproportionnée par ce phénomène d’automatisation. Notamment dans les pays à revenu élevé ou intermédiaire.
En effet, les professions administratives et de bureau s’avèrent être les catégories les plus exposées aux technologies d’intelligence artificielle, “avec près d’un quart des tâches considérées comme très exposées et plus de la moitié des tâches présentant un niveau d’exposition moyen” souligne l’Organisation Mondiale du travail. Les femmes étant surreprésentées dans cette catégorie, la part de leurs emplois pouvant être affectée par l’automatisation est plus de deux fois supérieure à celle des hommes. Aux États-Unis par exemple, “huit femmes sur dix occupent des emplois exposés de manière significative à l’automatisation par les IA, contre six hommes sur dix” détaillent les expert·es de McKinsey.
Et qu’en est-il du côté des pays à faible revenu ? L’arrivée de l’IA générative n’est pas non plus sans conséquence. Les emplois de bureau constituent une source importante d’emplois féminins lors du développement économique d’un pays et l’IA pourrait impliquer que certains de ces emplois ne se créent jamais.
L’IA, un milieu où les femmes peinent à être prises en compte
Selon l’Unesco, les préjugés sexistes générés par l’IA s’expliquent en partie par le fait que les femmes sont en minorité numérique dans ce secteur : elles ne représentent que 22% des équipes. Et même à l’intérieur du secteur, elles sont confrontées à de nombreux défis liés à leur genre.
Pour comprendre le ressenti des femmes dans le milieu de l’IA, l’experte Schulenberg, Kelsea a mené un panel d’entretiens approfondis en 2023 à travers son étude « ”I Felt Like I Wasn’t Really Meant to be There »: Understanding Women’s Perceptions of Gender in Approaching AI Design & Development« . Les résultats ont montré que :
- Les femmes ne sont pas traitées de la même manière que leurs collègues masculins. Par exemple, il est attendu d’elles des comportements stéréotypiquement féminins (“être attentionnée”, “se comporter comme la “maman” du bureau” etc…). Elles doivent également ajuster leurs comportements (en se montrant plus agressives ou en parlant plus fort par exemple) afin d’être entendues et prises au sérieux. Effectivement, les hommes vont avoir tendance à favoriser les contributions de leurs collègues masculins, et à reléguer celles des femmes au second plan.
- Dans ce milieu où elles sont en infériorité numérique, elles disent également ressentir un certain syndrome de l’imposteur et ont l’impression de devoir travailler plus dur afin de réellement mériter leur place. Sentiment démultiplié par l’existence d’un “Bro code” où les hommes se protègent et se soutiennent les uns les autres, souvent aux dépens de leurs collègues femmes. Cela se matérialise par exemple par le fait que même en dehors du cadre de l’entreprise, les hommes continuent à se voir sans inviter leurs collègues femmes, renforçant ainsi leur exclusion et leur position marginale dans ce milieu.
Vers une intelligence artificielle plus inclusive et éthique
Pour rééquilibrer la situation et contrecarrer les dérives de l’IA, des solutions sont développées. C’est le cas par exemple :
- Du pacte pour une intelligence artificielle égalitaire mis en place par le Laboratoire de l’égalité et destiné·e aux dirigeant·es, organismes de recherche et entreprises qui produisent du numérique. L’objectif ? Faire prendre conscience des effets discriminants de l’IA et donner des moyens d’actions pour les corriger. Concrètement ce dernier propose :
- de rendre les bases de données et les algorithmes égalitaires (en s’assurant que les données soient plus équilibrées, moins biaisées et que les assistants vocaux soient neutres),
- de former les femmes pour que celles-ci accèdent aux métiers de l’IA, d’assurer la parité à différents niveaux et de créer un climat inclusif (en luttant contre les stéréotypes dès l’école et en favorisant des conditions de travail où les femmes veulent rester).
- Du réseau des femmes pour une IA éthique de l’UNESCO dont les objectifs sont multiples : d’une part, celui-ci souhaite renforcer la participation des femmes et des groupes sous-représentés à participer à l’IA en leur proposant des outils concrets (octroi d’allocations budgétaires, accompagnements spécifiques…). D’autre part, cette démarche a pour but de soutenir les gouvernements et entreprises dans leurs efforts en améliorant les algorithmes et en contribuant à un référentiel de bonnes pratiques pour assurer l’égalité.
En résumé, l’IA a un véritable rôle à jouer dans la réduction des inégalités de notre société. Les progrès pour tendre à une mixité de l’IA doivent se poursuivre afin de garantir que cette technologie soit vertueuse et fournisse des résultats toujours plus justes et responsables.