Biais dans l’IA générative : l’urgence d’une approche cognitive et inclusive
En lien avec la Journée internationale des droits des femmes, Nina Franiatte participe à l’interview donnée par Minted, pour évoquer les biais dans l’IA générative et l’importance de la présence des femmes dans la tech.
Son intervention met l’accent sur la dimension cognitive et humaine des biais, au-delà des seuls algorithmes, et sur des leviers concrets : sensibilisation et éducation.
Nina Franiatte rappelle d’abord le biais d’endogroupe : les concepteurs ont tendance, souvent inconsciemment, à favoriser des personnes qui leur ressemblent.
Comment ce mécanisme cognitif influe-t-il sur le design des données, des critères et des tests et finit par se répercuter dans les modèles ?