Amazon : l'IA de tri de CV qui pénalisait le mot « women's ».

En 30 secondes

Selon Reuters (10/10/2018), Amazon a développé dès 2014 un outil de tri de CV, entraîné sur environ dix ans de CV, surtout masculins.
Il pénalisait le mot « women's » et les diplômées de deux universités de femmes.
Repéré en 2015, corrigé sans garantie d'absence d'autres biais ; l'équipe a été dissoute début 2017.

Ce qui s'est passé

Une équipe d'Amazon commence en 2014 à construire un outil de tri automatique de CV, pour donner des notes aux candidats et trier plus vite la masse de CV reçus. Révélé par Reuters en 2018.

Pourquoi il défavorisait les femmes

L'outil a appris sur environ dix ans de CV reçus par Amazon, en majorité venant d'hommes. Une IA apprend ce que montrent ses exemples : un outil qui apprend du passé reproduit le passé, y compris ses déséquilibres. Il pénalisait les CV contenant le mot « women's » et les diplômées de deux universités de femmes. Personne ne le lui avait demandé : il a trouvé la règle dans les exemples.

La suite

Le problème est repéré en 2015. Amazon a corrigé ces termes précis, mais ne pouvait pas garantir l'absence d'autres biais. L'équipe a été dissoute début 2017. Les recruteurs ne s'appuyaient pas uniquement sur ces classements.

Ton réflexe

Demande : « sur quelles données ? »
Regarde qui manque dans ces données.
Garde un humain pour la décision finale.

Sources

1. Reuters, « Amazon scraps secret AI recruiting tool that showed bias against women », 10/10/2018, lu via Euronews. Consultée le 29/10/2026.

Comment cet article a été fait. Adapté par une IA de notre carrousel du même nom, à partir des sources citées ci-dessus, sous la responsabilité de l'éditeur. Les sources sont de la presse ou des récits de seconde main, signalées comme telles : les faits contestés sont indiqués comme tels. Une erreur ? Signale-la, elle sera corrigée dans la rubrique « Correctifs ».