Amazon renunţă la un robot de HR. Motivul: era „misogin”

O echipă de programatori a început să lucreze din 2014 la un program de computer care să evalueze candidaţii la angajare. Automatizarea a fost una din exlicaţiile creşterii înregistrate de companie, iar aplicaţia de resurse umane dădea candidaţilor între una şi cinci stele, la fel cum clienţii evaluează produsele companiei pe site.

O sursă apropiată situaţiei a declarat pentru Reuters că intenţia creatorilor programului a fost de a putea găsi cinci cei mai buni candidaţi din 100, care să fie angajaţi. Dar compania a descoperit că noul sistem discriminează candidaţii pentru posturi de programator sau pentru alte zone tehnice, pentru că programul a fost instruit folosind aplicaţiile primite de companie în ultimii 10 ani. Majoritatea au venit de la bărbaţi, o situaţie generată de dominaţia acestora în industria tehnologică, iar sistemul Amazon a tras concluzia că bărbaţii sunt de preferat la angajare. Aşa că a început să penalizeze aplicaţiile care includeau cuvântul „woman - femeie”, dar şi absolventele unor instituţii de învăţământ superior exclusiv feminine.

Programatorii au încercat să remedieze situaţia, dar, pentru că nu au existat garanţii că maşina nu ar putea elabora alte modalităţi discriminatorii de selecţie a candidaţilor, în cele din urmă compania a renunţat la proiect şi la programul de recrutare.