Nous avenços en la detecció de biaixos en els algoritmes de reconeixement facial

El reconeixement facial lʼhan fet servir habitualment organitzacions privades i governamentals de tot el món. El reconeixement facial automàtic es pot utilitzar amb finalitats legítimes i beneficioses, per exemple, per millorar la seguretat, però, al mateix temps, el seu poder i ubiqüitat augmenta el potencial impacte negatiu que els mètodes injustos poden tenir en la societat, per exemple, la discriminació de les minories ètniques. Una condició necessària, tot i que no suficient, per a una implementació apropiada dels algoritmes de reconeixement facial és que funcionin de la mateixa manera per a tots els grups demogràfics.

Amb aquest objectiu, investigadors del Human Pose Recovery and Behavior Analysis Group del Centre de Visió per Computador (CVC) i la Universitat de Barcelona, liderats pel catedràtic Sergio Escalera, van organitzar un repte dins del Congrés Europeu de Visió per Computador 2020 (ECCV 2020). Els resultats, publicats recentment a Computer Vision - ECCV 2020 Workshops, avaluen la precisió dels algoritmes presentats pels participants en la tasca de verificació facial en presència dʼaltres atributs de confusió.

El repte va ser un èxit, ja que va atraure «151 participants, els quals van enviar més de 1.800 possibles solucions en total, una xifra que va superar les nostres expectatives pel que fa al nombre de participants i enviaments», explica Sergio Escalera, també membre de lʼInstitut de Matemàtica de la UB.

Els participants van utilitzar com a conjunt de dades un banc dʼimatges no equilibrat, que simulaven un escenari del món real, on els models basats en intel·ligència artificial sʼentrenen i avaluen amb dades desequilibrades (considerablement més homes blancs que dones de color). En total, van treballar amb 152.917 imatges de 6.139 identitats.

Les imatges van ser classificades en dos atributs protegits: gènere i color de pell; i en cinc atributs legítims: grup dʼedat (0-35, 35-64, +65), posició del cap (frontal, altres), font de la imatge (imatge fixa, fotograma del vídeo), ús dʼulleres i mida del marc delimitador.

Els resultats obtinguts van ser molt prometedors. Les solucions guanyadores van superar el 99,9 % de precisió i van obtenir puntuacions molt baixes en les mètriques de biaix proposades, «la qual cosa es pot considerar un pas cap al desenvolupament de mètodes de reconeixement facial més justos», destaca Julio C. S. Jacques Jr., investigador del CVC i de la Universitat Oberta de Catalunya (UOC).

Lʼanàlisi dels deu millors equips va mostrar taxes més altes de falsos positius per a les dones amb tonalitats de pell fosca i per a les mostres en les quals els dos individus portaven ulleres. Així mateix, hi va haver taxes més altes de falsos negatius per als homes amb tonalitats de pell clara i per a les mostres dels dos gèneres quan eren menors de 35 anys. A més, es va trobar que, per a tot el conjunt de dades, les persones menors de 35 anys no utilitzen ulleres tan sovint com les persones més grans, fet que resulta en una combinació dʼefectes dʼaquests atributs. «Això no va ser cap sorpresa, ja que el conjunt de dades utilitzades no estava equilibrat respecte als diferents atributs demogràfics. No obstant això, mostra que la precisió general no és suficient quan lʼobjectiu és construir mètodes justos de reconeixement facial. Per tant, els treballs futurs cal que tinguin en compte la precisió i la mitigació de biaixos de manera conjunta», conclou Julio C.S. Jacques Jr.
 

Article de referència:
Sixta, T.; Jacques Jr., J. C. S.; Buch-Cardona, P.; Vázquez, E.; Escalera, S. «FairFace challenge at ECCV 2020: analyzing bias in face recognition». Computer Vision - ECCV 2020 Workshops. Lecture Notes in Computer Science, 2020, vol. 12540, Springer, Cham. DOI: https://doi.org/10.1007/978-3-030-65414-6_32