Sztuczna inteligencja prawidłowo rozpoznaje jedynie białych mężczyzn

[KopalniaWiedzy.pl 357]

Oprogramowanie do rozpoznawania twarzy działa coraz lepiej, ale tylko w przypadku białych mężczyzn. Joy Buolamwini z Massachusetts Institute Technology przeprowadziła testy trzech komercyjnych systemów rozpoznawania twarzy autorstwa Microsoftu, IBM-a i chińskiej firmy Megvii.

Okazało się, że w przypadku białych mężczyzn system z 99% dokładnością potrafił określić płeć na podstawie zdjęcia. Jednak podczas rozpoznawania ludzi o ciemniejszych kolorach skóry odsetek błędów rósł, by osiągnąć 35% podczas rozpoznawania ciemnoskórych kobiet. Szczegóły badań zostaną zaprezentowane podczas Conference on Fairness, Accountability, and Transparency, która odbędzie się w bieżącym miesiącu w Nowym Jorku.

Oprogramowanie do rozpoznawania twarzy jest coraz częściej stosowane, w tym przez policję, która używa go do wyławiania z tłumu osób poszukiwanych oraz oznaczania zdjęć. Błędy mogą prowadzić do niepotrzebnych zatrzymań i przeszukań niewinnych osób.

Autorzy wcześniejszych badań twierdzą, że pomyłki w tego typu programach, najczęściej wykorzystujących algorytmy sztucznej inteligencji, biorą się ze złego doboru próbki, na której program jest uczony. Systemy rozpoznawania twarzy są ćwiczone na przykładowych zdjęciach, tymczasem bardzo popularny zestaw treningowy takich zdjęć zawiera około 75% fotografii mężczyzn, z czego ponad 80% są to biali mężczyźni.

« powrót do artykułu