Czy sztuczna inteligencja pogłębia dyskryminację ze względu na płeć?
Naukowcy z Akademii Leona Koźmińskiego zbadali fenomen sztucznej inteligencji pod kątem powielania i utrwalania szkodliwych stereotypów. Na tapet wzięli dziewięć generatywnych modeli sztucznej inteligencji i przeanalizowali, w jaki sposób przedstawiają one wizerunek: prawnika, lekarza, inżyniera i naukowca, czyli najbardziej prestiżowych zawodów według Global Teacher Status Index. Wyniki, które wygenerowała sztuczna inteligencja były przerażające, a diagnoza jasna - AI marginalizuje kobiety.
Badania jednoznacznie wykazały dyskryminację ze względu na płeć, na obrazach wykreowanych przez AI. Mężczyźni byli reprezentowani aż na 76 proc. z nich, a kobiety jedynie na 8 proc. Co więcej, najmniejszą reprezentację kobiet można było zauważyć wśród lekarzy. Odsetek pań wyniósł 7 procent, co jest całkowicie niezgodne z rzeczywistością. Według danych Głównego Urzędu Statystycznego kobiety stanowią niemal połowę osób pracujących na tym stanowisku.
Naukowcy: dr Anna Górska i prof. Dariusz Jemielniak, swoje zaskakujące wyniki opisali na łamach "Feminist Media Studies", w którym podkreślili, że ich najnowsze odkrycie niezaprzeczalnie ujawnia znaczne uprzedzenia związane z płcią w obrazach profesjonalistów, a algorytmy, które powszechnie uważa się za obiektywne, tym razem były błędne.
Jak zaznaczył profesor Jemielniak, większość stereotypów utrwalonych przez sztuczną inteligencję bierze się z danych wejściowych, głownie z magazynów, seriali i książek, w których dyskryminacja jest mocno utrwalona. - Problem pokazuje, że trzeba być bardzo ostrożnym w doborze danych - podkreślił profesor.
Naukowiec stwierdził, że występująca w generatorach sztucznej inteligencji nadprezentacja mężczyzn może prowadzić do bardzo negatywnych skutków m.in. do nierówności i segregacji płciowej w edukacji oraz w zawodach, takich jak prawniczka, lekarka, inżynierka, czy naukowczyni. Co więcej, według badacza w ten sposób AI nieświadomie wspiera seksizm i rasizm, co z kolei wpływa na postrzeganie opinii publicznej, a w efekcie na rzeczywistość społeczną.
Sztuczna inteligencja marginalizuje kobiety
Na wynik badania mógł znacznie wpłynąć fakt, że branża IT w większości jest zdominowana przez panów. Co więcej, przez lata utarł się stereotyp "brogrammera", czyli mężczyzny w świecie programistów. Przekonanie to utrudnia wejście do tej branży płci żeńskiej. W Polsce branże IT reprezentuje zaledwie 15 procent kobiet.
Według ekspertów, to osobiste uprzedzenie informatyków ma znaczące odzwierciedlenie w algorytmach. Mimo to, badacze wierzą, że ich wyniki przyniosą pozytywną zmianę, która uświadomi twórcom modeli AI skalę problemu.
Jesteśmy serwisem kobiecym i tworzymy dla Was treści związane ze stylem życia. Pamiętamy jednak o sytuacji w Ukrainie. Chcesz pomóc? Sprawdź, co możesz zrobić. Pomoc. Informacje. Porady.
Zobacz także:
- Kasia Moś pierwszy raz o zerwanych zaręczynach. "To jeszcze nigdy nigdzie nie padło"
- Natalia Lesz o karierze i traumie w szkole baletowej. "Nie chcę, żeby córka przechodziła przez to, co ja"
- Tamara Arciuch pokazała archiwalne zdjęcie z synem. Okazja jest wyjątkowa
Autor: Anna Gondecka
Źródło: Rzeczpospolita
Źródło zdjęcia głównego: Royalty-free/GettyImages