Niepokojące wyniki badań dotyczących sztucznej inteligencji. "Trzeba być bardzo ostrożnym"

Źródło: Dzień Dobry TVN
Międzynarodowy Dzień Kobiet i Dziewcząt w Nauce
Międzynarodowy Dzień Kobiet i Dziewcząt w Nauce
Inspirujące Kobiety Olga Legosz
Inspirujące Kobiety Olga Legosz
Dorota Wellman Inspirujące Kobiety - zapowiedź
Dorota Wellman Inspirujące Kobiety - zapowiedź
Angelika Wątor walczy szablą i jest żołnierzem
Angelika Wątor walczy szablą i jest żołnierzem
"Inspirujące kobiety": Elena Pawęta
"Inspirujące kobiety": Elena Pawęta
"INSPIRUJACE KOBIETY" z Katarzyną Fetter
"INSPIRUJACE KOBIETY" z Katarzyną Fetter
Sztuczna inteligencja od jakiegoś czasu budzi ogromne emocje. Niezaprzeczalnie porusza zarówno sferę naukową, publicystyczną, jak i polityczną. Najnowsze badania pokazują jednak, że AI marginalizuje kobiety. Dlaczego?

Czy sztuczna inteligencja pogłębia dyskryminację ze względu na płeć?

Naukowcy z Akademii Leona Koźmińskiego zbadali fenomen sztucznej inteligencji pod kątem powielania i utrwalania szkodliwych stereotypów. Na tapet wzięli dziewięć generatywnych modeli sztucznej inteligencji i przeanalizowali, w jaki sposób przedstawiają one wizerunek: prawnika, lekarza, inżyniera i naukowca, czyli najbardziej prestiżowych zawodów według Global Teacher Status Index. Wyniki, które wygenerowała sztuczna inteligencja były przerażające, a diagnoza jasna - AI marginalizuje kobiety.

Badania jednoznacznie wykazały dyskryminację ze względu na płeć, na obrazach wykreowanych przez AI. Mężczyźni byli reprezentowani aż na 76 proc. z nich, a kobiety jedynie na 8 proc. Co więcej, najmniejszą reprezentację kobiet można było zauważyć wśród lekarzy. Odsetek pań wyniósł 7 procent, co jest całkowicie niezgodne z rzeczywistością. Według danych Głównego Urzędu Statystycznego kobiety stanowią niemal połowę osób pracujących na tym stanowisku.

Naukowcy: dr Anna Górska i prof. Dariusz Jemielniak, swoje zaskakujące wyniki opisali na łamach "Feminist Media Studies", w którym podkreślili, że ich najnowsze odkrycie niezaprzeczalnie ujawnia znaczne uprzedzenia związane z płcią w obrazach profesjonalistów, a algorytmy, które powszechnie uważa się za obiektywne, tym razem były błędne.

Jak zaznaczył profesor Jemielniak, większość stereotypów utrwalonych przez sztuczną inteligencję bierze się z danych wejściowych, głownie z magazynów, seriali i książek, w których dyskryminacja jest mocno utrwalona. - Problem pokazuje, że trzeba być bardzo ostrożnym w doborze danych - podkreślił profesor.

Naukowiec stwierdził, że występująca w generatorach sztucznej inteligencji nadprezentacja mężczyzn może prowadzić do bardzo negatywnych skutków m.in. do nierówności i segregacji płciowej w edukacji oraz w zawodach, takich jak prawniczka, lekarka, inżynierka, czy naukowczyni. Co więcej, według badacza w ten sposób AI nieświadomie wspiera seksizm i rasizm, co z kolei wpływa na postrzeganie opinii publicznej, a w efekcie na rzeczywistość społeczną.

Sztuczna inteligencja marginalizuje kobiety

Na wynik badania mógł znacznie wpłynąć fakt, że branża IT w większości jest zdominowana przez panów. Co więcej, przez lata utarł się stereotyp "brogrammera", czyli mężczyzny w świecie programistów. Przekonanie to utrudnia wejście do tej branży płci żeńskiej. W Polsce branże IT reprezentuje zaledwie 15 procent kobiet.

Według ekspertów, to osobiste uprzedzenie informatyków ma znaczące odzwierciedlenie w algorytmach. Mimo to, badacze wierzą, że ich wyniki przyniosą pozytywną zmianę, która uświadomi twórcom modeli AI skalę problemu.

Jesteśmy serwisem kobiecym i tworzymy dla Was treści związane ze stylem życia. Pamiętamy jednak o sytuacji w Ukrainie. Chcesz pomóc? Sprawdź, co możesz zrobić. Pomoc. Informacje. Porady.

Zobacz także:

Autor: Anna Gondecka

Źródło: Rzeczpospolita

Źródło zdjęcia głównego: Royalty-free/GettyImages

podziel się:

Pozostałe wiadomości