Czy wyobrażacie sobie sytuację, gdy wszechobecne kamery śledzą nas na każdym kroku? System, który rozpoznaje twarze analizuje nasze zachowanie, sprawdza płatności, kontroluje, co czytamy w internecie? A wszystko po to, by wydać opinię, kto jest „wartościowym” obywatelem?
Sztuczna inteligencja ocenia obywateli w Chinach
System, który już jest testowany w Chinach, przypomina przerażającą wizję z książki "Rok 1984" George'a Orwella. Pod angielską nazwą Social Credit System (SCS), a więc System Zaufania Społecznego lub System Wiarygodności Społecznej, został enigmatycznie zapowiedziany trzy lata temu. Chińska agencja Xinhua równie tajemniczo zapowiedziała uruchomienie wersji pilotażowej z udziałem ochotników na obszarze delty rzeki Jangcy, a więc m.in. mieszkańców Szanghaju. Nastąpiło to latem. Pod koniec października portal "Wired" opisał pierwsze doświadczenia z jego funkcjonowania informując, że dobrowolnie pozwoliło się nim objąć aż kilka milionów osób. W oparciu o gromadzone dane, każdy ma być na bieżąco oceniany w określonej skali, Sesame Credit, wstępnie od 350 do 950 punktów. Im wyższa wartość, tym oficjalnie bardziej "zaufany" i "wiarygodny" człowiek, a w rzeczywistości bardziej posłuszny i niesprzeciwiający się władzy.
Komisja Europejska powie: STOP
Unia Europejska chce przeciwdziałać rozwojowi sztucznej inteligencji w kierunku, w jakim stało się to w Chinach. Dlatego Komisja Europejska pracuje nad tzw. białą księgą, która zakaże na terytorium Wspólnoty wykorzystywania technologii Sztucznej Inteligencji do rozpoznawania twarzy. Zakaz miałby dotyczyć zarówno podmiotów publicznych, jak i prywatnych. Dokument ma o tyle ogromne znaczenie, że technologia Face ID jest stosowana powszechnie w wielu obszarach. Jest jedną z najpowszechniejszych metod logowania się do smartfonów. Wykorzystywana jest też coraz częściej w celu uzyskiwania dostępu do bankowości elektronicznej.
W lutym Komisja Europejska powie: stop, na okres 3-5 lat, do momentu, kiedy nie zaczniemy analizować skutków tego typu rozwiązań
-mówi dr. Maciej Kawecki, prawnik, ekspert ds. nowych technologii.
Mimo niewątpliwych korzyści wynikających z propozycji Komisji Europejskiej, jest ona również bardzo ryzykowna. Może bowiem zepchnąć Unię na margines technologiczny. Gdy na całym świecie sztuczna inteligencja będzie się rozwijała, u nas dojdzie do jej wyhamowania.
Dlatego gość Dzień Dobry TVN przyznaje, że jest dość sceptycznie nastawiony do tego rozwiązania.
Musimy pamiętać, że każda technologia ma swoje dobre i złe strony. Oczywiście, w Chinach to jest przykład absolutnie patologiczny, który nie jest związany z monitoringiem, ale z cenzurą (...). System wpływa tam na funkcjonowanie społeczeństwa, na dyskryminowanie z uwagi na wiek, płeć i przeróżne okoliczności. Natomiast Unii Europejska jest od tego bardzo daleko
Zdaniem dr. Macieja Kaweckiego, drogą nie powinno być zakazywanie metod sztucznej inteligencji i rozpoznawania twarzy, tylko korzystanie z nich po uzyskaniu świadomej zgody użytkownika.
Zobacz też:
Autor: Luiza Bebłot