Dalsza część artykułu pod materiałem wideo
Konferencja NASK Transfer Technology Days - co przekazała instytucja?
W ciągu pięciotygodniowego monitowania sieci NASK zidentyfikował 16 tysięcy reklam wygenerowanych przez sztuczną inteligencję, w których wykorzystano wizerunek ponad 450 osób, a Polacy na oszukańczych reklamach stracili około 537 mln zł - mówiła Ewelina Bartuzi-Trokielewicz z NASK, podczas konferencji NASK Transfer Technology Days. Odbyła się ona we wtorek, 22 września, w siedzibie Naukowej i Akademickiej Sieci Internetowej - Państwowy Instytut Badawczy (NASK).
Podczas panelu "Iluzja rzeczywistości. Przed jakimi problemami stawia nas technologia deepfake" eksperci wskazywali na zagrożenia wynikające z wpływu deep fake'ów na wiarygodność mediów i bezpieczeństwo publiczne. Zwracano także uwagę na dostępne techniki weryfikacji faktów.
- Według badań już około 60 proc. sieci już jest martwa. Zapytania na strony HTML-owe są w 57 proc. generowane przez boty. Ruch w internecie generowany przez agentów AI-owych rośnie dramatycznie. To, co mogą zrobić z informacją roje agentów, jest niewyobrażalne. Sytuacja jest bardzo trudna i jeżeli będziemy sobie dyskutować jeszcze kolejne lata, to obudzimy się w sytuacji, gdzie nie tylko sieć umiera, ale umrze prawdziwa informacja - mówił w tym panelu Paweł Sanowski z Instytutu Monitorowania Mediów.
- Kłamstwo jest łatwo i bezkosztowo wyprodukować. Znacznie trudniej i znacznie większe zasoby należy zaangażować, żeby wyprodukować prawdę, która weryfikuje to kłamstwo. To zawsze będzie za późno wobec tego, co potrafi zrobić aktor dezinformacji - zwracał uwagę szef działu fact-checkingu PAP, Błażej Strzelczyk.
Reklamy generowane przez AI opanowały media społecznościowe
Kierowniczka Zakładu Analiz Audiowizualnych i Systemów Biometrycznych z NASK, Ewelina Bartuzi-Trokielewicz, poinformowała podczas kolejnego panelu, że podczas pięciotygodniowego monitorowania sieci zidentyfikowano 16 tys. reklam wygenerowanych przez sztuczną inteligencję, a także udało się zidentyfikować ponad 450 osób, których wizerunek został w tych reklamach wykorzystany. Zaś suma strat, jakie Polacy ponieśli z powodu oszukańczych reklam, szacowana jest na ok. 537 mln zł.
Bartuzi-Trokielewicz zaprezentowała też DROZD, czyli system analizowania i wykrywania deep fake'ów oraz zmodyfikowanych treści. Jego działanie ma polegać m.in. na tym, że po przepuszczeniu przez niego filmu z rzekomą wypowiedzią znanej osoby będzie w stanie wykryć przypadki manipulacji głosem i obrazem.
Konflikt Rafała Brzoski z Metą w sprawie deep fake'ów - o co chodzi?
W sierpniu ofiarą deep fake'ów padł prezes InPost Rafał Brzoska. Wszedł w konflikt z Metą (Meta Platforms, czyli właściciel m.in. Facebooka i Instagrama) po masowym wyświetlaniu na Facebooku i Instagramie nielegalnych reklam typu deepfake i scam, bezprawnie wykorzystujących wizerunek jego oraz jego żony do wyłudzenia pieniędzy. Pomimo wyroków sądów i decyzji Urzędu Ochrony Danych Osobowych (UODO) nakazujących blokadę tych treści, fałszywe reklamy wciąż były publikowane.
W tej sprawie interweniował również wicepremier, minister cyfryzacji Krzysztof Gawkowski. Wezwał Metę do przedstawienia resortowi cyfryzacji informacji dotyczących m.in. skali oszukańczych reklam w Polsce, w szczególności wykorzystujących bezprawnie wizerunek osób publicznych i przedsiębiorców. Meta nie przedstawiła danych dotyczących wyłącznie Polski. Podała natomiast, że w całej UE w analizowanym okresie otrzymała 788 745 zgłoszeń na Facebooku i 353 997 na Instagramie na podstawie art. 16 Aktu o usługach cyfrowych (DSA).
Na wezwanie wicepremiera dotyczące wykorzystania wizerunku Rafała Brzoski Meta odpowiedziała, że nie może ujawniać informacji dotyczących indywidualnych kont użytkowników ani spraw związanych z toczącymi się postępowaniami sądowymi.
Zobacz także:
- Korzystasz z AI? W życie wchodzą nowe przepisy: "Ważny krok". Kara nawet do 15 mln euro
- Model AI poza kontrolą. Naruszył systemy trzech firm
- Jak sztuczna inteligencja zmieni nasze życie? "Stała się całkowicie dostępna"