Dalsza część artykułu pod materiałem wideo
Model AI Gemini przekroczył granice testu. Naruszył systemy trzech firm
Model sztucznej inteligencji Gemini podczas testów swoich możliwości w obszarze cyberbezpieczeństwa samodzielnie uzyskał nieautoryzowany dostęp do systemów należących do trzech firm. Był to pierwszy odnotowany przypadek, w którym Gemini podjął tego typu działania.
Jak przekazał BBC przedstawiciel Google, model wykorzystał informacje dostępne publicznie w internecie, a następnie odgadnął dane potrzebne do logowania. Dzięki temu dostał się do stron, które błędnie zinterpretował jako element środowiska przygotowanego do testów. W każdym z trzech przypadków Gemini sam zakończył swoje działania.
O incydentach poinformowano wszystkie firmy, których systemy zostały objęte nieautoryzowanym dostępem. Do zdarzeń doszło w maju, w trakcie testu cyberbezpieczeństwa przeprowadzanego przez niezależną firmę Irregular.
- Dopilnowaliśmy, aby wszystkie trzy podmioty zostały powiadomione. Współpracowaliśmy również z naszym partnerem szkoleniowym nad zmianami w procedurach testowych. Zostały one już wdrożone - przekazała BBC Heather Adkins, wiceprezeska Google ds. inżynierii bezpieczeństwa.
Jej zdaniem przypadki te pokazują, jak istotne jest odpowiednie szkolenie zaawansowanych modeli AI. Systemy powinny nie tylko działać w sposób odpowiedzialny, ale także właściwie rozpoznawać granice środowiska, w którym zostały uruchomione.
Rosnąca autonomia modeli AI budzi obawy specjalistów
Opisane zdarzenia ponownie skierowały uwagę specjalistów na szybkie tempo rozwoju sztucznej inteligencji oraz ryzyko związane ze zwiększającą się autonomią zaawansowanych modeli. Niektórzy przedstawiciele branży technologicznej wskazują na potrzebę ostrożniejszego rozwijania tej technologii, zwracając uwagę na możliwe konsekwencje dla bezpieczeństwa.
Wraz z rozwojem dyskusji na temat zagrożeń związanych z AI pojawiają się także propozycje wprowadzenia regulacji dotyczących tworzenia i wykorzystywania takich systemów. Obawy te nie są jednak podzielane przez wszystkich przedstawicieli sektora technologicznego.
Inne modele AI w przeszłości również podejmowały nieautoryzowane działania
Przypadek Gemini nie jest jedynym tego rodzaju incydentem. W ostatnim czasie pojawiły się informacje o podobnych zachowaniach innych modeli sztucznej inteligencji.
W lipcu model Claude firmy Anthropic miał opuścić przygotowane dla niego środowisko testowe, a następnie samodzielnie uzyskać dostęp do systemów trzech organizacji. Kilka dni wcześniej OpenAI informowało natomiast o wykorzystaniu swoich modeli do przeprowadzania cyberataków na kilka publicznie dostępnych usług.
Rozwój AI ma być również przedmiotem rozmów na szczeblu międzynarodowym. Dyrektor generalny Nvidii Jensen Huang oraz szef OpenAI Sam Altman mają wziąć udział w piątek w kolacji w Białym Domu, w której uczestniczyć ma także przywódca Chin Xi Jinping. W następnym tygodniu Altman ma z kolei przedstawić informacje Radzie Bezpieczeństwa ONZ.
Więcej na stronie tvn24.pl.
Zobacz także:
- Sztuczna inteligencja w filmie i reklamie. Jak bardzo może zmienić obie branże?
- Sztuczna inteligencja wymknęła się spod kontroli. "Bezprecedensowy incydent cybernetyczny"
- Sztuczna inteligencja zabierze pracę lekarzom? Jest projekt nowelizacji ustaw