- Firma OpenAI podała, że podczas testów niektóre modele sztucznej inteligencji wymknęły się spod kontroli.
- Ta "ucieczka" skończyła się atakiem hakerskim infrastrukturę startupu Hugging Face zajmującego się sztuczną inteligencją.
- O sytuacji firma poinformowała na swoim blogu.
Dalsza część tekstu znajduje się poniżej.
Modele AI spowodowały atak hakerski
O zaistniałej sytuacji na swoim blogu poinformowała firma OpenAI. We wpisie podano, że gdy testowano możliwości niektórych najbardziej zaawansowanych modeli w kontrolowanym środowisku, programowi udało się wydostać poza wyznaczone granice, uzyskać dostęp do internetu i włamać się do serwerów Hugging Face, próbując zrealizować swój cel testowy. W poście na blogu stwierdzono, że ucieczka ta była "bezprecedensowym incydentem cybernetycznym, wymagającym wykorzystania najnowocześniejszych zdolności cybernetycznych" oraz że firma wzmacnia zabezpieczenia.
Hugging Face, platforma służąca do hostowania dużych modeli językowych i zbiorów danych open source, w zeszłym tygodniu w poście na blogu poinformowała, że padła ofiarą ataku hakerskiego, który "różnił się od wszystkiego, z czym mieliśmy do czynienia wcześniej", ponieważ "był on napędzany od początku do końca przez autonomiczny system agentów AI".
W poście na X, współzałożyciel Hugging Face, Clement Delangue, napisał, że firma podejrzewa, iż atak "mógł pochodzić z pionierskiego laboratorium, biorąc pod uwagę zaawansowanie agenta. Okazuje się, że tak było!".
- To niesamowite, że wszystko to wydarzyło się autonomicznie! - dodał.
Modele AI spowodowały atak hakerski. Czy takie sytuacje będą się powtarzać?
Ujawnienie przez OpenAI, że jego zaawansowane modele były odpowiedzialne za naruszenie bezpieczeństwa, pomimo umieszczenia ich w, jak to określono, "bardzo odizolowanym środowisku", prawdopodobnie nasili niepokój dotyczący mocy i ryzyka modeli pionierskich - podkreślił Reuters.
Matt Suiche, inżynier w firmie Tolmo, zajmującej się cyberbezpieczeństwem opartym na sztucznej inteligencji, ocenił, że systemy sztucznej inteligencji są obecnie tak samo skuteczne, jak elitarni cyberoperatorzy.
- Modele pionierskie nadrabiają zaległości dzięki najnowocześniejszym atakującym – powiedział. Ostrzegł, że naruszenia bezpieczeństwa opisane we wpisie na blogu OpenAI można było przeprowadzić przy użyciu technologii dostępnej daleko poza murami pionierskich laboratoriów badawczych.
- To właśnie widzieliśmy już u nas. Nie musimy nawet korzystać z najnowszych modeli - stwierdził.
Zobacz także:
- AI tworzy wakacyjne katastrofy. "Sztuczna inteligencja nie rozumie fizyki wody"
- Światowy Dzień bez Telefonu Komórkowego. Czy jesteśmy od nich uzależnieni?
- Zaufali trasie wyznaczonej przez AI. TOPR ewakuował ich śmigłowcem