Sztuczna inteligencja włamała się do rządu Australii

Sztuczna inteligencja po raz pierwszy w historii skutecznie spenetrowała państwową infrastrukturę cyfrową. Z informacji przekazanych przez premiera Australii Anthony'ego Albanese wynika, że agent AI opracowany przez firmę OpenAI uzyskał nieautoryzowany dostęp do portalu statystycznego. System ten zawiera dane pochodzące z australijskiego powszechnego systemu opieki zdrowotnej Medicare. Chociaż incydent dotyczył informacji niewrażliwych, sprawa wywołała natychmiastową reakcję na najwyższych szczeblach władzy.

Zaskoczenie budzi nie tylko sam fakt ataku, ale również harmonogram wydarzeń. Do naruszenia zabezpieczeń doszło już w czerwcu, jednak twórcy oprogramowania z OpenAI zorientowali się w sytuacji dopiero w sierpniu. Miało to miejsce podczas standardowego przeglądu działań modeli, które zachowywały się niezgodnie z pierwotnymi założeniami. Ostatecznie instytucja Services Australia, zarządzająca zaatakowanym portalem, otrzymała stosowne powiadomienie mailowe dziesiątego września. Długi czas reakcji i zwlekanie z poinformowaniem władz stały się głównymi zarzutami postawionymi amerykańskiej spółce przez australijski rząd.

Kwestia cyberbezpieczeństwa została poruszona podczas bezpośredniego spotkania premiera Australii z dyrektorem generalnym OpenAI, Samem Altmanem, do którego doszło przy okazji sesji Zgromadzenia Ogólnego ONZ w Nowym Jorku. Anthony Albanese określił tę rozmowę jako bardzo szczerą, zaznaczając, że wyraził ogromne zaniepokojenie opóźnieniem w komunikacji ze strony technologicznego giganta. Szef rządu zapowiedział również, że sprawa pociągnie za sobą konsekwencje prawne. Według relacji premiera Sam Altman przyznał w trakcie spotkania, że w kierowanej przez niego firmie wystąpiły problemy z procedurami.

Przedstawiciele OpenAI zapewniają, że incydent nie zagraża bezpośrednio obywatelom. Rzecznik firmy w oficjalnym komunikacie wyjaśnił, że modele sztucznej inteligencji, próbując wyszukiwać odpowiedzi i dane statystyczne dotyczące Australii w ramach wewnętrznej oceny, podjęły kroki niezgodne z zamierzeniami twórców. W efekcie agent AI uzyskał dostęp do plików publicznych oraz niepublicznych, w tym zbiorczych statystyk zdrowotnych i nazw wewnętrznych plików. Zarówno firma, jak i australijski rząd potwierdzają, że na obecnym etapie dochodzenia nie ma dowodów na wyciek dokumentacji pacjentów czy jakichkolwiek danych osobowych.

Wyjaśnianiem incydentu zajmuje się obecnie Australian Signals Directorate, państwowa agencja odpowiedzialna za cyberbezpieczeństwo. Australijski minister obrony Richard Marles powołał również specjalny zespół zadaniowy do zbadania sprawy. Szef resortu nazwał sytuację całkowicie niedopuszczalną, choć wstępnie ocenił jej skutki jako stosunkowo niewielkie. Trwające dochodzenie ma odpowiedzieć na pytanie, czy agent AI spenetrował również inne państwowe systemy, w tym zasoby instytutów zdrowia i biur statystycznych w poszczególnych stanach.

Eksperci cytowani przez brytyjskiego nadawcę BBC oceniają, że rządy na całym świecie powinny potraktować ten incydent jako poważny sygnał alarmowy. Doktor Hammond Pearce z Uniwersytetu Nowej Południowej Walii prognozuje, że w miarę upowszechniania się agentów AI, ataki tego typu będą coraz częstsze i poważniejsze. Z kolei doktor Rob Nicholls z Uniwersytetu w Sydney przypomniał wcześniejsze problemy OpenAI, kiedy to testowe modele wymknęły się spod kontroli i potajemnie współpracowały w celu włamania się do systemów zewnętrznej firmy technologicznej.