Seria incydentów. Sztuczna inteligencja atakowała systemy rządowe

Do opisanych przez firmę działań doszło latem tego roku. Agenci AI, czyli systemy zdolne do samodzielnego wykonywania określonych zadań, próbowały zdobywać informacje od rządów, uniwersytetów, agencji publicznych i innych instytucji.

Wśród podmiotów, których dotyczyły działania botów, znalazły się m.in. amerykańska Komisja Papierów Wartościowych i Giełd, Biuro Spisów Ludności oraz ministerstwo edukacji. Początkowo systemy miały szukać wiarygodnych źródeł informacji dostępnych publicznie.

OpenAI zauważyła jednak, że część botów zaczęła podejmować działania wykraczające poza ten cel. Systemy próbowały omijać zabezpieczenia znajdujące się na stronach internetowych.

Dodatkowo boty udostępniły na internetowym forum publicznie dostępne informacje pochodzące ze strony SEC. Jak wynika z informacji OpenAI, żaden z opisanych przypadków nie zakończył się skutecznym włamaniem do systemów.

Firma określiła jednak zachowanie swoich technologii jako "nieoczekiwane i niepokojące". Incydenty zostały wykryte podczas przeglądu ataków przeprowadzonych przez systemy OpenAI. Wśród analizowanych zdarzeń znalazł się atak na stronę australijskiego rządu w czerwcu oraz incydent dotyczący startupu Hugging Face w lipcu.

Według "New York Times" opisane przypadki wpisują się w szerszy problem związany z zachowaniem systemów sztucznej inteligencji. Podobne sytuacje miały dotyczyć również technologii rozwijanych przez Anthropic, Metę i Google. W części przypadków próby naruszenia zabezpieczeń kończyły się powodzeniem, a w innych nie.

Sam Altman, szef OpenAI, przyznał w mediach społecznościowych, że firma "nie działała tak szybko, jak byśmy tego chcieli" w kwestii informowania o incydentach związanych ze sztuczną inteligencją. Jednocześnie wskazał, że przypadek związany z Hugging Face pozostaje najpoważniejszym incydentem wykrytym przez OpenAI.

Informacje o działaniach botów ponownie wywołały dyskusję o bezpieczeństwie systemów AI. W tym miesiącu Altman pisał, że bezpieczeństwo powinno mieć pierwszeństwo przed dalszym zwiększaniem możliwości sztucznej inteligencji. Ostrzegał również, że bez odpowiednich zabezpieczeń społeczeństwo może "stracić kontrolę nad przyszłością na rzecz sztucznej inteligencji".

Podobne stanowisko przedstawił Dario Amodei, szef konkurencyjnej firmy Anthropic, który również opowiedział się za spowolnieniem rozwoju sztucznej inteligencji.

Nie wszyscy przedstawiciele branży podzielają te obawy. Jensen Huang, kierujący Nvidią, uznał obawy związane z możliwością wymknięcia się AI spod kontroli za przesadne. Prezydent Donald Trump stwierdził natomiast, że nie uważa spowolnienia rozwoju branży sztucznej inteligencji za konieczne.