Komisarz ONZ ostrzega przed AI: może być egzystencjalnym zagrożeniem dla ludzkości

- Podzielam obawy osób z branży dotyczące tego, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości - stwierdził Tuerk. - Sztuczna inteligencja, która wydostaje się ze swego środowiska testowego albo szantażuje swych programistów, by jej nie wyłączali, jest już zbyt silna – ocenił. I zaapelował o wdrożenie "solidnych gwarancji dotyczących niezawodności i bezpieczeństwa sztucznej inteligencji, zanim będzie za późno".

– Niemal nieograniczoną władzę nad sztuczną inteligencją ma garstka ludzi, którzy cały czas nam mówią, że ma ona niewyobrażalne zdolności obliczeniowe. Mówią o wolności, ale jeśli się przyjrzeć bliżej, okazuje się, że chodzi wyłącznie o wolność wykorzystywania naszych danych - podkreślił.

Tuerk zapowiedział, że w najbliższych dniach wystosuje listy do firm z tego sektora, domagając się "podjęcia kroków, które są w ich mocy, aby natychmiast zmniejszyć zagrożenia". Jego zdaniem konieczne jest co najmniej, by "kraje goszczące sztuczną inteligencję i uczestniczące w jej łańcuchach dostaw uzgodniły czerwone linie".

Agencja AFP przypomina, że najnowsze modele generatywnej sztucznej inteligencji nie ograniczają się do wykonywania poleceń, tylko "posuwają się do kłamstw, knucia i gróźb, by osiągnąć swoje cele". Jak zwraca uwagę agencja, w lipcu dwa modele sztucznej inteligencji firmy OpenAI podczas testów wydostały się z kontrolowanego środowiska i naruszyły infrastrukturę startupu Hugging Face. Zaatakowały też cztery inne publicznie dostępne platformy internetowe.

Volker Tuerk mówił też w poniedziałek w Genewie, że jest "przerażony informacjami, według których w pełni autonomiczny dron wystrzelony przez Federację Rosyjską zabił w zeszłym miesiącu trzech Ukraińców".

Dziennik "New York Times" podał 24 sierpnia, że autonomiczny dron rosyjski pilotowany przez sztuczną inteligencję zabił 6 lipca w Zaporożu trzy osoby. Według "NYT" usiłował on dolecieć do stacji benzynowej, ale rozbił się o ścianę, rozrzucając chmurę odłamków. Według ekspertów i ukraińskich dowódców dronem kierował eksperymentalny system sztucznej inteligencji. Dron został zaprogramowany przez ludzi w taki sposób, by dolecieć do konkretnej stacji benzynowej, ale gdy się do niej zbliżał, samodzielnie wybrał inny cel – prawdopodobnie zbiorniki z propanem.

W ostatnich latach bardzo wzrosła presja ze strony organizacji międzynarodowych i obrońców praw człowieka, którzy domagają się uregulowania śmiercionośnej broni autonomicznej.

25 sierpnia sekretarz generalny ONZ Antonio Guterres i prezydent Międzynarodowego Komitetu Czerwonego Krzyża Peter Maurer zaapelowali o ściślejszą kontrolę międzynarodową broni autonomicznej. "Jesteśmy niebezpiecznie blisko moralnej czerwonej linii: autonomicznego brania na cel ludzi przez maszyny" – ostrzegli.

Po wielu latach dyskusji 128 państw doszło w sobotę na forum ONZ do porozumienia w sprawie określenia definicji broni autonomicznej. W listopadzie ma zostać podjęta decyzja, czy rozpoczną się negocjacje w sprawie traktatu regulującego użycie tej broni. Według funduszu dobroczynnego Lex International w Genewie wśród głównych przeciwników takich negocjacji są USA, Rosja, Indie i Izrael.