Pracują nad AI. Biją na alarm. Może "spowodować wyginięcie ludzkości"

27-letni Jacob Coxon, który pracował najpierw w OpenAI (twórcy ChatGPT i Codex), a potem w Anthropic (Claude), zarzucił obu firmom brak odpowiedzialności, dodając, że obie "pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem", mając pełną świadomość ryzyka szkody dla całej ludzkości. W reakcji przedstawiciele obydwu firm częściowo zgodzili się z jego oceną.

"Jacob ma rację - naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi!" - napisał na X Evan Hubinger, lider zespołu Anthropica działającego nad "alignment", czyli zapewnieniem zgodności celów i filozofii modeli AI z interesem ludzi. On sam ocenia ryzyko zagłady ludzkości na większe niż 10 proc. w ciągu najbliższej dekady. "Uważam, że Anthropic robi, co może, ale nie mamy jeszcze planu rozwiązania problemu dostosowania się superinteligencji do interesów ludzi i nie jesteśmy na dobrej drodze do jego osiągnięcia" - stwierdził.

Podobnie sytuację ocenia Samuel Marks, szef zespołu ds. nadzoru modeli w Anthropic. Jak stwierdził, pracujący nad sztuczną inteligencją uważają, że ich produkt może "spowodować wyginięcie ludzkości" lub doprowadzić do innej katastrofy. "To może się stać w ciągu najbliższych kilku lat. Ogółem rzecz biorąc, im wyższa ranga pracownika, tym bardziej jest tym zaniepokojony" - ocenił. Dodał, że rozwój AI jest kontynuowany z powodu zachęt ekonomicznych oraz przekonania, że jeśli oni nie wygrają wyścigu, zrobią to podmioty, które podchodzą do bezpieczeństwa mniej odpowiedzialnie.

Jason Wolfe, specjalista ds. alignment z OpenAI, również widzi poważne zagrożenia. "W obecnym, szczerze mówiąc przerażającym tempie (wyścigu), ludzkość będzie miała dużo szczęścia, jeśli uda nam się znaleźć i utrzymać wąską ścieżkę pomiędzy wszystkimi złymi rezultatami" - ocenił. Zaznaczył jednak, że aby tego uniknąć, potrzebna jest koordynacja w branży i żadna firma nie może się z tym uporać w pojedynkę. Dodał też, że lepsze od obecnego kursu byłoby całkowite zamknięcie prac nad AI, choć to również wymagałoby koordynacji.

Nie są to pierwsze ostrzeżenia na temat ryzyka związanego z rozwojem AI - szef Anthropica Dario Amodei oceniał ryzyko "zapaści cywilizacyjnej" spowodowanej przez sztuczną inteligencję na 10-25 proc. - lecz nowego impetu debacie dał szereg incydentów, w tym wymknięcie się grupy współpracujących ze sobą agentów AI spod kontroli OpenAI i zhakowanie systemów firmy Hugging Face, mimo że początkowo nie miały dostępu do internetu.

We wtorek "New York Times" doniósł z kolei o stworzeniu przez badaczy AI zajmujących się cyberbezpieczeństwem wirusa, który byłby w stanie zainfekować setki milionów telefonów użytkowników WeChat, popularnej w Chinach i Azji aplikacji używanej niemal do wszystkiego.

Z drugiej strony sceptycy od dawna oskarżają firmy, że celowo rozdmuchują obawy związane ze zdolnościami swoich modeli, by zawyżać ocenę ich zdolności i wyceny swoich firm.

Do debaty i apeli o spowolnienie wyścigu AI dochodzi w momencie, gdy zarówno Anthropic, jak i OpenAI przygotowują się do wejścia na giełdę. Według szacunków obie firmy mogą osiągnąć wycenę powyżej biliona dolarów, wchodząc do ścisłej czołówki najcenniejszych spółek giełdowych.

Przed skutkami rozwoju AI ostrzegał ostatnio także wysoki komisarz ONZ ds. praw człowieka Volker Tuerk. - Podzielam obawy osób z branży dotyczące tego, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości - stwierdził Tuerk. - Sztuczna inteligencja, która wydostaje się ze swego środowiska testowego albo szantażuje swych programistów, by jej nie wyłączali, jest już zbyt silna – ocenił w poniedziałek podczas otwarcia 63. Sesji Rady Praw Człowieka w Genewie. I zaapelował o wdrożenie "solidnych gwarancji dotyczących niezawodności i bezpieczeństwa sztucznej inteligencji, zanim będzie za późno".

– Niemal nieograniczoną władzę nad sztuczną inteligencją ma garstka ludzi, którzy cały czas nam mówią, że ma ona niewyobrażalne zdolności obliczeniowe. Mówią o wolności, ale jeśli się przyjrzeć bliżej, okazuje się, że chodzi wyłącznie o wolność wykorzystywania naszych danych - podkreślił.