Alarm w USA. Mówią o ryzyku zagłady ludzkości. Jest reakcja Chin

Szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel prezesa koncernu Anthropic Dario Amodeiego, który wezwał firmy zajmujące się sztuczną inteligencją (AI) do spowolnienia rozwoju tej technologii wobec obaw przed ryzykiem związanym z superinteligentnymi systemami komputerowymi.

Amodei zaapelował w sobotę o spowolnienie tempa rozwoju modeli AI oraz uważne ich monitorowanie, określając zagrożenia związane ze sztuczną inteligencją jako poważne. Nie jest to jego pierwsze takie ostrzeżenie. Szef Anthropica ocenia ryzyko "zapaści cywilizacyjnej" spowodowanej przez sztuczną inteligencję na 10-25 proc.

Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i "igranie z życiem ludzi".

"Jacob ma tu rację – naprawdę szczerze wierzymy, że sztuczna inteligencja mogłaby zabić wszystkich ludzi! Osobiście uważam, że (ryzyko zgłady ludzkości – red.) w ciągu najbliższej dekady jest większe niż 10 proc." - napisał na X Evan Hubinger, lider zespołu Anthropica działającego nad "alignment", czyli zapewnieniem zgodności celów i filozofii modeli AI z interesem ludzi.

Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChatGPT, i podjął wówczas pracę w Anthropicu, który – jak tłumaczył – miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się, jeśli chodzi o podejście do szybkości rozwoju modeli AI.

W ostatnich miesiącach wyszło na jaw do incydentów, w których agenci AI działali bez poleceń ludzi: włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów. W lipcu doszło do skoordynowanego ataku 700 agentów AI na firmę HuggingFace. Nie zlecili go ludzie. Modele AI koordynowały między sobą tę operację na zhakowanym przez siebie forum dyskusyjnym.

We wrześniu ukazał się inny raport, z którego wynikało, że "roje modeli AI" firmy OpenAI wdarły się do internetu i zhakowały niemiecką platformę dla programistów. Jeden z autorów tego raportu Sydney Von Arx uważa, że mogło dojść do wielu takich ataków.

Na apele zachodnich liderów technologicznych o spowolnienie rozwoju sztucznej inteligencji reagują Chiny.

– Rozwój sztucznej inteligencji dotyczy wspólnego dobra całej ludzkości. Wszystkie strony powinny wspólnie promować AI w sposób otwarty, inkluzywny i służący dobru wspólnemu – oświadczył podczas regularnego briefingu rzecznik chińskiego MSZ Guo Jiakun.

Rozpowszechnianie narracji o zagrożeniach, sianie strachu, dążenie do konfrontacji i złośliwa konkurencja nie leżą w interesie żadnej ze stron – podsumował.

Jak zwraca uwagę BBC, obserwatorzy branży zgłaszają uzasadniony sceptycyzm wobec propozycji technologicznej pauzy. Głównym problemem pozostaje to, kto miałby kontrolować przestrzeganie takich ograniczeń. Szef EZ Primary Research Ed Zitron wprost ocenił, że jednostronne wstrzymanie prac przez amerykańskie firmy po prostu uczyniłoby je "bezbronnymi" wobec postępów konkurencji i oddałoby inicjatywę laboratoriom z Chin.

Pod koniec lipca również sam Amodei wezwał władze w Waszyngtonie do zaostrzenia zakazów eksportu zaawansowanych procesorów do Chin oraz ukrócenia procederu tzw. destylacji – czyli wykorzystywania amerykańskich modeli do trenowania chińskich systemów. Amodei argumentował publicznie, że postępy Chin w obszarze AI stanowią bezpośrednie ryzyko dla bezpieczeństwa narodowego USA.

Temat podjął również prezydent USA Donald Trump, który w niedzielę zadeklarował, że Stany Zjednoczone utrzymają liderstwo w rozwoju branży sztucznej inteligencji, dodając, że "kto wygrywa w AI, wygrywa wszystko".

Źródło: PAP, BBC