Za oceanem boją się niekontrolowanej broni. Jest reakcja z Chin

Szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel prezesa koncernu Anthropic Dario Amodeiego, który wezwał firmy zajmujące się sztuczną inteligencją (AI) do spowolnienia rozwoju tej technologii wobec obaw przed ryzykiem związanym z superinteligentnymi systemami komputerowymi.

Amodei zaapelował w sobotę w artykule opublikowanym w internecie o spowolnienie tempa rozwoju modeli AI oraz uważne ich monitorowanie, określając zagrożenia związane ze sztuczną inteligencją jako poważne.

Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i "igranie z życiem ludzi".

"Jacob ma rację - naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi!" - napisał na X Evan Hubinger, lider zespołu Anthropica działającego nad "alignment", czyli zapewnieniem zgodności celów i filozofii modeli AI z interesem ludzi. Jak dodał, on sam ocenia ryzyko zagłady ludzkości na większe niż 10 proc. w ciągu najbliższej dekady.

Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChatGPT, i podjął wówczas pracę w Anthropicu, który – jak tłumaczył – miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się, jeśli chodzi o podejście do szybkości rozwoju modeli AI.

Na apele zachodnich liderów technologicznych o spowolnienie rozwoju sztucznej inteligencji reagują Chiny.

– Rozwój sztucznej inteligencji dotyczy wspólnego dobra całej ludzkości. Wszystkie strony powinny wspólnie promować AI w sposób otwarty, inkluzywny i służący dobru wspólnemu – oświadczył podczas regularnego briefingu rzecznik chińskiego MSZ Guo Jiakun.

Rozpowszechnianie narracji o zagrożeniach, sianie strachu, dążenie do konfrontacji i złośliwa konkurencja nie leżą w interesie żadnej ze stron – podsumował.

Jak zwraca uwagę BBC, obserwatorzy branży zgłaszają uzasadniony sceptycyzm wobec propozycji technologicznej pauzy. Głównym problemem pozostaje to, kto miałby kontrolować przestrzeganie takich ograniczeń. Szef EZ Primary Research Ed Zitron wprost ocenił, że jednostronne wstrzymanie prac przez amerykańskie firmy po prostu uczyniłoby je "bezbronnymi" wobec postępów konkurencji i oddałoby inicjatywę laboratoriom z Chin.

Pod koniec lipca również sam Amodei wezwał władze w Waszyngtonie do zaostrzenia zakazów eksportu zaawansowanych procesorów do Chin oraz ukrócenia procederu tzw. destylacji – czyli wykorzystywania amerykańskich modeli do trenowania chińskich systemów. Amodei argumentował publicznie, że postępy Chin w obszarze AI stanowią bezpośrednie ryzyko dla bezpieczeństwa narodowego USA.

Temat podjął również prezydent USA Donald Trump, który w niedzielę zadeklarował, że Stany Zjednoczone utrzymają liderstwo w rozwoju branży sztucznej inteligencji, dodając, że "kto wygrywa w AI, wygrywa wszystko".

Źródło: PAP