"Anthropic nie jest bezpieczną firmą AI". Apel naukowców w dniu debiutu giełdowego

Robert Kędzierski
Aleksandra Przegalińska o apelu ws. AnthropicAleksandra Przegalińska o apelu ws. Anthropic
Źródło zdjęć: © East News

Naukowcy, prawnicy i przedstawiciele branży technologicznej zarzucają Anthropic, że buduje wizerunek lidera bezpieczeństwa AI, a jednocześnie ściga się w tworzeniu samodoskonalącej się sztucznej inteligencji. Apel opublikowano dzień przed debiutem spółki na Nasdaq.

Apel nazwany "The MisAnthropic Statement" ukazał się w środę z inicjatywy Center for AI Safety, organizacji non profit z San Francisco. Pod tekstem podpisało się już ponad 100 osób. Dokument opublikowano w przeddzień debiutu Anthropic na Nasdaq, tego samego dnia, w którym twórca modelu Claude ustalił cenę akcji w rekordowej ofercie publicznej na 83 dol. Spółka pozyskała z niej 81,3 mld dol.

Na apel zwróciła uwagę prof. Aleksandra Przegalińska, prorektorka Akademii Leona Koźmińskiego.

"Prawdopodobnie bardzo mało osób zobaczy ten apel, który, mimo że jest ważny, zniknie w natłoku informacji (jeszcze przecież premiera GTA!)" – napisała w serwisie X.

Sama dokumentu nie podpisała, bo jak przyznała, nie wierzy wystarczająco w jego skuteczność, zwłaszcza w dniu wejścia firmy na giełdę.


DLA CIEBIE
Nie płać więcej niż musisz. Te ulgi podatkowe warto znać


Zarzut gry na wizerunku bezpieczeństwa

Autorzy apelu wskazują, że Anthropic i konkurencyjne laboratoria rywalizują o zbudowanie superinteligencji, ale tylko Anthropic przedstawia się jako firma skupiona na bezpieczeństwie i wykorzystuje tę reputację do realizacji celów biznesowych i politycznych. "Anthropic ostrzega, że rekurencyjnie samodoskonaląca się AI mogłaby skoncentrować władzę i wymknąć się spod ludzkiej kontroli, a mimo to ściga się, by zbudować ją jako pierwsza. Firma wykorzystuje wizerunek bezpieczeństwa, by zabiegać o inwestorów, pracowników i opinię publiczną, choć jednocześnie po cichu osłabiła swoje zobowiązania dotyczące bezpieczeństwa i lobbowała za korzystnymi dla siebie regulacjami. Anthropic nie jest bezpieczną firmą AI i musimy odrzucić jej lekkomyślną próbę gromadzenia władzy w imię wyższego dobra" – czytamy w oświadczeniu.

"Merytorycznie jest tam trochę ważnych rzeczy" – oceniła Przegalińska. W komunikacie Center for AI Safety zarzuty doprecyzowano. Według organizacji Anthropic w lutym zmienił swoją politykę odpowiedzialnego skalowania i zrezygnował z jednostronnych zobowiązań do wstrzymania prac. Spółka miała też lobbować za osłabieniem projektów ustaw o bezpieczeństwie sztucznej inteligencji, m.in. kalifornijskiej SB 1047 i nowojorskiej RAISE Act, a nieoficjalnie popierać federalne przepisy uchylające regulacje stanowe.

"Publicznie ich liderzy ostrzegają, że rekurencyjne samodoskonalenie może stworzyć niekontrolowalne systemy, które w ciągu dekady mogą doprowadzić do wyginięcia ludzkości. Ale prywatnie wciskają gaz do dechy, napędzając wyścig, i chwalą się przed potencjalnymi inwestorami, że to ich »przewaga konkurencyjna«" – powiedział Max Tegmark z Future of Life Institute, cytowany przez The National. Zaapelował do osób rozważających zakup akcji, by zastanowiły się dwa razy, zanim zaryzykują życie swoich bliskich.

Od noblistów po akceleracjonistów

Wśród sygnatariuszy są psycholog Steven Pinker, noblista w dziedzinie ekonomii Oliver Hart, laureat Nagrody Turinga Judea Pearl oraz prawnicy z Harvardu Lawrence Lessig i Laurence Tribe. Apel podpisali też Thomas Wolf, współzałożyciel Hugging Face, Rumman Chowdhury i Max Tegmark. Na liście znaleźli się również laureaci Medalu Fieldsa Peter Scholze, James Maynard i David Mumford, współzałożyciel xAI Igor Babuschkin, George Hotz oraz Guillaume Verdon, znany jako Beff Jezos, twórca ruchu efektywnego akceleracjonizmu.

Jak zauważa Gizmodo, dokument połączył środowiska, które zwykle stoją po przeciwnych stronach sporu o tempo rozwoju AI, od zwolenników przyspieszania prac po badaczy bezpieczeństwa i etyków. Dan Hendrycks, dyrektor wykonawczy Center for AI Safety, twierdzi, że wiele organizacji zajmujących się bezpieczeństwem AI prywatnie popiera apel, ale obawia się go podpisać, by nie narazić relacji ani przyszłego finansowania.

Przedstawiciel Anthropic odmówił CNBC komentarza w sprawie oświadczenia. Dario Amodei, prezes spółki, powiedział w dniu debiutu, że równowaga między wzrostem a tempem rozwoju to jedno z centralnych napięć w firmie. W zaktualizowanym prospekcie z 10 listopada Anthropic zaznaczył, że nie zakłada, by mógł bezpiecznie pozwolić modelowi Claude w pełni samodzielnie budować kolejne wersje, bo wymagałoby to znaczącego nadzoru człowieka.

Wybrane dla Ciebie