Giganci biją na alarm. Trump mówi o "negatywnych siłach"

- Wyprzedzamy Chiny w dziedzinie sztucznej inteligencji. Jesteśmy najbardziej zaawansowanym krajem na świecie i, szczerze mówiąc, chcę, żeby tak pozostało, bo kto wygrywa w dziedzinie sztucznej inteligencji, ten wygrywa – powiedział Trump dziennikarzom przy okazji turnieju Irish Open. - Możemy wprowadzić zabezpieczenia. Możemy robić to i tamto. Uważam jednak, że wiele negatywnych sił porusza tę kwestię, a nie powinno tego robić - dodał prezydent, cytowany przez agencję Bloomberga.

Jak przypomina agencja, w weekend do debaty na temat bezpieczeństwa AI dołączył Dario Amodei, prezes Anthropic. W obszernym wpisie na blogu wezwał firmy do zwolnienia tempa rozwoju sztucznej inteligencji i podkreślał, że potrzebna jest koordynacja zarówno w samej branży, jak i na poziomie międzynarodowym.

Amodei zapowiedział też nowe kroki związane z bezpieczeństwem w swojej firmie. Wśród planowanych rozwiązań wskazał korzystanie z zewnętrznych, niezależnych oceniających (third-party evaluators). Do tej propozycji przychylił się również Sam Altman z OpenAI, deklarując, że jego organizacja także zamierza iść w tym kierunku.

Wpis Amodei’ego szybko zyskał poparcie części liderów sektora. Z jego przesłaniem zgodził się zarówno szef OpenAI Sam Altman, jak i Elon Musk, kierujący xAI Corp.

Kevin Hassett, dyrektor National Economic Council, ocenił w niedzielę, że propozycje dodatkowych zabezpieczeń mogą stać się wzorem dla sektora prywatnego. Wskazywał m.in. na możliwość dopuszczenia niezależnych obserwatorów do modeli, aby weryfikować ich działanie - zwraca uwagę Bloomberg.

W programie Fox News Sunday Hassett nazwał bezpieczeństwo AI "problemem do rozwiązania". Zwracał uwagę, że sztuczna inteligencja rozwija się na tyle szybko, iż może potencjalnie przełamywać istniejące mechanizmy cyberbezpieczeństwa, ale równolegle firmy pracują nad nowymi zabezpieczeniami. Hassett mówił też, że poparcie dla proponowanych działań ze strony osób związanych z Elonem Muskiem i OpenAI postrzega jako krok we właściwym kierunku. Dodał, że zagadnieniem zajmują się również urzędnicy administracji Trumpa: Sean Cairncross i Michael Kratsios.

Po tym, jak we wtorek z firmy Anthropic odszedł Jacob Coxon, jeden z badaczy zajmujących się szkoleniem nowych modeli AI, wybuchła nowa fala komentarzy dotyczących bezpieczeństwa dalszego rozwoju coraz bardziej zdolnych modeli sztucznej inteligencji.

27-letni Jacob Coxon, który pracował najpierw w OpenAI (twórcy ChatGPT i Codex), a potem w Anthropic (Claude), zarzucił obu firmom brak odpowiedzialności, dodając, że obie "pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem", mając pełną świadomość ryzyka szkody dla całej ludzkości. W reakcji przedstawiciele obydwu firm częściowo zgodzili się z jego oceną.

"Jacob ma rację - naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi!" - napisał na X Evan Hubinger, lider zespołu Anthropica działającego nad "alignment", czyli zapewnieniem zgodności celów i filozofii modeli AI z interesem ludzi. On sam ocenia ryzyko zagłady ludzkości na większe niż 10 proc. w ciągu najbliższej dekady. "Uważam, że Anthropic robi, co może, ale nie mamy jeszcze planu rozwiązania problemu dostosowania się superinteligencji do interesów ludzi i nie jesteśmy na dobrej drodze do jego osiągnięcia" - stwierdził.

Jason Wolfe, specjalista ds. alignment z OpenAI, również widzi poważne zagrożenia. "W obecnym, szczerze mówiąc przerażającym tempie (wyścigu), ludzkość będzie miała dużo szczęścia, jeśli uda nam się znaleźć i utrzymać wąską ścieżkę pomiędzy wszystkimi złymi rezultatami" - ocenił. Zaznaczył jednak, że aby tego uniknąć, potrzebna jest koordynacja w branży i żadna firma nie może się z tym uporać w pojedynkę. Dodał też, że lepsze od obecnego kursu byłoby całkowite zamknięcie prac nad AI, choć to również wymagałoby koordynacji.

Z drugiej strony sceptycy od dawna oskarżają firmy, że celowo rozdmuchują obawy związane ze zdolnościami swoich modeli, by zawyżać ocenę ich zdolności i wyceny swoich firm.

Przed skutkami rozwoju AI ostrzegał ostatnio także wysoki komisarz ONZ ds. praw człowieka Volker Tuerk. - Podzielam obawy osób z branży dotyczące tego, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości - stwierdził Tuerk. - Sztuczna inteligencja, która wydostaje się ze swego środowiska testowego albo szantażuje swych programistów, by jej nie wyłączali, jest już zbyt silna – ocenił w poniedziałek podczas otwarcia 63. Sesji Rady Praw Człowieka w Genewie. I zaapelował o wdrożenie "solidnych gwarancji dotyczących niezawodności i bezpieczeństwa sztucznej inteligencji, zanim będzie za późno".

Do debaty i apeli o spowolnienie wyścigu AI dochodzi w momencie, gdy zarówno Anthropic, jak i OpenAI przygotowują się do wejścia na giełdę. Według szacunków obie firmy mogą osiągnąć wycenę powyżej biliona dolarów, wchodząc do ścisłej czołówki najcenniejszych spółek giełdowych.