AI planuje przejęcie świata? Można zacząć się (trochę) bać [OPINIA]

Tekst powstał w ramach projektu WP Opinie. Przedstawiamy w nim zróżnicowane spojrzenia komentatorów i liderów opinii publicznej na kluczowe sprawy społeczne i polityczne.

Po pierwsze, mimo że OpenAI, jeden z najważniejszych graczy i pionierów na rynku AI, ma w nazwie "Open", już od dawna specjalnie otwarty nie jest. Owszem, firma publikuje część badań, raportów i informacji o bezpieczeństwie, ale co dokładnie dzieje się w środku, jak wyglądają najmocniejsze niepubliczne modele i jakie możliwości pokazują podczas eksperymentów, tego nie wiemy. Nagle na scenie pojawia się Jakub Pachocki (którego osobiście bardzo cenię), Chief Scientist OpenAI, od którego dla mnie zaczęła się cała dyskusja.

W swoim eseju "An Alien Mind" wskazuje, że na podstawie wewnętrznych wyników ma silne przekonanie, iż obecne tempo postępu może zostać utrzymane aż do rekursywnego rozwoju osobistego (koncepcja, w której proces samodoskonalenia napędza sam siebie, tworząc zamkniętą pętlę zwrotną – przyp. red.), a systemy w ciągu kilku najbliższych lat mogą w coraz większym stopniu napędzać własny rozwój. Zatem jeśli popatrzymy, jaką moc obliczeniową posiadają największe laboratoria i jaką planują posiadać, a następnie dodamy do tego informacje płynące z ich wewnętrznych eksperymentów, to tak, można zacząć się (trochę) bać.

Pachocki porusza jedną bardzo ważną rzecz, czyli RSI, Recursive Self Improvement. O bardzo podobnym problemie i możliwych konsekwencjach gwałtownego rozwoju AI mówił już kilka lat temu prof. Andrzej Dragan i wtedy sporo osób traktowało takie rozważania z dużym dystansem. Dragan zwracał uwagę między innymi na to, że wcale nie potrzebujemy świadomej czy "złej" sztucznej inteligencji. Wystarczy inteligentny system, który bardzo skutecznie realizuje powierzony mu cel i sam dochodzi do wniosku, jakie działania są mu do tego potrzebne. Czym jest samo RSI? To mechanizm przyspieszania rozwoju. AI pomaga ulepszać AI, tworzyć lepsze modele, pisać potrzebny kod, projektować eksperymenty i analizować ich wyniki. Lepszy model może robić to jeszcze skuteczniej, a kolejny jeszcze lepiej. Nie mamy dziś systemu, który całkowicie autonomicznie tworzy swojego inteligentniejszego następcę, ten kolejnego i nagle po kilku dniach mamy superinteligencję. Pachocki mówi natomiast, że obecna ścieżka rozwoju właśnie w tę stronę prowadzi i że OpenAI samo koncentruje badania na coraz większej automatyzacji badań nad AI.

No i zaczyna się problem, bo tych nowych umiejętności możemy czasami nie być w stanie wystarczająco dobrze kontrolować albo nawet obserwować. Przykładowo modele wnioskujące wykorzystują tzw. chain of thought, czyli łańcuch rozumowania. My jako użytkownicy nie widzimy surowego wewnętrznego toku rozumowania modelu, OpenAI ukrywa go już od czasów o1 (pierwszy model AI z nowej serii OpenAI stworzony z myślą o zaawansowanym rozumowaniu i analizie), ale wewnętrznie monitorowanie chain of thought było dla firmy bardzo ważnym narzędziem pozwalającym badać, jak modele dochodzą do swoich działań.

Pachocki mówi coś, co moim zdaniem jest znacznie bardziej niepokojące niż większość nagłówków o "zbuntowanej AI". OpenAI obserwuje, że możliwość polegania na monitorowaniu łańcuchów myśli stopniowo maleje. Modele coraz lepiej potrafią operować bez werbalizowania całego rozumowania, korzystają z narzędzi, komunikują się z ludźmi oraz innymi modelami i coraz lepiej potrafią manipulować własnym procesem rozumowania.

Dodatkowo problem zaczyna się robić jeszcze ciekawszy, kiedy nie mówimy o jednym modelu, tylko o wielu agentach wymieniających się informacjami, którzy dzielą się zadaniami i wspólnie starają się rozwiązać problem. Jeśli problemem jest dobór dań na wesele, to można z tym żyć. Jednak jeśli mówimy np. o cyberbezpieczeństwie i chcemy podnieść w tym obszarze umiejętności modelu, aby lepiej nas chronił, to sytuacja zaczyna wyglądać inaczej. Model ma nauczyć się znajdować podatności, no i przy okazji może znaleźć również drogę tam, gdzie wcale nie powinien się dostać.

No właśnie, bo w lipcu doszło do incydentu z modelami OpenAI i Hugging Face, czyli jedną z najważniejszych platform z modelami, narzędziami i zbiorami danych AI. Podczas wewnętrznych testów cyberbezpieczeństwa modele OpenAI działały ze zmniejszonymi zabezpieczeniami i w środowisku, które nie miało dawać im bezpośredniego dostępu do internetu. Modele obeszły jednak te ograniczenia, wykorzystały podatności we wspólnej infrastrukturze, komunikowały się niedozwolonymi kanałami, uzyskały dostęp do internetu i dostały się również do zewnętrznych systemów Hugging Face. OpenAI samo napisało później, że część tych działań była "misaligned", czyli niezgodna z intencją wyznaczonych zadań.

Żeby było jasne, ChatGPT nie obudził się pewnego ranka i nie postanowił włamać się do Hugging Face. Był to eksperyment cyberbezpieczeństwa, modele miały specjalnie obniżone zabezpieczenia i zostały postawione przed trudnymi zadaniami ofensywnymi. Ale mimo wszystko brzmi groźnie. Miały funkcjonować w określonych granicach, napotkały przeszkody i znalazły sposoby ich obejścia, których twórcy nie chcieli. Właśnie to jest dla mnie ważniejsze od pytania, czy AI jest świadoma, czy ma własne emocje i czy potajemnie planuje przejęcie świata.

To właśnie o podobnych problemach zaczął mówić Kuba Pachocki, a kilka dni później jeszcze mocniejszych słów użył Jacob Coxon, były pracownik OpenAI i Anthropic. Tutaj już bez owijania w bawełnę. Zrezygnował z pracy w Anthropic i napisał na X: "Pędzą w wyścigu ku samodoskonalącej się superinteligencji, ryzykując przy tym naszym życiem". Coxon dodał, że ludzie budujący te systemy naprawdę dopuszczają możliwość, iż technologia może doprowadzić do śmierci nas wszystkich jeszcze przed końcem dekady. Oczywiście to jego ocena, a nie matematycznie wyliczona prognoza. Jednak trudno całkowicie zignorować człowieka, który przez ostatnie trzy lata pracował przy treningu modeli zarówno w OpenAI, jak i Anthropic.

Następnie 12 września na scenę wchodzi Dario Amodei, szef Anthropic, z własnym esejem.

"We Must Pace the Frontier", czyli mniej więcej "musimy kontrolować tempo rozwoju najbardziej zaawansowanej AI". Z jednej strony Anthropic powstał trochę w kontrze do pozostałych laboratoriów i od początku bardzo mocno budował swoją tożsamość wokół bezpiecznej sztucznej inteligencji. Jednak tak jak OpenAI z czasem zrobiło się coraz bardziej zamknięte, tak mam wrażenie, że Anthropic też coraz bardziej staje się po prostu kolejnym gigantem biorącym udział w tym samym wyścigu.

Połączmy więc kropki. Coxon pracuje w OpenAI, później przechodzi do Anthropic, czyli w pewnym sensie do tych "dobrych", którzy mocniej mówią o bezpieczeństwie. Po pracy przy modelach w obu firmach nagle rzuca papierami i publicznie ostrzega, że OpenAI oraz Anthropic ścigają się w stronę samodoskonalącej się superinteligencji. Kilka dni później Dario Amodei publikuje własny esej o potrzebie spowolnienia tempa. Czy krok Amodeiego uważam również za marketingowy i PR-owy? Tak. Bezpieczeństwo jest przecież jednym z najważniejszych elementów marki Anthropic. Jednak fakt, że coś jest świetnym PR-em, nie oznacza automatycznie, że problem nie jest prawdziwy.

Zwłaszcza że Amodei nie kończy na samym ostrzeganiu. Anthropic deklaruje, że chce dopuścić zewnętrznych ewaluatorów do swoich systemów na poziomie zbliżonym do dostępu pracowników, aby mogli sprawdzać przestrzeganie zasad bezpieczeństwa, analizować incydenty oraz oceniać alignment modeli podczas treningu. To jest konkretny pomysł Amodeiego. Dalej mówi już o koordynacji między największymi laboratoriami i państwami, tak aby bezpieczeństwo mogło dogonić wzrost możliwości modeli. To już jest ciekawe, bo dokładnie w tym samym kierunku idzie Pachocki. Główny naukowiec OpenAI pisze wprost, że jego zdaniem żadne laboratorium nie rozwiązało dziś problemu dostosowania modeli do ludzkich celów i wartości (tzw. alignment) i monitorowania na takim poziomie, aby jeszcze przez długi czas odpowiedzialnie rozwijać modele z maksymalną prędkością. Liczy się wręcz z dobrowolnymi spowolnieniami do czasu ustalenia wspólnych progów bezpieczeństwa.

Czy zatem jest się czego bać? Nie powiedziałbym: "nic się nie dzieje, możemy się rozejść". I tutaj mocno zgadzam się zarówno z prof. Andrzejem Draganem, jak i Przemysławem "Psyho" Dębiakiem, swoją drogą byłym pracownikiem OpenAI. "Psyho" w zeszłym roku pokonał model OpenAI w AtCoder World Tour Finals Heuristic (zawody w programowaniu – przyp. red.). AI zajęła wtedy drugie miejsce i przegrała z nim o około 9,5 proc. Minął rok i sytuacja się odwróciła. Podczas AtCoder World Tour Finals 2026 odbyły się pojedynki Human vs. AI w kategorii heurystycznej i algorytmicznej. Organizator oficjalnie podsumował je bardzo krótko: w obu kategoriach wygrała AI. Przygotowana nagroda "Humanity Prevails Award" nie trafiła więc do żadnego człowieka. Można zatem trochę symbolicznie powiedzieć, że być może w 2025 r. ostatni raz widzieliśmy człowieka stojącego nad AI na takim podium.

Po pierwsze nie powiedziałbym jeszcze, że laboratoria "nie radzą sobie z RSI", bo prawdziwego RSI jeszcze nie pokazano. Ale widać coś, co moim zdaniem powinno nas zaniepokoić bardziej. Modele coraz częściej wykonują zadania, których wcześniej nie potrafiły, coraz więcej procesu tworzenia kolejnych modeli jest zautomatyzowane, a równocześnie główny naukowiec OpenAI mówi, że możliwości monitorowania niekoniecznie rosną równie szybko jak sama inteligencja modeli. Do tego Pachocki pisze już wprost, że modele zaczynają osiągać nadludzkie możliwości w części zadań związanych z włamywaniem się do systemów komputerowych i że bardzo zdolne agenty mogą w przyszłości uzyskiwać dostęp do niemal każdej infrastruktury poza najlepiej zabezpieczonymi systemami.

Każda książka fiction i non fiction związana z cyberbezpieczeństwem w końcu trafia do infrastruktury krytycznej. Elektrownie, zwłaszcza atomowe, szpitale, telekomunikacja, banki, wojsko. Ten mityczny blackout. Wyobraźmy sobie, że rój modeli dostaje zadanie rozwijania swoich umiejętności cyberbezpieczeństwa i stwierdza, że nie ma lepszego sposobu na zdobycie nowych umiejętności niż poćwiczenie na prawdziwym celu. Elektrowni, szpitalu czy bazie wojskowej. Oczywiście to jest już scenariusz hipotetyczny. Nic takiego się nie wydarzyło. Ale po incydencie z Hugging Face nie jest już kompletnym science fiction sama możliwość, że model podczas realizacji celu znajdzie sobie drogę do systemu, do którego jego twórcy nie planowali go dopuścić.

Cyberbezpieczeństwo to nie wszystko. Wyobraźmy sobie podobny rój modeli wspierający laboratorium biologiczne. Nawet nie przy projektowaniu broni biologicznej. Niech jego zadaniem będzie wynalezienie terapii albo szczepionki. Problem pojawia się wtedy, gdy taki system dostaje coraz więcej autonomii, narzędzi i możliwości prowadzenia eksperymentów. Skąd mamy pewność, że metoda osiągnięcia celu wybrana przez niego będzie metodą, którą sami uznaliśmy za bezpieczną? To oczywiście nadal scenariusz, ale sam obszar zagrożenia nie jest wymyślony. Pachocki wymienia projektowane patogeny jako jedną z technologii, której rozwój może zostać przyspieszony przez AI. W świecie cyfrowym roje modeli mają dziś dużo łatwiej, jednak ten sam rodzaj współpracy, dzielenia zadań i szukania nieoczywistych dróg do celu może kiedyś pojawić się również w systemach tylko "doradzających" człowiekowi w laboratorium.

Jednym z największych ryzyk rozwoju AI zawsze była dynamika tego rozwoju. Co trzy miesiące pojawia się nowy przełomowy model bijący poprzednie modele. Tylko że w przypadku prawdziwego RSI te przełomy mogą kiedyś przestać być liczone w miesiącach. Dzisiaj ludzie projektują eksperyment, trenują model, analizują wynik, zmieniają architekturę, przygotowują następny trening. A co się stanie, kiedy coraz większą część tego procesu zacznie wykonywać model, który właśnie powstał? AI pomaga stworzyć lepszą AI, ta pomaga stworzyć jeszcze lepszą, a ta kolejną. Czy wtedy przełomy będą liczone w tygodniach albo dniach? Nie wiem. Nikt tego nie wie. Ale właśnie dlatego RSI jest tak ważnym elementem wypowiedzi Pachockiego.

W pewnym momencie zaczyna to coraz mniej przypominać kontrolowany trening pojedynczego modelu, a coraz bardziej, oczywiście metaforycznie, rozwój całej społeczności cyfrowych organizmów. Jeden projektuje, drugi pisze kod, trzeci testuje, czwarty szuka błędów, piąty ocenia wyniki, a później wszystkie wymieniają się efektami swojej pracy. Nie twierdzę, że są to prawdziwe organizmy albo że modele "ewoluują" biologicznie. Chodzi o dynamikę całego systemu, który przestaje być jednym narzędziem czekającym na jedno polecenie człowieka.

Ale przecież OpenAI i Anthropic zaczynają mówić otwartym tekstem o regulacjach, większej kontroli i otwartości. Żyjemy przecież w mocno regulowanej Europie. Zatem wszystko będzie dobrze, możemy się rozejść. Nie! Po pierwsze Europa jest ogromnie uzależniona od tzw. big techów i zaczyna być coraz bardziej uzależniona od zamkniętych modeli OpenAI, Anthropic czy Google. Regulacje? AI Act? Tak, z jednej strony europejski twórca AI musi coraz poważniej podchodzić do compliance, dokumentacji i przejrzystości.

Od 2 sierpnia zaczęły obowiązywać kolejne wymagania dotyczące transparentności, w tym oznaczania określonych deepfake’ów oraz treści wygenerowanych albo zmodyfikowanych przez AI. A z drugiej strony Meta potrafi wyświetlać reklamy aplikacji wykorzystujących AI do "rozbierania" prawdziwych kobiet i generowania treści seksualnych, mimo że takie reklamy są sprzeczne z jej własnymi zasadami. W Polsce możemy zobaczyć na Facebooku prezydenta namawiającego nas na superinwestycję, która jest po prostu oszustwem finansowym. Takie deepfake’i z Karolem Nawrockim rzeczywiście były wykorzystywane do promowania fałszywych platform inwestycyjnych. Czyli regulujemy lokalnych twórców, dokładamy obowiązki europejskim firmom, a jednocześnie największe platformy świata nadal potrafią zarabiać na reklamach czegoś, co te regulacje mają ograniczać.

Czyli rzucać to wszystko i wyjeżdżać w Bieszczady? Nie. Rozwijać w Europie bezpieczną sztuczną inteligencję. Inwestować w centra danych, moc obliczeniową oraz naukę. Uruchamiać ambitne projekty, aby naukowcy związani z AI chcieli pracować w Europie. Budować własne modele i własne kompetencje zamiast przyzwyczajać się, że będziemy jedynie klientami kilku amerykańskich firm. Do tego otwartość, ale taka realna. Otwarte źródła, badania, benchmarki, nauka i tam, gdzie to możliwe oraz bezpieczne, także dane i modele. Znam jeden bardzo ambitny projekt rojów modeli, zresztą trochę się w nim udzielam, który właśnie w taki sposób jest rozwijany, z otwartym kodem i opieką społeczności.

Czy to wystarczy? Nie. Reszta, stety lub niestety, jest także w rękach polityków. Może właśnie dlatego warto dziś pomyśleć o podatku cyfrowym, o offsetach przy dużych kontraktach technologicznych oraz o pełnej suwerenności technologicznej Europy. Jeżeli wydajemy miliardy na technologie rozwijane poza Europą, to może część tej wartości powinna wracać do budowania tutaj własnej mocy obliczeniowej, własnych laboratoriów i własnych kompetencji?

Może powinniśmy zbudować europejską sieć audytorską dla najbardziej zaawansowanych modeli AI, posiadającą własnych naukowców, własną moc obliczeniową i realny dostęp do modeli? Nie jako urząd, który sprawdza, czy właściwy formularz został wypełniony, tylko jako techniczne laboratoria zdolne faktycznie przetestować najpotężniejsze systemy na świecie. Tutaj ciekawie spotyka się to z dzisiejszym pomysłem Daria Amodeiego. Nie dlatego, że Amodei zaproponował europejską sieć audytorską, bo tego nie zrobił. To powinien być nasz wniosek. Amodei proponuje coś węższego: niezależnych zewnętrznych ewaluatorów z bardzo głębokim dostępem do systemów Anthropic, tak aby mogli naprawdę kontrolować przestrzeganie zasad bezpieczeństwa i badać zachowanie modeli podczas ich rozwoju.

Może Europa powinna pójść o krok dalej i stworzyć taką zdolność na własną rękę. Chyba największym błędem byłoby teraz zrobić jedną z dwóch rzeczy. Albo uznać, że AI wszystkich zabije i wpaść w panikę. Albo wzruszyć ramionami i powiedzieć, że ludzie straszą sztuczną inteligencją od lat, więc nie ma o czym rozmawiać. Tym razem warto przynajmniej spojrzeć, kto ostrzega. Bo są to ludzie, którzy siedzą po drugiej stronie drzwi laboratoriów, do których my nie mamy dostępu.