"Nikt nie jest przygotowany". Polak wrócił do OpenAI i ostrzega

Esej ukazał się 6 września 2026 r. na stronie OpenAI. Pachocki pisze w nim m.in.: "to czas, który wymaga skrajnej ostrożności. Obawiam się, że nikt nie jest przygotowany na konsekwencje dalszego szybkiego wzrostu inteligencji maszyn. Żadne laboratorium nie rozwiązało problemu dopasowania AI do ludzkich celów i monitorowania w stopniu wystarczającym, by odpowiedzialnie dalej skalować modele z maksymalną prędkością. Spodziewam się i mam nadzieję, że dobrowolne spowolnienia staną się powszechne, dopóki nie powstaną wspólne progi bezpieczeństwa".

- Na pewno warto sobie bardzo głośno zadać pytanie, czy za szybko pędzimy. To jest czas na bardzo daleko idącą ostrożność. To jest powód, tak naprawdę, w pewnym sensie, dlaczego ja wróciłem do OpenAI. Chciałem pomóc Jakubowi myśleć o tych właśnie wyzwaniach, które się pojawiają - mówi prof. Aleksander Mądry.

Mądry zwraca uwagę, że Pachocki unika światła reflektorów, a jednocześnie jest niezwykle wpływową, także intelektualnie, postacią w świecie AI. To, że w ogóle zdecydował się napisać, należy jego zdaniem rozumieć jako sygnał, że sprawa ma znaczenie i że nie była to lekko podjęta decyzja. Sam poleca przeczytać esej w całości.

Jak tłumaczy, o zagrożeniach związanych z AI mówi się od dawna, ale jeszcze dwa czy trzy lata temu, kiedy pracował w OpenAI, było jasne, że to praca na przyszłość.

Zapytany o analogię do Roberta Oppenheimera i Projektu Manhattan, Mądry podkreśla, że Pachocki był świadomy zagrożeń wcześniej – jak każdy, kto się tym zajmuje. Zmiana polega na tym, że teraz jest jasne, że zagrożenia są tu i teraz. Przyznaje, że jakaś analogia do Oppenheimera istnieje, bo to niesamowicie ekscytująca technologia. Sam uważa się za optymistę, ale zaznacza, że każda potężna technologia ma też swoją ciemną stronę.

Na czym konkretnie będzie się skupiał, pracując z Pachockim? Mądry wymienia dwie kategorie tzw. twardych zagrożeń. Pierwsza to wykorzystanie AI przez ludzi o złych zamiarach – modele są już niezwykle sprawne w obchodzeniu zabezpieczeń cyfrowych, więc każdy, kto ma taki model, może nagle stać się światowej klasy hakerem. Druga to utrata kontroli, gdy model źle zrozumie nasze intencje i wykona plan tak, jak sam go rozumie, a częścią tego planu może być stworzenie zagrożenia o katastrofalnych skutkach.

Odpowiedzią ma być systemowe myślenie o bezpiecznym trenowaniu i udostępnianiu modeli. Częścią tego są tzw. safety cases – każde trenowanie lub udostępnienie nowego modelu ma dokument opisujący, jakie ryzyka z tego wypływają, co zrobiono, by ich uniknąć, i jak testowano, czy to się udało. Rolą Mądrego ma być m.in. ulepszanie metodologii tego sprawdzania.

Problemem pozostaje jednak tzw. wyścig do dołu: każda firma widzi, że jeśli poświęci za dużo czasu na bezpieczeństwo, konkurent ją wyprzedzi. Dlatego – jak mówi Mądry – potrzebna jest koordynacja na poziomie USA i rola rządu. - Teraz jest czas, żeby się upewnić, że zagrożenia się nie ziszczą – mówi prof. Aleksander Mądry.

Zobacz całą rozmowę w "Biznes Klasie"