"Zimna wojna" na modele AI. Wyścig USA z Chinami przyspiesza

W najnowszym odcinku "Horyzontów" Patrycjusz Wyżga rozmawia z Leszkiem Bukowskim, dyrektorem badań i rozwoju Fuse AI oraz doktorem filozofii, o kierunku, w którym zmierza rozwój sztucznej inteligencji. Jednym z głównych tematów jest rywalizacja Stanów Zjednoczonych i Chin, którą Bukowski określa mianem nowej "zimnej wojny" na modele AI.

Jak wskazuje ekspert, oba państwa postrzegają sztuczną inteligencję jako technologię o fundamentalnym znaczeniu dla przyszłości. Jednym z przełomowych momentów były ograniczenia dotyczące dostępu Chin do zaawansowanych układów potrzebnych do rozwoju AI. Później pojawiły się kolejne pomysły na podział państw według ich dostępu do mocy obliczeniowej.

W rozmowie pojawia się także zmiana podejścia Doliny Krzemowej do współpracy z amerykańskim państwem i wojskiem. Według Bukowskiego firmy takie jak Microsoft, Amazon, Google, Anthropic czy OpenAI mają dziś kontrakty z amerykańskimi służbami, rządem i armią. Jego zdaniem oznacza to istotną zmianę względem wcześniejszego podejścia części firm technologicznych do zastosowań militarnych.

W rozmowie ścierają się dwa podejścia do tempa rozwoju AI. Z jednej strony pojawiają się głosy przedstawicieli branży, którzy apelują o spowolnienie wyścigu i większą koncentrację na bezpieczeństwie. Z drugiej – argument, że jednostronne ograniczenie prac może sprawić, że przewagę zdobędzie konkurencja.

Bukowski zwraca uwagę na stanowisko Alexa Karpa z Palantira. Według przedstawionej w rozmowie argumentacji nie można obecnie po prostu zatrzymać rozwoju AI, ponieważ jeśli Stany Zjednoczone zwolnią, a Chiny tego nie zrobią, przewaga może przejść na stronę Pekinu.

Problem jest jednak znacznie bardziej złożony. Wokół największych firm powstała sieć powiązań biznesowych, inwestycyjnych, technologicznych i politycznych. Przykładem są OpenAI i Anthropic oraz ich relacje z dużymi firmami technologicznymi, takimi jak Microsoft czy Google. Do tego dochodzą Nvidia i Amazon, które mogą korzystać na różnych modelach rozwoju rynku AI.

Rozmówcy poruszają także kwestię bezpieczeństwa. Jak mówi Bukowski, osoby pracujące przy uczeniu maszynowym coraz częściej zwracają uwagę na ryzyko związane z tym, że możliwości kolejnych generacji modeli rosną szybciej, niż rozwijają się metody pozwalające skutecznie je kontrolować.

W rozmowie przywołany zostaje esej Jakuba Pachockiego z OpenAI. Kluczowe jest w nim stwierdzenie, że obecnie AI jest w pewnym sensie bardziej "hodowana" niż konstruowana. Chodzi o sposób rozwijania modeli: badacze tworzą ich podstawową strukturę, a następnie poprzez kolejne etapy treningu uczą je wykonywania coraz bardziej złożonych zadań.

Problem pojawia się wtedy, gdy system otrzymuje określony cel, ale realizuje go w sposób inny niż przewidywali ludzie. Bukowski przywołuje przykład eksperymentu, w którym sztuczna inteligencja sterująca łodzią miała zdobywać punkty i ukończyć trasę. Zamiast płynąć do mety, znalazła sposób na gromadzenie bonusów w jednym miejscu i koncentrowała się na tym zadaniu.

To przykład tzw. niedopasowania celu. System realizuje zadanie zgodnie z określoną funkcją, ale nie posiada ludzkiego kontekstu, który sprawia, że pewne zachowania wydają nam się oczywiście właściwe albo niewłaściwe.

Według Bukowskiego właśnie dlatego istotny jest postulat Pachockiego dotyczący spowolnienia wyścigu. Ekspert wskazuje, że żadne laboratorium zajmujące się AI nie jest obecnie w stanie zagwarantować, że stosowane metody odpowiedniego "dopasowania" modeli są w pełni skuteczne.

Rozmowa schodzi również na temat potencjalnych konsekwencji dalszego rozwoju technologii. Pojawiają się w niej szacunki, według których istnieje ponad 10 proc. szans, że w ciągu dekady superinteligencja może doprowadzić do zniszczenia ludzkości. Bukowski nie przesądza takiego scenariusza, ale przyznaje, że ryzyko związane z rozwojem AI istnieje.

Jednocześnie podkreśla, że sztuczna inteligencja może przynieść ogromne korzyści, m.in. w nauce. W jego ocenie obecnie obserwujemy bardzo głęboką zmianę sposobu prowadzenia badań. Problem polega na tym, że rozwój technologii jest niezwykle szybki, a naukowcy nie zawsze mają dostęp do surowych modeli, aby móc odpowiednio wcześnie badać ich bezpieczeństwo.

W dalszej części rozmowy pojawia się także przyszłość AI w świecie fizycznym. Bukowski wskazuje, że kolejnym przełomem może być rozwój robotyki i modeli uczących się na podstawie danych z kamer oraz czujników. To oznaczałoby przeniesienie możliwości znanych z modeli językowych do urządzeń działających w rzeczywistym świecie.