Bill Gates ostrzega przed AI. "Może zginąć miliard osób"

Współzałożyciel Microsoftu i filantrop Bill Gates powiedział w programie "Meet the Press" stacji NBC News, że firmy rozwijające sztuczną inteligencję potrzebują zewnętrznego nadzoru. Jego wypowiedź padła kilka tygodni po tym, jak szefowie największych laboratoriów AI zgodzili się, że tempo prac nad zaawansowanymi systemami powinno zostać ograniczone.

– Nikt nie uważa, że samoregulacja wystarczy – powiedział Gates w wywiadzie, którego pełną wersję zapowiedziano na niedzielę.

Zapytany przez prowadzącą Kristen Welker, czy Kongres powinien przyjąć przepisy dotyczące rozwoju AI, odpowiedział: "zdecydowanie".

Zdaniem Gatesa w debatę o zabezpieczeniach i monitorowaniu sztucznej inteligencji powinni włączyć się zarówno funkcjonariusze odpowiedzialni za egzekwowanie prawa, jak i politycy.

– Potrzebujemy, aby organy ścigania i politycy uczestniczyli w dyskusji o tym, jak powinny wyglądać zabezpieczenia i nadzór. To musi być wymagane prawem. Dla branży będzie to oznaczało dodatkowe obowiązki, ale nie spowolni znacząco jej pracy – powiedział.

Wcześniej w tym miesiącu szefowie Anthropic i OpenAI przyznali, że wyścig o stworzenie potężnych systemów AI powinien zwolnić. Ich stanowiska pojawiły się po publicznych wypowiedziach Jacoba Coxona, byłego pracownika Anthropic, który niedawno odszedł z firmy.

– Żadna z tych firm nie działa odpowiedzialnie. Pędzą prosto ku samodoskonalącej się superinteligencji i ryzykują naszym życiem – napisał Coxon w mediach społecznościowych. W rozmowach z mediami dodał, że osoby budujące sztuczną inteligencję poważnie wierzą, iż technologia może doprowadzić do śmierci całej ludzkości przed końcem dekady.

Gates nie odrzucił takiego zagrożenia, ale podkreślił również ryzyko wykorzystania AI przez osoby działające ze szkodliwymi zamiarami. Jego zdaniem do poważnych konsekwencji może dojść znacznie wcześniej.

– Sztuczna inteligencja jest z pewnością wystarczająco potężna, by doprowadzić do wydarzeń, w których zginie miliard osób. Osiągnięcie stuprocentowego prawdopodobieństwa może być trudne, ale nigdy wcześniej nie mieliśmy broni tak potężnej jak połączenie ludzi o złych zamiarach z najnowszymi narzędziami AI – powiedział.

Jacob Coxon mówił wcześniej w "Meet the Press", że laboratoria powinny otrzymać możliwość samodzielnego ustalania zasad bezpieczeństwa. Jego zdaniem osoby kierujące tymi firmami, zwłaszcza w najnowszych komunikatach, szczerze deklarują chęć spowolnienia prac.

Odmienne stanowisko przedstawił przewodniczący Izby Reprezentantów Mike Johnson. Kilka tygodni wcześniej nie zgodził się na sprowadzenie parlamentarzystów do Waszyngtonu w celu przyjęcia przepisów ograniczających tempo rozwoju AI. Stwierdził, że w pierwszej kolejności należy wysłuchać samych firm.

– Musimy wprowadzić zabezpieczenia, aby sztuczna inteligencja nie wymknęła się spod kontroli – powiedział Johnson, cytowany przez NBC News. Dodał, że szefowie laboratoriów AI wprawdzie apelowali o spowolnienie prac, ale nie przedstawili jeszcze rozwiązania opartego na federalnych przepisach.

– Sami nadal nie mają dziś odpowiedzi. Nie możemy działać pochopnie i przyjmować w Kongresie rozwiązań, które mogłyby zaszkodzić bezpieczeństwu narodowemu – stwierdził.

Dario Amodei, dyrektor generalny Anthropic, wezwał natomiast do współpracy na poziomie federalnym i międzynarodowym. W eseju poświęconym ograniczeniu tempa rozwoju AI napisał, że najskuteczniejszym sposobem jest regulacja obejmująca wszystkie amerykańskie firmy pracujące nad najbardziej zaawansowanymi systemami. Podkreślił też, że globalne ograniczenie tempa prac wymaga współpracy z Chinami, które określił jako autorytarne państwo dysponujące zdecydowanie najbardziej rozwiniętymi możliwościami w dziedzinie AI.

Sam Altman, szef OpenAI, wystąpił w środę przed przedstawicielami Organizacji Narodów Zjednoczonych. Apelował o międzynarodowe standardy dotyczące pomiaru możliwości systemów, oceny ryzyka, sprawdzania zabezpieczeń i utrzymania realnego nadzoru człowieka nad sztuczną inteligencją.

Nie wszyscy podzielają ten pogląd. Na przykład Mark Zuckerberg, założyciel i dyrektor generalny Meta, nie poparł tego pomysłu.

– Nie sądzę, żeby potrzebna była jakaś koordynacja całej branży. Każde laboratorium powinno poświęcić tyle czasu, ile potrzeba, a gdy zauważy problemy, wewnętrznie zadbać o bezpieczny rozwój – powiedział NBC News.

Część amerykańskich stanów rozpoczęła prace nad regulacjami dotyczącymi firm AI oraz centrów danych wykorzystywanych do rozwoju tej technologii. NBC News wymienia następujące przykłady:

• w Kalifornii gubernator Gavin Newsom podpisał w ubiegłym tygodniu rozporządzenie wykonawcze. Powołało ono radę ekspertów, która ma przygotować plan wzmocnienia przepisów dotyczących bezpieczeństwa AI;
• w Maryland gubernator Wes Moore przedstawił plan regulacji oparty na trzech kierunkach działania;
• w Nowym Jorku gubernator Kathy Hochul zapowiedziała utworzenie Biura Innowacji Cyfrowej, Zarządzania, Integralności i Zaufania. Jednostka ma nadzorować przestrzeganie prawa przez firmy rozwijające sztuczną inteligencję.

Brad Smith, prezes Microsoftu, podczas sesji Organizacji Narodów Zjednoczonych poświęconej AI i rozwojowi człowieka sprzeciwił się twierdzeniu, że firmy muszą czekać na federalne przepisy, aby same ograniczyć tempo prac. Skrytykował również rywalizację przedsiębiorstw o tworzenie coraz bardziej zaawansowanych produktów.

– Wyobraźmy sobie, że na świecie są tylko dwie duże firmy produkujące samoloty pasażerskie. Ktoś przychodzi do ich biura i mówi: "Wiemy, że ścigamy się, aby jako pierwsi wypuścić kolejny samolot, ale obawiamy się, że maszyna się rozbije i zginą ludzie". Czy odpowiedzią byłoby: "Muszę wygrać ten wyścig"? Czy raczej: "Bezpieczeństwo pasażerów i społeczeństwa jest ważniejsze niż zwycięstwo"? To podstawowe pytanie – powiedział Smith.

Źródło: NBC News