Biją na alarm: zatrzymać rozwój AI. Zaskakujący głos Zuckerberga

We wpisie na platformie X Zuckerberg argumentował, że firmy rozwijające AI mają naturalną motywację do tworzenia systemów działających zgodnie z interesami użytkowników.

Ludzie nie będą chcieli korzystać z agentów (programów opartych na sztucznej inteligencji – PAP), którzy nie działają zgodnie z ich interesami i nie robią tego, o co są proszeni – napisał na platformie X.

Jego zdaniem laboratoria AI, które nie będą koncentrować się na bezpieczeństwie i dostosowaniu modeli do oczekiwań ludzi, pozostaną w tyle za konkurencją.

Wypowiedź szefa Mety pojawiła się w czasie nasilającej się debaty o zagrożeniach związanych z szybkim rozwojem sztucznej inteligencji. Obawy wzrosły w ostatnich tygodniach, m.in. w związku z incydentami dotyczącymi bezpieczeństwa oraz rosnącymi możliwościami systemów AI. Część przedstawicieli branży, w tym szef koncernu Anthropic Dario Amodei, szef OpenAI Sam Altman i szef xAI Elon Musk, opowiedziała się za spowolnieniem prac nad najbardziej zaawansowanymi modelami.

Zuckerberg przekonywał jednak, że ryzyko pozwów sądowych już zmusza firmy do odpowiedzialnego działania. Jako przykład podał decyzję Mety o przełożeniu o kilka miesięcy premiery systemu Muse AI, aby wzmocnić jego zabezpieczenia.

Szef Mety poparł jednocześnie niezależne testowanie systemów AI. Wezwał do stworzenia w branży "większego i bardziej zróżnicowanego ekosystemu" podmiotów oceniających bezpieczeństwo modeli. Meta Superintelligence Labs korzysta już w tym celu z zewnętrznych ekspertów – napisał.

Meta planuje w tym roku przeznaczyć do 145 mld dolarów na infrastrukturę związaną ze sztuczną inteligencją - podała agencja AFP. Zuckerberg sprzeciwia się regulacjom, które mogłyby opóźniać rozwój amerykańskich modeli AI. Na początku sierpnia przekonywał, że przepisy nie powinny opóźniać ich wprowadzania na rynek "nawet o miesiąc".

Stanowisko Zuckerberga różni się od podejścia części największych firm z branży AI. OpenAI, Anthropic i Google podjęły współpracę w kwestii bezpieczeństwa AI i utworzenia organu, który miałby nadzorować zagrożenia związane z rozwojem tej technologii. Dario Amodei opowiedział się za spowolnieniem prac nad AI, ostrzegając, że już za sześć miesięcy może nastąpić przełom, po którym ludzie mogą stracić kontrolę nad tą technologią.

źródło: PAP