Skandal z "rozbieraniem" zdjęć. Drugi kraj blokuje chatbot Elona Muska

Platforma X, której właścicielem jest miliarder Elon Musk, jest "zasypywana" zdjęciami osób w skąpych strojach, które - na polecenie użytkowników - przerabia chatbot Grok. Ofiarami padają znani politycy, kobiety, a nawet dzieci. Zdjęcia są zmieniane bez zgody właścicieli.

Malezyjski organ regulacyjny, Komisja Łączności i Multimediów, poinformował w niedzielę, że stwierdził "wielokrotne niewłaściwe wykorzystanie" Groka do generowania szkodliwych treści, w związku z czym na początku roku wysłał do xAI - firmy Muska, która jest za niego formalnie odpowiedzialna - prośbę o interwencję.

Firma w swojej odpowiedzi X nie odniosła się jednak do wskazanego zagrożenia - uznała Komisja i poinformowała, że Grok będzie zablokowany w kraju do czasu wdrożenia skutecznych zabezpieczeń. Zaapelowała przy tym do internautów o zgłaszanie szkodliwych treści w internecie.

Deepfake to zdjęcie, materiał dźwiękowy lub wideo stworzony przez sztuczną inteligencję, na którym wizerunek prawdziwej osoby został cyfrowo zmodyfikowany lub umieszczony w nowym, fałszywym kontekście.

Sam Musk powiedział wcześniej, że krytycy jego platformy szukają "jakiegokolwiek pretekstu do wprowadzania cenzury".

Indonezja jako pierwsza zablokowała w sobotę dostęp do Groka. Malezja i Indonezja liczą łącznie ponad 315 mln mieszkańców.

"Rząd postrzega praktykę (tworzenia) nielegalnych deepfake'ów o charakterze seksualnym jako poważne naruszenie praw człowieka, godności i bezpieczeństwa obywateli w przestrzeni cyfrowej" - przekazała ministra komunikacji i cyfryzacji Meutya Hafid w komunikacie.

Użycie Groka do generowania obrazów o charakterze seksualnym przez użytkowników platformy spotkało się z potępieniem polityków na całym świecie, w tym premiera Wielkiej Brytanii Keira Starmera. Określił takie działania jako "haniebne" i "obrzydliwe". Jak podała BBC, oczekuje się, że brytyjski regulator medialny Ofcom wkrótce podejmie decyzję co do dalszych kroków w sprawie Groka.

Francuski rząd, który zdecydował się skierować sprawę do prokuratury z powodu "seksualnych i seksistowskich treści", które zaczęły pojawiać się na platformie X po tym, jak użytkownicy odkryli, co "potrafi" Grok.

Indonezja słynie z surowego prawa dotyczącego cenzury w internecie. Przepisy te bezwzględnie zakazują m.in. rozpowszechniania materiałów uznawanych za obsceniczne. Działania władz kraju wpisują się w szerszy trend, w ramach którego regulatorzy w krajach Europy i Azji wszczynają dochodzenia w sprawie seksualizowanych treści w aplikacjach AI.