Platforma Muska ma problem. KE wszczęła dochodzenie w sprawie Groka

Komisja Europejska wszczęła postępowanie wobec platformy X w związku z działalnością chatbota Grok, który miał generować i rozpowszechniać seksualizowane obrazy – w tym treści z udziałem kobiet i dzieci. Informację tę przekazała Regina Doherty, europosłanka reprezentująca Irlandię.

Postępowanie ma sprawdzić, czy X wywiązał się z obowiązków nałożonych przez unijne prawo, w tym w zakresie zarządzania ryzykiem, moderacji treści oraz ochrony praw podstawowych. Chodzi o to, czy platforma właściwie oceniła zagrożenia związane z nowymi technologiami i czy skutecznie zapobiegała rozprzestrzenianiu się nielegalnych materiałów.

Według Doherty sprawa rodzi "bardzo poważne pytania" o to, czy duże platformy technologiczne spełniają wymogi prawa UE. W jej ocenie regulacje istnieją, ale muszą być realnie egzekwowane.

Sama Komisja Europejska wcześniej nazwała rozpowszechniane na X obrazy generowane przez AI "nielegalnymi i bulwersującymi". Do tej pory Bruksela nie potwierdziła oficjalnie, czy formalne postępowanie zostało już otwarte, a przedstawiciele platformy nie odpowiedzieli na prośby o komentarz.

Grok to chatbot oparty na sztucznej inteligencji, rozwijany przez firmę, należącą do Elona Muska. W połowie stycznia spółka informowała, że wprowadziła zmiany mające uniemożliwić "ubieranie" ludzi na zdjęciach w bikini. Edycja obrazów będzie możliwa jedynie za dodatkową opłatą.

X zaznacza, że dzięki tym zmianom nie będzie "tolerancji dla wykorzystywania seksualnego dzieci, nagości bez zgody lub niechcianych treści seksualnych". Zapowiedziano, że wpisy, które złamią tę zasadę będą usuwane, a konta przedstawiające seksualne wykorzystywanie dzieci będą zgłaszane organom ścigania oraz blokowane.