Płatna reklama mówi: zobacz, jak zrobić seksualnego deepfake'a. Obudźmy się [OPINIA]

Tekst powstał w ramach projektu WP Opinie. Przedstawiamy w nim zróżnicowane spojrzenia komentatorów i liderów opinii publicznej na kluczowe sprawy społeczne i polityczne.

• Rafał Brzoska, twórca InPostu, walczy z pseudoreklamami wykorzystującymi jego wizerunek na Facebooku i Instagramie.
• Zarzuca gigantowi ignorowanie prawomocnych wyroków sądowych i czerpanie ogromnych zysków z nielegalnych reklam.
• O tym, jak niebezpieczne mogą być personalizowane reklamy w mediach społecznościowych przekonał się Sebastian Kondracki, ekspert od sztucznej inteligencji.
• Uważa, że konieczne są działania, by chronić m.in. młodszych użytkowników.

Zaczęło się zupełnie niewinnie. Od pewnego czasu na moim Facebooku zaczęły pojawiać się reklamy sklepów z bielizną. Nic nadzwyczajnego. Zawodowo od lat zajmuję się e-commerce, reklamą internetową, personalizacją i systemami rekomendacyjnymi. Moja partnerka również pracuje w e-commerce, więc szybko pojawiło się oczywiste pytanie: "Kochanie, co ty ostatnio oglądałeś?" Odpowiedź brzmiała: generalnie nic. Ale znając zasady remarketingu i personalizacji reklam, dla świętego spokoju wspólnie przejrzeliśmy kilka z nich. Przezorny zawsze ubezpieczony.

I właśnie wtedy zrobiło się ciekawie. Obejrzeliśmy jedną czy dwie reklamy wideo praktycznie do końca. Po pewnym czasie zaczęło pojawiać się ich więcej, a prezentowana bielizna stawała się coraz bardziej wyzywająca. Mój strumień treści zaczął powoli zmieniać charakter. Nadal traktowałem to jako ciekawostkę i trochę żart z algorytmu. Pokazywałem znajomym, w jakim kierunku Facebook postanowił mnie sprofilować. Co ludzkie, nie jest nam obce.

Jest jednak drugi element tej historii. Zawodowo zajmuję się sztuczną inteligencją. Jestem członkiem wielu grup poświęconych generatywnemu AI, gdzie ludzie pokazują zastosowania GPT Image, Midjourney i innych generatorów. Zdecydowana większość tych zastosowań jest zupełnie nieszkodliwa: poprawianie starych fotografii, usuwanie tła, rekonstrukcja zdjęć, tworzenie zabawnych animacji czy nawet poruszające próby "ożywiania" fotografii zmarłych bliskich.

Moja hipoteza jest więc prosta. Dwa kręgi zainteresowań, które algorytm mógł o mnie rozpoznać, czyli bardziej erotyczne reklamy oraz generatywna AI, zaczęły się ze sobą łączyć. I wtedy trafiłem do miejsca, którego naprawdę się nie spodziewałem.

Pojawiła się sponsorowana reklama aplikacji wykorzystującej AI do tworzenia seksualnych deepfake'ów. Nazwy produktu celowo nie podaję, żeby dodatkowo go nie promować.

Tutaj zaczyna się szczególnie ciekawy element tej historii. Kiedy wejdziemy na oficjalne profile społecznościowe takich aplikacji, często zobaczymy zupełnie niewinne zastosowania. Zabawny taniec wygenerowany ze zdjęcia. Romantyczną scenkę. Ożywienie fotografii. Typowe przykłady pokazujące kreatywną i rozrywkową stronę generatywnej AI.

Ale reklamy, które zaczął wyświetlać mi system reklamowy, pokazywały coś zupełnie innego.

Nie było tam instrukcji, jak stworzyć śmiesznego deepfake'a. Były demonstracje pokazujące krok po kroku, jak ze zwykłego zdjęcia wygenerować seksualizowany materiał. Jak "rozebrać" osobę ze zdjęcia. Jak na podstawie jednego zdjęcia stworzyć film o charakterze pornograficznym. W kolejnych reklamach pojawiały się też mechanizmy wykorzystujące zdjęcia dwóch lub kilku osób do wygenerowania scen seksualnych.

To dla mnie fundamentalna różnica. Oficjalny profil produktu mówi: zabawa, animacja, kreatywność. Płatna reklama mówi: zobacz, jak zrobić seksualnego deepfake'a.

Jeżeli ja, człowiek od lat pracujący przy technologii, reklamie internetowej i AI, nie jestem w stanie natychmiast wskazać jednej oczywistej ścieżki działania, to czego oczekujemy od rodzica, nauczyciela albo nastolatka, którego zdjęcie właśnie zostało wykorzystane? 

Potrzebujemy nie tylko regulacji. Potrzebujemy systemu, który działa, zanim powstanie krzywda.

W teorii mamy jeszcze formularz NASK "Zgłoś dezinformację". Tylko czy to w ogóle jest dezinformacja? Formularz służy do zgłaszania treści, których podstawowym celem jest wprowadzanie użytkowników internetu w błąd. A tutaj mamy coś innego: sponsorowaną reklamę narzędzia, które pokazuje, jak generować seksualne deepfake'i.

I właśnie w tym miejscu wracamy do podstawowego problemu. Mam materiał, mam nagrania, wiem, co zobaczyłem, ale nadal nie mam jednej oczywistej odpowiedzi na pytanie: gdzie obywatel powinien to zgłosić, żeby ktoś rzeczywiście się tym zajął?

Jeżeli trzeba najpierw ustalić, czy problem jest dezinformacją, cyberincydentem, naruszeniem praw konsumenta, problemem z AI, nielegalną reklamą czy potencjalnym przestępstwem, to znaczy, że system został zaprojektowany z perspektywy urzędów, a nie człowieka.

Potrzebujemy jednych drzwi. Obywatel zgłasza problem, a państwo samo ustala, kto ma się nim zająć.