Była związana z największą aferą ostatnich lat. Zdradziła nam, jak prało się ludziom mózgi na ogromną skalę

Gdy jej współpracownik, Christopher Wylie, zdecydował się mówić, być może jeszcze afera nie wybuchłaby z taką siłą. Jako programista miał wgląd w brudne praktyki firmy, ale to Brittany była przy szefostwie podczas zawierania kluczowych umów, to ona miała papiery, które tego dowiodły. Wówczas "The Guardian" odpalił bombę, która w efekcie zapoczątkowała słynne przesłuchanie w Kongresie, nazywane "grillowaniem Zuckerberga".

Afera pokazała, z jaką łatwością można prać ludziom mózgi na ogromną skalę, zmieniając ich wydawałoby się twarde poglądy, i pozostać do tego niezauważonym. Choć od wybuchu afery minęło parę lat, długo się jeszcze będzie ciągnąć. Pod koniec października tego roku Mark Zuckerberg trafił na listę oskarżonych w tej sprawie.

Sama Brittany Kaiser jest jedną z bohaterek głośnego filmu dokumentalnego Netfliksa - "The Great Hack", napisała też książkę o bezpieczeństwie danych, wydaną w Polsce przez Krytykę Polityczną. Przy okazji konferencji Infoshare, dziennikarz money.pl miał okazję z nią porozmawiać. Jesteśmy pierwszym i jedynym polskim medium, któremu udzieliła wywiadu.

Brittany Kaiser: Wielu ludzi tak to odbiera, zwłaszcza po dokumencie Netfliksa. Jakbym była osobą, która pomogła zniszczyć demokrację. Byłam 26-letnią studentką, która wzięła tę pracę w niepełnym wymiarze godzin. Zajmowałam się sprzedażą i dobrze mi to wychodziło. Nie zbudowałam technologii, nie założyłam też firmy.

Czy za to, co się dzieje w Facebooku, winiłbyś kogoś poza Markiem Zuckerbergiem lub Sheryl Sandberg? Uznawałbyś, że to wina pracownika? Jako pracownik Cambridge Analytica wsiąkałam coraz bardziej w to środowisko i zaczęłam je coraz bardziej kwestionować. Mylnie uważa się, że odeszłam z firmy, gdy wybuchł skandal, a odeszłam wcześniej. Jasne, byłam w pewnym sensie zaangażowana w tę historię, ale zdołałam przekuć tę sytuację w coś pozytywnego. Większość życia byłam aktywistką praw człowieka. To, czego się nauczyłam, teraz mi służy.

Uciekłam zanim w ogóle zaczęły się przesłuchania. Dlaczego? Bo zadarłam z dwoma najpotężniejszymi ludźmi na Ziemi – Trumpem i Zuckerbergiem. Zostałam sygnalistką, nie wiedziałam, jak się może rozwinąć sytuacja. Widziałam za to, że wielu z nas traci przywileje, prawa, jesteśmy namierzani przez niebezpiecznych ludzi. Musiałam się przekonać, czy powrót do kraju i zeznania w charakterze świadka będą bezpieczne.

Nie powiedziałabym, że łatwo. Chyba że masz dostęp do tak wielu danych tej osoby, jak to możliwe. Co czytałeś w ostatnich miesiącach, na jakich zdjęciach zatrzymujesz wzrok na dłużej, gdy przewijasz palcem po telefonie. Wtedy wiem, gdzie jest twój słaby punkt, co cię angażuje lub porusza. I na tej podstawie konstruuję przekaz, wycelowany bezpośrednio w ciebie.

Wtedy mogę opracować algorytm, który stworzy różne warianty tego spreparowanego pod ciebie przekazu. Będzie ci je tak długo pokazywał w różnych konfiguracjach, aż cię w końcu zaangażuje. Później zrobi to znowu. I znowu. A mówimy tylko o tobie. Technologia pozwala robić to na dużą skalę, całe grupy zamiast pojedynczych osób. Wiele firm technologicznych zatrudnia psychologów, żeby nauczyć algorytmy, co rusza ludzi. Testują, testują, testują, aż w końcu trafią w odpowiednią emocję.

Dostawaliśmy zapytania, głównie od firm, ale też z dwóch partii politycznych. Nie podjęliśmy się żadnego zlecenia, przynajmniej dopóki ja tam pracowałam, bo przepisy bardzo by je utrudniały.

Prezes Cambridge Analytica Alexander Nix zwykł mawiać, że w 6 miesięcy możesz wywrzeć silny wpływ. W 9 miesięcy wywołasz dający się przewidzieć efekt. A jeśli masz 2 lata, to w zasadzie gwarantujesz zwycięstwo w wyborach.

Kiedyś zaczynało się od grup focusowych. Omawiało się określone zagadnienia i jakiego rodzaju emocjonalny efekt wywołują. Na tej podstawie opracowywało się kształt badania dla danej grupy respondentów. Jesteś w stanie znaleźć kilkaset osób, może kilka tysięcy.

A dziś firmy, jak Cambridge Analytica, która jest w stanie dotrzeć do setek tysięcy, to twoja grupa focusowa. Dzięki niej algorytmy były w stanie znaleźć takie "wyzwalacze", tematy, które działają na ludzi. Potem dzielisz ich na podgrupy, i każdej serwujesz określony przekaz.

Strzelam teraz. Powiedzmy, że trafiasz do grupy białych mężczyzn w przedziale wiekowym 35-80 lat. Do tego dochód, załóżmy, że wysoki. Typ osobowości – np. neurotyczna. I załóżmy, że rusza cię los służby zdrowia. I to tylko jedna, dość prosta grupa. Algorytmy są w stanie testować równocześnie wiele różnych grup, każdą pod innym kątem, każdą z nastawieniem na wywołanie innej emocji. To trochę tak, jak pokazać użytkownikom guziki w trzech kolorach i patrzeć, które naciskają. A gdy naciskasz zielony, a chciałabym, byś naciskał czerwony. Dlatego algorytm będzie tak długo bombardował cię przekazem podanym od różnej strony, aż zaczniesz go naciskać.

Spróbuję.

Tak.

Ostro.

To brzmi jak taktyka, której używano w kampanii prezydenckiej Donalda Trumpa. Polega na wykorzystaniu jakiegoś rodzaju inwazyjnej informacji, bez znaczenia - prawdziwej czy ukartowanej, i użycia jej, by wpłynąć na ludzi. Zespół, który pracował nad tą kampanią po zwycięstwie Trumpa pokazał mi case study, co i jak robiono. To wtedy zdecydowałam wewnętrznie, że czas opuścić firmę.

Cóż, zależy od punktu widzenia. CA wzięła klip Hillary Clinton sprzed paru dekad, ten z hasłem "superdrapieżnik". Zmiksowali to z różnymi informacjami z poszczególnych okresów jej życia i kariery, wyrwanymi z kontekstu i uderzyli tym w młodych Afroamerykanów.

Część wyborców, młodzi Afroamerykanie, dla których prawdopodobieństwo wzięcia w ogóle udziału w wyborach szacowano na mniej niż 50 proc. Afroamerykanów, którzy, gdyby zdecydowali się głosować, zagłosowaliby na Demokratów, na Hillary Clinton. Usłyszeli przekaz, że "Clinton uważa was wszystkich za kryminalistów, tylko próbowała to przed wami ukryć". Rozumiesz, co tu się wydarzyło? Nie tylko obrzydzili kandydata, wręcz sprawili, że ludzie nie poszli do urn. To było bardzo skuteczne, do tego recyklowane pod różne grupy i tematy – terroryści, finansjera z Wall Street, byli w stanie obrzydzić każdego każdemu. Ta historia z Polski jest jednak w pewnym sensie gorsza.

Bo robi to wasz rząd w świetle dnia, otwarcie. Kogo wtedy pociągniecie do odpowiedzialności? Kto aresztuje ministra? Byłoby to bardzo trudne. Dezinformacja sama w sobie nie jest nielegalna, co tylko komplikuje sprawę, więc albo godzicie się na bycie okłamywanymi, albo głosujecie tak, by ich oderwać od władzy. Ja uważam ponadto, że to przemoc.

Tak. Uchodźcom, jak wszystkim innym ludziom, przysługują prawa człowieka. A taki przekaz zasadniczo mówi, że nie, że ci ludzie nie zasługują na swoje prawa. Wszystkich malujemy w sposób odrzucający, który wzbudza niechęć, wręcz agresję. Pamiętajmy też, że ani Trump ani Cambridge Analytica nie wynaleźli propagandy. To istnieje od wieków. CA doprowadziła ją do perfekcji i na nieznaną dotąd skalę.

Świetne pytanie. Ani jedno ani drugie. CA pracowała też dla wielu zielonych i liberalnych partii, a nawet takich, które zupełnie nie pasują do tradycyjnej skali. Jednak masz rację, że w trakcie afery to o konserwatystach było najgłośniej. Bo to te partie błyskawicznie zaczęły korzystać z narzędzi CA, by nadużywać władzy. To właśnie te partie w efekcie wylądowały na medialnym grillu, bo używały tej potęgi w sposób, w jaki przed nimi nikt nie używał. Sprawiły, że ludzie przestali ufać systemowi.

W moim przypadku Marine Le Pen i niemiecka AFD. Powiedziałam wprost, że nie będę z nimi pracować. Rasistowski język, zaprzeczenie Holocaustowi, to za wiele.

Setki. CA, gdy zaczynała, była jedyną firmą, która specjalizowała się w opracowaniu technologii i wykorzystaniu ich do wpływania na wybory. Dziś powiedziałabym, że w każdym kraju jest co najmniej 5-10 takich firm. To się już rozlało. Są naturalnie takie, które używają tego rodzaju narzędzi w dobrym celu, nie brakuje tych, które szerzą nimi zamęt. I w wielu przypadkach mówimy tu o nieregulowanych rynkach bądź niedostatecznie regulowanych. RODO utrudnia gromadzenie danych, ale nie czyni tego niemożliwym.

Cóż, na Facebooka nie logowałam się od 5 miesięcy i dobrze się z tym czuję, ale social mediów używam. Głównie Twittera, jego twórcy lepiej rozumieją pogranicze etyki i technologii. Niemniej, nawet gdy krytykuję konkretne platformy social media, to nie chodzi mi o to, by je zniszczyć i spalić do gołej ziemi, tylko zreformować. Nie niszczyć Facebooka, ale zmusić Facebooka do określonych zmian i bardzo wysokich inwestycji, choćby na moderację. Bo nie można oczekiwać, że postąpi moralnie, właściwie. Nie i już. Trzeba go zmusić do takiego postępowania. Dochodzi do tego jawna niesprawiedliwość w egzekwowaniu prawa.

To nie jest tak, że nie mamy przepisów zabraniających pewnych toksycznych rzeczy w social mediach, choćby prześladowania kogoś w sieci czy podżegania do agresji. Ale te przepisy są łamane każdego dnia w wielu miejscach na Facebooku i nikt z tym nic nie robi. A spróbuj na zatłoczonym placu wykrzyczeć to komuś, podżegać do agresji. Po chwili lądujesz w areszcie.

Dlaczego tak uważasz?

Rozumiem. Firmy, jak Facebook, zatrudniają ludzi specjalizujących się w projektowaniu jednorękich bandytów w Las Vegas. Newsfeed Facebooka jest od początku zaprojektowany tak, by uzależniał, by użytkownik został jeszcze chwilę, jeszcze coś dodatkowego kliknął. No bo po co masz czytać warunki użytkowania albo regulamin? Potrzebujesz kolejnej działki, byle szybciej. I patrząc na to od tej strony, to uzależnienie jest największym wyzwaniem, z jakim się mierzymy. Jest sposób, by choć część użytkowników ochronić.

Nasze pokolenie poznawało technologie na bieżąco, często najpierw się ucząc, jak coś zrobić, a dopiero później poznając cenę. Tak samo uczy się dzieci. Tak wysyła się maila, a tak korzysta się z wyszukiwarki. Ale nie uczy się tego, jak to działa, co jest pod maską. Że wszystko to, co wpiszesz w ten pasek wyszukiwarki, będzie nagrywane i powiązane z tobą do końca świata. Że wszystkie te powiązane z tobą informacje są elementem ogromnego targowiska, sprzedawane i kupowane bezustannie jak świat długi i szeroki. Inaczej korzystałbyś z sieci, gdybyś to wiedział wcześniej.