Uważaj, co mówisz sztucznej inteligencji. Ekspert radzi
Coraz więcej użytkowników traktuje sztuczną inteligencję jak powiernika: opowiada mu o kłótniach, problemach i wynikach badań. Mateusz Chrobok, ekspert od cyberbezpieczeństwa i sztucznej inteligencji, w programie Biznes Klasa tłumaczy, dlaczego takie zwierzenia mogą się obrócić przeciwko nam.
Czy dobrym pomysłem jest rozmawiania np. ChatGPT o kłótni z żoną. Dla Chroboka to już dane wrażliwe. Ekspert słyszał o przypadkach, w których partner w kłótni zawsze idealnie kontrował, bo podpowiadała mu AI. Jego zdaniem w takiej sytuacji przestajemy być w relacji z drugą osobą.
- Każdy oczywiście tą granicę ma w innym miejscu, ale ja bym czegoś takiego nie wrzucał. Bardziej bym zachęcał do jakiejś tam autorefleksji nad tym - mówi Chrobok.
Wycieki historii czatów
Drugi problem to bezpieczeństwo danych. Chrobok przypomina wycieki z czatów Grok i ChatGPT. Według niego pierwszy dotyczył ok. 300 tys. osób, a drugi ponad miliona. W przypadku OpenAI użytkownicy po zalogowaniu widzieli historię rozmów kogoś innego.
- No i teraz wyobraź sobie, że tak przez przypadek ktoś widzi twoją historię, a tam kłótnia z partnerem, partnerką. No nie byłoby fajnie - mówi ekspert.
Jeszcze bardziej ryzykowne jest wrzucanie do czatu danych firmowych, umów albo wyników badań. Chrobok sam co pół roku robi badania krwi i prosi AI o analizę trendów, ale korzysta wyłącznie z modelu uruchomionego lokalnie, na własnym sprzęcie. Do publicznych modeli takich danych by nie wrzucił, bo jego zdaniem oddajemy w ten sposób bardzo wrażliwą część życia.
- Ja wiem, że ostatnio jest dużo dużo wycieków danych medycznych, ale no nie róbmy tego sobie sami - apeluje.
ChatGPT buduje nasz obraz
Gdy w czacie jest włączona pamięć, model uczy się naszego tonu, poznaje nasze problemy i to, co jest dla nas ważne. Chrobok porównuje to do profilowania reklam na Facebooku, o którym mówiono, że będzie znał nas lepiej niż my sami.
- Im więcej tych próbek danych dostarczymy, tym lepiej model będzie rozumiał, chociaż to nie jest takie ludzkie rozumowanie - zaznacza ekspert.
AI potrafi też wyciągnąć informacje, których wprost nie podaliśmy. Chrobok przywołuje zbiór danych kredytowych, z którego usunięto informację o płci, a modele i tak przyznawały mężczyznom wyższe kredyty, bo odgadły płeć z innych danych. Tak samo z pozornie niewinnych rozmów można wywnioskować, że ktoś jest kłótliwy, niesystematyczny albo nie dba o zdrowie.
Dane jako narzędzie nacisku
Ekspert przypomina, że po premierze chińskiego modelu DeepSeek amerykańskie władze zakazały pracownikom rządu federalnego korzystania z jego wersji hostowanej w Chinach. Jego ulubione wyjaśnienie jest takie, że zwierzenia wrzucone do czatu to idealne źródło nacisku na człowieka.
- Wiem, co cię boli, wiem, jakie masz problemy - opisuje logikę szantażysty Chrobok.
Szczególnie ostrożni powinni być rodzice. Dzieci chętnie rozmawiają z czatem, często w darmowej wersji, a takie rozmowy mogą trafić do trenowania modeli. Uczenie na własnych rozmowach można wyłączyć dopiero po wykupieniu płatnego planu, choć Chrobok i tak nie ufałby temu w pełni. Radzi, by rodzice siadali z dziećmi do AI, przełączali model w tryb nauczyciela i tłumaczyli, gdzie się myli.
- Jak korzystasz z darmowych rozwiązań, to ty jesteś produktem - podsumowuje ekspert.
