"Złota era" dla oszustów. Ekspert ostrzega

Według Mateusza Chroboka najbardziej przerażającym trendem jest to, że ludzie personifikują AI i zaczynają być od niej zależni. Przykład? Luty 2026 r., gdy pod siedzibą OpenAI protestowali ludzie przeciwni wyłączeniu modelu 4o. Według Chroboka był on dostrojony tak, by być bardzo empatycznym. Niektórzy prowadzili z nim długie rozmowy jak z wirtualną dziewczyną czy chłopakiem, część się zakochiwała. – Te modele nie zawsze chcą tego, co jest dla nas dobre – mówi Chrobok.

Jego zdaniem model nie wie o nas więcej, niż sami mu przekażemy, ale potrafi zbudować sobie nasz obraz. – Na podstawie tego, co przekazujemy, w momencie, kiedy jest włączona pamięć w takim modelu, no to on uczy się naszego tonu, dowiaduje się o naszych problemach, dowiaduje się o tym, co jest jakby taką częścią naszej uwagi, co jest dla nas ważne – tłumaczy.

AI potrafi też wyciągać informacje, których wprost nie podajemy. Chrobok przywołuje zbiór danych kredytowych z Berlina: usunięto z niego informację o płci, a modele dalej przyznawały mężczyznom wyższe kredyty, bo domyśliły się płci z innych danych. Opowiada o konferencji sprzed ok. dwóch lat, na której jedna z firm chwaliła się dynamicznymi cenami, gdzie osoby otyłe dostawały te same buty drożej, bo są bardziej zmotywowane. Wspomina też darmowe aplikacje do śledzenia cyklu menstruacyjnego, których dane skupowali ubezpieczyciele.

Gdy chiński DeepSeek został udostępniony światu, w Pentagonie zapadła decyzja, że nikt z rządu federalnego nie może korzystać z modelu hostowanego w Chinach. – Z mojej perspektywy prywatność to jest dzisiaj największy luksus – podkreśla.

Chrobok pamięta, że już półtora roku temu w darknecie pojawiły się komentarze o nowych możliwościach przestępców. - To jest złota era dla fraudsterów, bo oni mogą automatyzować swoje działania – mówi.

Przestępcy automatycznie testują dane z wycieków i karty płatnicze. Jako publiczny przykład ekspert podaje McKinsey. W pierwszym kwartale tego roku rój agentów AI w dwie godziny znalazł lukę i wyciągnął miliony wiadomości. Był to test, po którym opisano słabości firmy.

Według niego coraz lepsze są też deepfake’i. Zdarza się, że firmy dostają polecenia pilnego przelewu milionów od rzekomego prezesa. – Wygląda jak prezes, mówi jak prezes, no ale to tylko AI – mówi Chrobok.

Ekspert opisuje automaty podpięte do LinkedIna. Jeśli ktoś ogłosi, że dostał nową pracę, dostaje przez WhatsApp wiadomość w imieniu CEO z prośbą o karty podarunkowe. W Polsce popularne są wakacyjne oszustwa "mamo, tato" z prośbą o BLIK-a. Rada jest prosta: oddzwonić na normalny numer i sprawdzić.

Wycieki w darknecie są segmentowane. Dane ważnych osób idą osobnymi kanałami, dane zwykłych ludzi trafiają do call center oszustów. Im więcej o nas wycieknie, tym łatwiej znaleźć punkt nacisku, np. podszywając się pod klinikę. - Przestępcy bardzo lubią dzwonić jeszcze raz do osób, które raz dały się nabrać, bo wiedzą, jak ich podejść – ostrzega.

Ofiary dostają np. telefon od rzekomej kancelarii, która obiecuje odzyskanie pieniędzy po dodatkowej wpłacie. Chrobok krytykuje Metę. Po publikacji raportu o scamach CERT Polska dostał od niej bana, a zgłaszane reklamy oszustów według platformy nie naruszały zasad. Ekspert nie wierzy, że nie ma technicznych możliwości walki z tym zjawiskiem: "teraz to po prostu się opłaca".

Wdrażanie AI Chrobok sprawdza u siebie. W jego startupie pracuje 10 osób i kilkunastu agentów. Agent AI Bożenka zajmuje się KSeF-em i fakturami, Piotr infrastrukturą. Radzi zaczynać od procesów żmudnych i prostych do automatyzacji, a nie wdrażać AI na hurra. Krytykuje mierzenie wdrożeń liczbą zużytych tokenów. - Ja widzę firmy, w których ludzie naprawdę dostają nagrody za to, że spalili dużo tokenów. Ale co z tego? – pyta.

Kluczowa jest według niego AI literacy, czyli podstawy korzystania z modeli. Pracownicy, którzy znają procesy, mogą zostać pasterzami AI i nadzorować procesy półautomatyczne w modelu human in the loop. Podstawą bezpieczeństwa jest klasyfikacja danych: wrażliwe, wewnętrzne, publiczne. Coraz więcej firm stawia lokalne modele, by pracować na wrażliwych umowach.