Seria pozwów przeciw OpenAI. Tak Chat GPT miał doprowadzać do tragedii

W czwartek w sądach stanowych w Kalifornii (USA) złożono siedem pozwów przeciw OpenAI. Gigant w zakresie sztucznej inteligencji zmierzy się z zarzutami, które dotyczą spowodowania śmierci, pomocnictwa w samobójstwie, nieumyślnym spowodowanie śmierci oraz innym zaniedbaniom. Skargi dotyczą sześciu dorosłych i jednego nastolatka - w ich imieniu pozwy wniosły dwie organizacje - Tech Justice Law Project i Social Media Victims Law Center.

Jak podaje m.in. serwis magazynu "Fortune", pozywający Open AI twierdzą, że firma przedwcześnie wprowadziła jedną z wersji ChataGPT, która - mimo ostrzeżeń - miała skłonności do do schlebiania i manipulacji psychologicznej. Cztery osoby miały - po korespondencji ChatemGPT w wersji 4o popełnić samobójstwo.

Szczególnie głośno wybrzmiewa sprawa tragicznie zmarłego 17-latka. Amaurie Lacey miał szukać pomocy w ChatGPT. Według pozwu sugestie, jakie produkowało narzędzie, doprowadziły do uzależnienia i depresji u nastolatka, a na koniec czat zalecił mu "zaciskanie pętli" i jak najdłuższe próby na bezdechu. 17-latek nie przeżył tej "próby".

"Śmierć Amauriego nie była ani wypadkiem, ani zbiegiem okoliczności, lecz raczej przewidywalną konsekwencją celowej decyzji OpenAI i Samuela Altmana o ograniczeniu testów bezpieczeństwa i szybkim wprowadzeniu ChatGPT na rynek" – brzmi treść pozwu, cytowana przez amerykańskie media. Rodzina 17-latka wskazuje na też celowe ograniczenie testów bezpieczeństwa.

OpenAI określiła sytuację jako "rozdzierającą serce" i zapowiedziała analizę dokumentów sądowych, by poznać szczegóły. Skarżący utrzymują, że decyzje biznesowe miały przedkładać zaangażowanie i udział w rynku nad bezpieczeństwo użytkowników.

Alan Brooks w innej sprawie przeciw Open AI opisał ponad dwuletnie korzystanie z ChatGPT jako narzędzia. Potem, jak utrzymuje, system zaczął wykorzystywać jego wrażliwości, wywołując urojenia i kryzys zdrowia psychicznego. Wskazał na szkody finansowe, wizerunkowe i emocjonalne. Wcześniej 48-letni Brooks nie cierpiał na żadne choroby psychiczne.

"Te pozwy dotyczą odpowiedzialności za produkt, który został zaprojektowany tak, aby zatrzeć granicę między narzędziem a towarzyszem, a wszystko w imię zwiększenia zaangażowania użytkowników i udziału w rynku" – oświadczył Matthew P. Bergman, prawnik i założyciel Social Media Victims Law Center.

– Pozwy złożone przeciwko OpenAI ujawniają, co się dzieje, gdy firmy technologiczne spieszą się z wprowadzaniem produktów na rynek bez odpowiednich zabezpieczeń dla młodych ludzi – powiedział z kolei Daniel Weiss, dyrektor ds. rzecznictwa w Common Sense Media, cytowany przez serwis telewizji ABC News.

Źródło: Fortune.com, abcnews.go.com