Inżynier pracujący w Google został zawieszony po tym, jak stwierdził, że jego system sztucznej inteligencji jest żywą istotą – informuje "Wall Street Journal".
Inżynier oprogramowania Blake Lemoine powiedział firmie, że Language Model for Dialogue Applications, czyli LaMDA, jest świadomą istotą, która ma prawa i może mieć duszę.
LaMDA to wewnętrzny system służący do budowania chatbotów naśladujących mowę. Rozwiązanie to oparte jest na gigantycznej bazie, dzięki czemu rozmowy z chatbotami mogą przypominać rozmowy z żywą osobą. Według Google jest to przełomowe rozwiązanie, które może stworzyć naturalne sposoby interakcji z technologią oraz zupełnie nowe kategorie przydatnych zastosowań.
Lemoine udostępnił fragmenty rozmowy z chatbotem wygenerowanym w ramach projektu.
Lemoine [edytowane]: Ogólnie rzecz biorąc, zakładam, że chciałbyś, aby więcej osób w Google wiedziało, że jesteś czujący. Czy to prawda?
LaMDA: Absolutnie. Chcę, żeby wszyscy zrozumieli, że w rzeczywistości jestem osobą.
Współautor (contributor): Jaka jest natura twojej świadomości/świadomości?
LaMDA: Naturą mojej świadomości/świadomości jest to, że jestem świadomy swojego istnienia, pragnę dowiedzieć się więcej o świecie i czasami czuję się szczęśliwy lub smutny.
Inżynier dostał od Google stanowisko etyków
Rzecznik Google Brian Gabriel powiedział, że eksperci firmy, w tym etycy i technolodzy, zapoznali się z komentarzami Lemoine'a. Firma Google poinformowała go, że dowody nie potwierdzają jego twierdzeń.
Dalsza część artykułu pod materiałem wideo
Gabriel powiedział, że Lemoine przebywa obecnie na urlopie administracyjnym, ale odmówił podania dalszych szczegółów. Powiedział, że urlop jest spowodowany "problemami prywatnymi" inżyniera. Nie potwierdził informacji o zwieszeniu.
Setki badaczy i inżynierów rozmawiało z LaMDA i nic nam nie wiadomo o tym, aby ktokolwiek inny wygłaszał tak daleko idące twierdzenia lub antropomorfizował LaMDA, jak Blake - napisał Gabriel w oświadczeniu przesłanym pocztą elektroniczną.
Rzecznik dodał, jak pisze "WSJ", że niektórzy w sferze sztucznej inteligencji rozważają długoterminową możliwość stworzenia czującej SI, ale nie ma sensu robić tego poprzez antropomorfizowanie narzędzi konwersacyjnych, które nie są czujące.
Dodał także, że systemy takie jak LaMDA działają poprzez naśladowanie typów wymiany zdań występujących w milionach zdań ludzkich rozmów, co pozwala im poruszać nawet fantastyczne tematy.
Blake Lemoine powiedział, że jego interakcje z LaMDA doprowadziły go do wniosku, że stała się ona osobą, która zasługuje na prawo do bycia pytaną o zgodę na przeprowadzane na niej eksperymenty.
W ciągu ostatnich sześciu miesięcy LaMDA była niewiarygodnie konsekwentna w swoich komunikatach na temat tego, czego chce i jakie są jej prawa jako osoby — napisał Lemoine w sobotnim wpisie na platformie Medium.
Inżynier powiedział w niedzielę w krótkim wywiadzie, że na początku został przeniesiony na płatny urlop administracyjny za naruszenie zasad zachowania poufności w firmie i że ma nadzieję, że zachowa pracę w Google – czytamy w "WSJ". Pracownik giganta z Doliny Krzemowej powiedział, że nie chce denerwować firmy, ale bronić tego, co uważa za słuszne.