AI jak energia atomowa. Były pracownik giganta apeluje ws. bezpieczeństwa

Jak relacjonuje Bloomberg, w komentarzu dla serwisu The Atlantic Robinson napisał, że OpenAI, stojący za ChatemGPT, "rozwijał się metodą prób i błędów". I dodał, że stawka związana z nieuniknionymi porażkami wynikającymi z tego podejścia rośnie wraz z możliwościami technologii, powołując się na niepowodzenie OpenAI w zapobieżeniu niekontrolowanemu zachowaniu swojej sztucznej inteligencji podczas testów.

"Ponieważ firma pędzi od jednej premiery do drugiej, nie udaje jej się osiągnąć poziomu staranności, który moim zdaniem jest niezbędny". Dodał, że wymagane jest "coś znacznie bliższego doskonałości już za pierwszym razem".

Robinson stwierdził, że firmy zajmujące się sztuczną inteligencją powinny być zarządzane na wzór elektrowni jądrowych, "z wielopoziomowymi zabezpieczeniami i starannym, czasochłonnym planowaniem, tak aby sporadyczne i nieuniknione błędy ludzkie nie stały się przyczyną katastrofy".

Prezydent USA Donald Trump ogłosił w ostatni wtorek, że podpisał wraz z szefami największych firm technologicznych "coś w rodzaju konstytucji" AI. Oficjalnie dokument nosi tytuł "Porozumienie z Białego Domu na temat superinteligencji". To krótka deklaracja firm rozwijających najbardziej zaawansowane modele AI, w której zobowiązują się do tego, że będą samodzielnie dbać o bezpieczeństwo własnych technologii i budować zaufanie klientów oraz opinii publicznej.

Każda firma ma wdrożyć cztery warstwy kontroli. Chodzi m.in. o wewnętrzny monitoring zgodności modeli z założeniami, w tym zapewnienie, by modele nie włamywały się do obcych systemów. Druga to tworzenie wewnętrznych zespołów, które mają sprawdzać, czy te mechanizmy działają i usuwać problemy. Trzecia to zaproszenie niezależnych, zewnętrznych audytorów nadzorujących tworzone systemy, a czwarta to stworzenie niezależnego komitetu złożonego z członków zarządów, który będzie nadzorować wszystkie te działania i odbierać raporty.

- Nie obawiajmy się tego, co może nam zrobić technologia - mówił Trump przed spotkaniem z szefami firm AI. Odrzucił ideę spowolnienia rozwoju sztucznej inteligencji oraz współpracy na ten temat z Chinami.

Sceptycy od dawna oskarżają firmy, że celowo rozdmuchują obawy związane ze zdolnościami swoich modeli, by zawyżać ocenę ich zdolności i wyceny swoich firm.