Papież Leon ostrzega przed AI. Uderza w wojsko

W liście do 1,4 mld katolików papież wskazuje, że w konfliktach potrzebny jest "możliwy do wskazania i weryfikacji" łańcuch odpowiedzialności oraz "skuteczna, świadoma i odpowiedzialna kontrola człowieka" nad wyborem celów.

Leon krytykuje automatyzację uderzeń i nieprzejrzystość decyzji: "Nie wolno powierzać śmiercionośnych lub w inny sposób nieodwracalnych decyzji systemom sztucznym". Dodaje, że narzędzia wojskowe muszą pozwalać odtworzyć proces decyzyjny, by wina nie znikała w "maszynie".

Papież ostrzega też przed "nieprzejrzystymi algorytmami" kontrolowanymi przez wielkie prywatne firmy oraz nowymi formami odczłowieczenia. Wskazuje, że gdy dane i algorytmy wpływają na kredyty, rekrutację czy dostęp do usług, decyzje powinny być zrozumiałe, możliwe do zakwestionowania i poddane nadzorowi.

Encyklika powstała już po skrytykowaniu przez Leona XIV wojny USA w Iranie. Z tego powodu doszło do napięcia między Waszyngtonem a pochodzącym ze Stanów Zjednoczonych papieżem. Leon XIV pisze, że teoria "wojny sprawiedliwej", często używana do usprawiedliwiania konfliktów, jest dziś nieaktualna, przy zachowaniu prawa do samoobrony w najściślejszym sensie.

Leon zaznacza, że technologia sama w sobie nie rozwiązuje problemów ludzkości i nie jest z natury zła, ale "nigdy nie jest neutralna", bo przejmuje cechy tych, którzy ją tworzą, finansują, regulują i wykorzystują. Ostrzega również przed AI, która potrafi udawać empatię, tworząc złudzenie relacji i osłabiając potrzebę prawdziwych więzi.

Źródło: Financial Times