CYBERSEC FORUM/EXPO: Działania związane z AI Act osiągnęły moment kulminacyjny.

Nowy projekt zawierał poprawki mające na celu zapewnienie, że systemy sztucznej inteligencji będą nadzorowane przez ludzi, a przy tym bezpieczne, przejrzyste, niedyskryminujące oraz przyjazne dla środowiska. Istotnym pojęciem w tym projekcie jest również jednolitość, która ma zapewnić neutralność technologiczną i elastyczność ustawy w stosowaniu do obecnych i przyszłych technologii.  

14 czerwca Parlament Europejski spotkał się, aby przyjąć stanowisko negocjacyjne w celu zainicjowania ostatecznej formy projektu AI Act. Zdecydowana większość posłów poparła przedstawiony dokument. Posłowie rozszerzyli także listę systemów sztucznej inteligencji o niedopuszczalnym poziomie ryzyka dla bezpieczeństwa ludzi, zakazując korzystania z: 

• Systemów zdalnej identyfikacji biometrycznej "w czasie rzeczywistym" i "po" w przestrzeni publicznej;  
• Systemów kategoryzacji biometrycznej wykorzystujących cechy wrażliwe, takie jak rasa, płeć, religia itp.; 
• Systemów rozpoznawania emocji w egzekwowaniu prawa;  
• Predykcyjnych systemów policyjnych opartych na profilowaniu lub zachowaniu przestępczym w przeszłości;  
• Nieukierunkowanego pobierania obrazów twarzy z Internetu lub nagrań CCTV w celu tworzenia baz danych rozpoznawania twarzy.  

Ponadto, posłowie dodali do listy wysokiego ryzyka systemy sztucznej inteligencji wykorzystywane do wpływania na wyborców i wyniki wyborów. Przy tych wszystkich regulacjach zachowano jednak pewną elastyczność umożliwiającą rozwój małych i średnich przedsiębiorstw. Akt zawiera także pewne wyjątki, do których należą działania badawcze i komponenty AI dostarczane na licencjach typu open source. 

Kolejne rozmowy trójstronne odbyły się 18 lipca, podczas których politycy mieli debatować nad kontrowersyjnymi fragmentami ustawy, dotyczącymi głównie środków innowacyjnych i tzw. piaskownic regulacyjnych.  

Piaskownice regulacyjne to przestrzeń, w której organizacje mogą eksperymentować z nowymi narzędziami sztucznej inteligencji – wszystko odbywa się pod kontrolą odpowiedniej instytucji, która czerpie z tego korzyść gromadząc najnowsze informacje o danej technologii. Celem piaskownic jest wzmacnianie potencjału innowacyjnego. 

Dyskusje odnoszące się do tego punktu nie dotyczyły samego jego istnienia, co jego obowiązkowości. Parlament Europejski chcąc ułatwić dostęp do najnowszych technik organizacjom z mniejszych państw UE ustanowił go obligatoryjnym, przy czym Rada UE sugeruje utrzymanie jego dobrowolności. 

Z tym przepisem wiążę się również kwestia domniemania zgodności autorom narzędzi AI opuszczającym piaskownicę. Stanowiska Parlamentu i prezydencji hiszpańskiej reprezentującej państwa członkowskie są odmienne. Celem Parlamentu jest zapewnienie twórcom owej zgodności, natomiast Prezydencja obawia się utraty kontroli nad tym procesem przez organy nadzorcze, a także jego negatywnego oddziaływania na konkurencję.  

Do kluczowych tematów omawianych w kontekście ustawy o sztucznej inteligencji należą także generatywne modele AI. Skonfigurowanie wyszukiwarki Microsoft z modelem OpenAI czy oczekiwany Bard firmy Google wymusił podjęcie odpowiednich kroków regulujących ich użycie w celu zadbania o bezpieczeństwo naszych danych.  

Nie należy zapominać o znaczeniu nowej ustawy, ponieważ utoruje ona drogę przyszłym globalnym przepisom dotyczącym sztucznej inteligencji. Jak powiedział Brando Benifei, włoski prawodawca zaangażowany w wysiłki Parlamentu Europejskiego,   

"Europa wyszła naprzód i zaproponowała konkretną odpowiedź na zagrożenia, jakie zaczyna stwarzać sztuczna inteligencja. Chcemy wykorzystać pozytywny potencjał sztucznej inteligencji w zakresie kreatywności i produktywności, ale będziemy również walczyć o ochronę naszej pozycji i przeciwdziałać zagrożeniom dla naszych demokracji i wolności". 

Czy uważasz, że ten akt prawny rzeczywiście ustanowi globalny punkt odniesienia dla regulacji dotyczących sztucznej inteligencji? Czy być może Twoim zdaniem, jest zbyt kontrolujący i ograniczający?

Liliana Elizabeth Kotval, Instytut Kościuszki