W dniu 21 kwietnia 2021 r. Komisja Europejska zaprezentowała projekt Rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji i zmieniające niektóre akty ustawodawcze unii („Rozporządzenie”, „Projekt”). W dniu 12 października 2021 r. słoweńska Prezydencja Unii Europejskiej zwróciła się do Delegacji o przedstawienie pisemnych komentarzy i sugestii dotyczących redakcji pierwszych 29 artykułów Rozporządzenia. Na podstawie pisemnych oświadczeń Delegacji, Prezydencja sporządziła pierwszy kompromisowy projekt Rozporządzenia, który obejmuje art. 1-7 i załączniki I-III.

Główne zmiany wprowadzone do tekstu Rozporządzania dotyczyły: i) przedmiotu i zakresu Rozporządzenia, ii) definicji, w szczególności systemu sztucznej inteligencji, dostawcy, użytkownika, upoważnionego przedstawiciela, producenta (ang.: manufacturer), krytycznej infrastruktury, danych osobowych, danych nieosobowych oraz definicji dotyczących biometrii, iii) zakazanych praktyk w zakresie sztucznej inteligencji m. in. rozszerzenie zakazu wykorzystywania sztucznej inteligencji do oceny punktowej zachowań społecznych oraz podmiotów prywatnoprawnych.

Do Rozporządzenia zostały wprowadzone zmiany odnośnie przedmiotu i zakresu Rozporządzenia, w szczególności artykuł 1 Rozporządzenia został doprecyzowany w celu lepszego odzwierciedlenia celu Rozporządzenia w wyniku czego część treści w lit. c która początkowo zawężała zakres zharmonizowanych przepisów dotyczących przejrzystości w przypadku systemów sztucznej inteligencji została wykreślona:

d) zharmonizowane przepisy dotyczące przejrzystości w przypadku systemów sztucznej inteligencji przeznaczonych do wchodzenia w interakcję z osobami fizycznymi, systemów rozpoznawania emocji oraz systemów kategoryzacji biometrycznej, a także systemów sztucznej inteligencji wykorzystywanych do generowania obrazów, treści dźwiękowych lub treści wideo lub do manipulowania nimi

Zakres przedmiotowy Rozporządzania został doprecyzowany w art. 2 Rozporządzenia. Zmiana przepisu polegała podkreśleniu, iż z zakresu Rozporządzenie kwestie związane z bezpieczeństwem narodowym podlegają wyłączeniu (art. 2 ust. 3). Powyższe rozwiązanie znajduje również swoje uzasadnienie w art. 4 ust. 2 Traktatu o Unii Europejskiej w którego myśl zapewnienie bezpieczeństwa narodowego należy wyłącznie do obowiązków każdego państwa członkowskiego.

Motyw 12 Rozporządzenia zawiera wyjaśnienia dotyczące systemów sztucznej inteligencji („SI”) które zostały opracowane i używane wyłącznie do celów wojskowych. Podobnie artykuł 2 ust. 6 i 7 Rozporządzenia jak i Motyw 12a stanowią, że Rozporządzenie nie powinno mieć zastosowania do systemów sztucznej inteligencji oraz jej rezultatów wykorzystywanych wyłącznie w celu badań i rozwoju.

Projekt Rozporządzenia z dnia 29 listopada 2021 r. wprowadził również zmiany w definicjach tj. poprawiono definicje lub dodano nowe. W szczególności definicja systemu SI w art. 3 ust. 1, wraz z wyjaśnieniami znajdującymi się w akapicie 6, została skorygowana w celu zapewnienia pewności prawa i przejrzystości definicji systemu SI dla celów Rozporządzenia, z wyraźnym wskazaniem, że każdy taki system SI powinien określać osiągnięcie danego zestawu celów obranych przez człowieka poprzez uczenie się, rozumowanie lub symulację. Zmiana ta ma również za zadanie zapobieżenie włączeniu w zakres proponowanego rozporządzenia bardziej tradycyjnych systemów oprogramowania, które obecnie nie są uznawane za SI.

Skorygowano definicje niektórych podmiotów objętych Rozporządzeniem (np. dostawca, użytkownik, przedstawiciel uprawniony) lub dodano nowe definicje (np. producent), celem dokładniejszego wyjaśnia ich ról i obowiązków w ramach łańcucha dostaw SI. Dopracowano również definicje odnoszące się do biometrii zgodnie ze zmianami wprowadzonymi w odpowiednich przepisach. W art. 3 Rozporządzenia dodano trzy nowe definicje: „infrastrukturę krytyczną”, „dane osobowe” i „dane nieosobowe”.

W związku z tytułem II Rozporządzenia tj. w odniesieniu do zakazanych praktyk w zakresie SI, art. 5 ust. 1 lit. c) rozszerzył zakaz wykorzystywania SI do celów zawiązanych z dokonywaniem oceny społecznej, a zakaz ten rozciągnął się również na podmioty prywatne.

Rada UE chce umożliwić prywatnym podmiotom obsługę masowych systemów nadzoru biometrycznego w imieniu sił policyjnych i zamierza rozszerzyć cele, dla których takie systemy mogą być wykorzystywane na mocy proponowanej przez UE Rozporządzenia. W odniesieniu do wymiaru sprawiedliwości i spraw wewnętrznych dokument stanowi, że:

 

„W odniesieniu do korzystania przez organy ścigania ze zdalnych systemów identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeniach dostępnych publicznie, wyjaśniono, że takie systemy mogą być również wykorzystywane przez inne podmioty działające w imieniu organów ścigania”.

Jest to zgodne z wcześniejszymi komentarzami rozesłanymi w Radzie. Kompromisowy tekst Prezydencji dotyczy art. 5 lit. d Rozporządzenia:

d) wykorzystywania systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej przez organy ścigania lub w ich imieniu do celów egzekwowania prawa, chyba że i w zakresie, w jakim takie wykorzystanie jest absolutnie niezbędne do jednego z następujących celów:

(i) ukierunkowanego poszukiwania konkretnych potencjalnych ofiar przestępstw, w tym zaginionych dzieci;

(ii) zapobiegnięcia konkretnemu i poważnemu i bezpośredniemu zagrożeniu krytycznej infrastruktury życia, zdrowia lub bezpieczeństwa fizycznego osób fizycznych lub atakowi terrorystycznemu;

(iii) wykrywania, lokalizowania, identyfikowania lub ścigania sprawcy przestępstwa lub podejrzanego o popełnienie przestępstwa albo skazanego, o którym mowa w art. 2 ust. 2 decyzji ramowej Rady 2002/584/WSiSW62 i które w danym państwie członkowskim podlega karze pozbawienia wolności lub środkowi zabezpieczającemu polegającemu na pozbawieniu wolności przez okres, którego górna granica wynosi co najmniej trzy lata, zgodnie z prawem danego państwa członkowskiego.

Najważniejszymi kwestiami, na które należy zwrócić uwagę jest to, że wykorzystanie przez organy ścigania zdalnych systemów kategoryzacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej, tj. art. 5 ust. 1 lit. d) Rozporządzenia będzie oznaczało, że systemy te mogą być również używane przez inne podmioty działające w imieniu organów ścigania. Ponadto częściowo rozszerzono listę celów, w odniesieniu do których organy ścigania powinny uzyskać możliwość korzystania ze zdalnej kategoryzacji biometrycznej „w czasie rzeczywistym”. Zmieniono także przepisy dotyczące procesu wydawania zezwoleń do wykorzystania ww. systemów (art. 5 ust. 3 Rozporządzenia). Przepis art. 5 ust. 1 lit. b) został zmieniony w ten sposób, że zakazane jest stosowanie systemów SI które wykorzystywałyby słabsze położenie określonych grupy osób, które są bardziej podatne w szczególności z powodu sytuacji gospodarczej lub społecznej w jakiej się znalazły.

Co do problematyki zasad klasyfikacji systemów SI wysokiego ryzyka, to art. 6 Rozporządzenia został w całości przeredagowany w celu bardziej adekwatnego odwzorowania i wyjaśnienia logiki stojącej za klasyfikacją systemów SI wysokiego ryzyka w Rozporządzeniu oraz jej powiązania z Załącznikami II i III do Rozporządzenia.

Ponadto uaktualniono wykaz obszarów istotnych dla identyfikacji systemów SI wysokiego ryzyka, które zostały wymienione w Załączniku III. W szczególności w pkt 2 dodano systemy SI, które powinny być stosowane w nadzorze lub jako elementy bezpieczeństwa infrastruktury cyfrowej, oraz te systemy SI które znajdą zastosowanie w monitorowaniu emisji i zanieczyszczeń. W pkt 5 dodano systemy SI stosowane do celów ubezpieczeniowych, a z pkt 6 usunięto odniesienie nawiązujące do systemów używanych przez organy ścigania lub przez inne podmioty w ich imieniu do celów sporządzenia analizy kryminalnej.

Dodano nowy art. 52a i związany z nim Motyw 70a celem wyjaśnienia ogólnego przeznaczenia systemów SI, które nie powinny być uznawane za systemy posiadające zamierzony cel w rozumieniu Rozporządzenia. Nowe przepisy precyzują również, że wprowadzenie na rynek, oddanie do użytku lub użytkowanie systemu SI ogólnego przeznaczenia nie powinno spowodować, że będą one podlegać reżimowi Rozporządzenia.

W odniesieniu do metody aktualizacji Załączników I i III, art. 84 wprowadza nowy obowiązek sprawozdawczy, który będzie ciążył na Komisji, zgodnie z którym będzie ona zobowiązana do oceny potrzeby zmian wykazów w powyższych Załącznikach co 24 miesiące od wejścia w życie Rozporządzenia.

Źródła:
1. Proposal For A Regulation Of The European Parliament And Of The Council Laying Down Harmonised Rules On Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts COM/2021/206 final (dostępny na stronie: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206)

2. Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts – Presidency compromise text (dostępny na stronie: https://data.consilium.europa.eu/doc/document/ST-14278-2021-INIT/en/pdf