AI ACT | Akt w sprawie sztucznej inteligencji

Kluczowe zmiany w przepisach Unii Europejskiej

Unia Europejska wprowadziła rozporządzenie dotyczące sztucznej inteligencji (ROZPORZĄDZENIE PARLAMENTU EUROPEJSKIEGO I RADY (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji)), które ma na celu ujednolicenie zasad stosowania AI w całej Europie. Ten przełomowy akt prawny ustanawia ramy dla bezpiecznego i etycznego rozwoju technologii AI, jednocześnie wspierając innowacje. AI Act to krok milowy w regulacji technologii sztucznej inteligencji w Unii Europejskiej. Jego celem jest stworzenie bezpiecznego środowiska, w którym technologia ta może się rozwijać, jednocześnie chroniąc obywateli i wspierając przedsiębiorstwa.

Kluczowe aspekty

Zakres i definicja

• Zakres: AI Act obejmuje szeroki zakres technologii AI, w tym:
  • Systemy samouczenia się (machine learning): To algorytmy, które umożliwiają komputerom uczenie się z danych bez bycia wprost zaprogramowanymi. Systemy te adaptują się i poprawiają swoje działanie na podstawie analizy danych.
  • Głębokie uczenie się (deep learning): Jest to podzbiór uczenia maszynowego, który wykorzystuje sieci neuronowe o wielu warstwach do przetwarzania dużych ilości danych. Pozwala to na skuteczniejsze rozpoznawanie wzorców i podejmowanie złożonych decyzji.
  • Algorytmy oparte na logice i regułach, które są wykorzystywane w automatyzacji procesów biznesowych,
  • Technologie przetwarzania języka naturalnego, które są używane w chatbotach i systemach tłumaczeń automatycznych,
  • Systemy rozpoznawania obrazów i wideo, wykorzystywane w diagnostyce medycznej i bezpieczeństwie,
  • Algorytmy rekomendacyjne stosowane w e-commerce i mediach społecznościowych.
• Definicja AI: „System sztucznej inteligencji” oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne.

Systemy AI są klasyfikowane na podstawie poziomu ryzyka. Za system wysokiego ryzyka uznaje się taki, który spełnia łącznie poniższe warunki:

„ a) system AI jest przeznaczony do wykorzystania jako związany z bezpieczeństwem element produktu objętego unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I lub sam system AI jest takim produktem;

b) produkt, którego związanym z bezpieczeństwem elementem jest zgodnie z lit. a) system AI, lub sam system AI jako produkt podlegają – na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I – ocenie zgodności przez stronę trzecią w związku z wprowadzeniem tego produktu do obrotu lub oddaniem go do użytku.”

W odniesieniu do systemu AI wysokiego ryzyka koniecznym jest ustanowienie, wdrożenie, dokumentowanie i obsługiwanie systemu zarządzania ryzykiem. Ten system obejmuje następujące etapy:

1. identyfikację i analizę znanego i dającego się racjonalnie przewidzieć ryzyka, jakie dany system AI wysokiego ryzyka może stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych podczas jego stosowania zgodnie z przeznaczeniem;
2. oszacowanie i ocenę ryzyka, jakie może wystąpić podczas wykorzystywania systemu AI wysokiego ryzyka zgodnie z przeznaczeniem i w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania;
3. ocenę innego mogącego wystąpić ryzyka na podstawie analizy danych zebranych z systemu monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72;
4. przyjęcie odpowiednich i ukierunkowanych środków zarządzania ryzykiem zaprojektowanych w celu przeciwdziałania ryzyku zidentyfikowanemu zgodnie z lit. a).

Obszary zakazane i ograniczone

• Manipulacja zachowaniem: Zabronione jest stosowanie AI do manipulacji ludzkim zachowaniem w sposób, który może prowadzić do szkody fizycznej lub psychicznej. Przykładem są systemy, które używają technik podprogowych do wpływania na decyzje użytkowników.
• Systemy punktacji społecznej: Zakazane jest używanie AI przez organy publiczne do oceny zachowań społecznych obywateli w celu punktowania ich, co może prowadzić do dyskryminacji lub niesprawiedliwego traktowania.
• Biometryczna identyfikacja w czasie rzeczywistym: Ograniczone jest stosowanie AI do biometrycznej identyfikacji osób w miejscach publicznych, chyba że jest to konieczne do ścigania poważnych przestępstw i uzyska się odpowiednią zgodę.
• Techniki nadzoru: Zakazane jest wykorzystanie AI do masowego nadzoru obywateli, chyba że dotyczy to specyficznych i ograniczonych sytuacji zgodnych z prawem.
• Eksploatacja dzieci i osób wrażliwych: Zabronione są systemy, które celowo eksploatują dzieci lub osoby wrażliwe poprzez manipulację ich zachowaniem lub emocjami w celach komercyjnych lub innych.

Transparentność i świadomość użytkowników

ma przejawiać się m.in. we wprowadzeniu wymogów dotyczących informowania użytkowników, gdy wchodzą w interakcje z systemami AI, np. w przypadku chatbotów i telekonsultantów, czy konieczności ujawniania algorytmów decyzyjnych w określonych sytuacjach. Dodatkową formą zabezpieczenia ma być obowiązek wynikający z art. 14, czyli w przypadku systemów AI wysokiego ryzyka podmiot stosujący nie powinien podjąć żadnego działania ani decyzji na podstawie identyfikacji będącej wynikiem działania systemu, jeżeli identyfikacji tej nie zweryfikowały ani nie potwierdziły odrębnie co najmniej dwie osoby fizyczne mające wymagane kompetencje, przeszkolenie i uprawnienia.