Biuletyn Informacji Publicznej RPO

Rzecznik praw obywatelskich Sylwia Gregorczyk-Abram wzięła udział w 13. edycji Igrzysk Wolności, które odbyły się 23-25 października w Łodzi. To jeden z największych festiwali idei w Europie Środkowo-Wschodniej. Tegoroczne wydarzenie odbyło się pod hasłem „Tech for Humanity” i poświęcone było wpływowi nowych technologii, w szczególności sztucznej inteligencji, na demokrację, prawa człowieka oraz przyszłość społeczeństw. W debatach, spotkaniach i warsztatach uczestniczyli przedstawiciele świata nauki, kultury, biznesu i życia publicznego z Polski i zagranicy.

RPO wzięła udział w panelu "Technologia dla ludzkości", podczas którego rozmawiała z Dominikiem Batorskim, socjologiem i badaczem danych z Uniwersytetu Warszawskiego. Dyskusję moderowała Magdalena M. Baran. Udział Rzecznika w Igrzyskach Wolności był okazją do rozmowy o wyzwaniach związanych z rozwojem sztucznej inteligencji oraz o konieczności zapewnienia skutecznej ochrony praw człowieka w świecie coraz silniej kształtowanym przez nowe technologie.

Wpływ AI na prawa i wolności obywatelskie

Rzecznik zwróciła uwagę, że AI może przynosić istotne korzyści, ale jednocześnie stwarza realne zagrożenia dla ochrony danych osobowych, prywatności, zasady niedyskryminacji oraz prawa do skutecznego odwołania się od decyzji podejmowanych przy wsparciu algorytmów. Odwołując się do raportów Agencji Praw Podstawowych UE (FRA) i Amnesty International, wskazała, że ryzyko to nie ma charakteru wyłącznie teoretycznego i wynika z samego sposobu działania systemów sztucznej inteligencji, opartych na analizie ogromnych zbiorów danych.

- Raport FRA wskazuje, że wykorzystanie AI najczęściej rodzi problemy w obszarze ochrony danych osobowych, prywatności, zakazu dyskryminacji oraz prawa do skutecznego środka odwoławczego - podkreśliła.

RPO zwróciła uwagę, że algorytmy mogą powielać istniejące nierówności społeczne, wpływać na dostęp do świadczeń i usług publicznych, a także utrudniać obywatelom dochodzenie swoich praw. Jako przykłady wskazała wykorzystywanie technologii do masowego nadzoru oraz systemy, w których zautomatyzowane decyzje mają bezpośredni wpływ na sytuację życiową człowieka. Podkreśliła przy tym, że kluczowe znaczenie mają przejrzystość działania systemów AI oraz zachowanie realnego nadzoru człowieka nad podejmowanymi z ich udziałem decyzjami.

Warunki bezpiecznego wykorzystywania sztucznej inteligencji w administracji publicznej

Sylwia Gregorczyk-Abram podkreśliła, że z perspektywy praw człowieka kluczowe znaczenie mają trzy zasady: przejrzystość, odpowiedzialność oraz możliwość zakwestionowania decyzji podejmowanych z udziałem AI. Jak wskazała, obywatel powinien wiedzieć, kiedy w procesie decyzyjnym wykorzystywany jest algorytm, a także mieć zagwarantowane prawo do uzyskania wyjaśnienia i odwołania się od rozstrzygnięcia.

– W demokratycznym państwie nie może istnieć sytuacja, w której urząd odpowiada obywatelowi: "tak zdecydował algorytm". Odpowiedzialność za decyzję zawsze musi ponosić człowiek i instytucja publiczna - podkreśliła.

RPO zaznaczyła, że sztuczna inteligencja może wspierać proces podejmowania decyzji, jednak nie powinna zastępować człowieka w sprawach wpływających na prawa i wolności obywateli. Odnosząc się do nowych regulacji dotyczących AI, wskazała również na uruchomienie mechanizmów skargowych i nadzorczych wynikających z ustawy o systemach sztucznej inteligencji. Zwróciła uwagę, że rozwój praktyk korzystania z AI w administracji powinien iść w parze z budowaniem przejrzystych procedur, odpowiedzialności instytucji oraz kompetencji urzędników.

Główne zagrożenia związane ze sztuczną inteligencją

Rzecznik Praw Obywatelskich zwróciła uwagę, że debata publiczna często pomija fakt, iż większość najistotniejszych obowiązków przewidzianych w AI Act jeszcze nie weszła w życie. Jak wskazała, obecnie obowiązują przede wszystkim przepisy dotyczące przejrzystości, nakładające obowiązek informowania obywateli o wykorzystywaniu systemów AI oraz oznaczania niektórych treści generowanych przez sztuczną inteligencję.

- Jesteśmy dziś na etapie budowania przejrzystości i podstaw nadzoru nad sztuczną inteligencją. Najbardziej wymagająca część AI Act, dotycząca systemów mogących najsilniej wpływać na prawa i sytuację obywateli, dopiero przed nami - podkreśliła.

RPO zaznaczyła, że pełne wymogi dotyczące systemów wysokiego ryzyka, wykorzystywanych m.in. w zatrudnieniu, edukacji, dostępie do usług publicznych czy wymiarze sprawiedliwości, będą wdrażane w kolejnych latach. Dlatego szczególnego znaczenia nabiera dziś tworzenie skutecznych mechanizmów nadzoru i ochrony praw obywateli w obszarze rozwoju sztucznej inteligencji.