Biuletyn Informacji Publicznej RPO

• W Ogólnopolskiej Sieci Edukacyjnej funkcjonuje program monitorujący zachowania użytkowników sieci
• Za pomocą sztucznej inteligencji program ma na podstawie aktywności uczniów w internecie wykrywać grożące im niebezpieczeństwo
• System może ich chronić przed nieodpowiednimi treściami i zapobiegać tragediom, ale za cenę poważnej ingerencji w sferę prywatności
• Nie ma jednak informacji o jakichkolwiek działaniach zmierzających do ochrony dzieci podjętych za pomocą programu

Rzecznik praw obywatelskich Marcin Wiącek pisze w tej sprawie do Dyrektora Naukowej i Akademickiej Sieci Komputerowej, Ministra Edukacji i Nauki oraz Ministra Cyfryzacji.

Ogólnopolska Sieć Edukacyjna to operowany przez NASK program Ministerstwa Cyfryzacji oferujący szkołom szybki, darmowy i bezpieczny Internet. Przyłączyć się do niej mogą wszystkie chętne placówki.

W ramach OSE wprowadzono system monitorowania zachowań w sieci, którego możliwości technologiczne systemu sprawiają m.in. , że system jest w stanie „na podstawie przesyłanych obrazów, wideo i wiadomości wyłapać emocje i zamiary uczniów”. Dzięki analizy treści przeglądanych przez dzieci oraz ich aktywności internetowej system ma wykrywać zagrożenia i pozwalać na reakcję, gdy dziecku grozi krzywda.

Jego funkcjonowanie wiąże się jednak z poważną ingerencją w życie prywatne osób korzystających z OSE (uczniów i nauczycieli). Z doniesień mediów wynika bowiem, że system „wykorzystując sztuczną inteligencję, potrafi wykryć, co uczniowie oglądają, czytają, a także co sobie wysyłają i co do siebie piszą w internecie”.

Rzecznik zwracał wielokrotnie uwagę, że ochrona życia prywatnego (art. 47 Konstytucji RP) obejmuje m.in. autonomię informacyjną. Oznacza ona prawo do samodzielnego decydowania o ujawnianiu innym informacji dotyczących siebie i prawo do kontrolowania tych informacji, jeżeli są w dyspozycji innych podmiotów.

Prawo do prywatności oraz autonomii informacyjnej – podobnie jak inne konstytucyjne prawa – ograniczać można, ale tylko na ściśle określonych w Konstytucji warunkach. Ograniczenia muszą być uchwalone w ustawie – by umożliwić społeczną kontrolę i parlamentarną dyskusję – i służyć ochronie szczególnie ważnych wartości, wskazanych w art. 31 Konstytucji. Ponadto, art. 51 ust. 2 Konstytucji stanowi, że władze mogą pracować tylko z tymi danymi o obywatelach, które są niezbędne w demokratycznym państwie prawnym.

Przeciwdziałanie przemocy w szkole i mowie nienawiści może spełniać te warunki, jednak – jak zauważa rzecznik – dane zgromadzone przez system nie są faktycznie wykorzystywane do walki z tymi zjawiskami. Nie przedstawiono dotąd wyników pracy systemu ani żadnych raportów. 

Oznacza to, że system może pracować i ingerować w konstytucyjne prawo do prywatności i autonomii informacyjnej, lecz owoce jego pracy nie są wykorzystywane do ochrony uczniów przed zagrożeniami w internecie – co w świetle Konstytucji miałoby uzasadniać tą ingerencję. Bez faktycznego wykorzystania systemu zgodnie z jego przeznaczeniem trudno mówić o realizacji konstytucyjnych wymogów jego dopuszczalności. 

Co więcej, jeżeli nie są podejmowane inne działania zmierzające do ochrony uczniów przed przemocą i nienawiścią w sieci, to nie jest realizowany obowiązek szkoły do zabezpieczania dzieci przed dostępem zagrażającym im treściom, wynikający z art. 27 Prawa oświatowego. 

W związku z tym RPO zadaje pytania dyrektorowi NASK Wojciechowi Pawlakowi, ministrowi edukacji i nauki Przemysławowi Czarnkowi, ministrowi cyfryzacji Januszowi Cieszyńskiemu:

• Na jakiej podstawie prawnej został wprowadzony system 3B?
• Jakie regulacje określają zasady działania, cele i założenia systemu?
• Jakie są możliwości technologiczne systemu?
• W jaki sposób aktualnie system jest wykorzystywany i w jaki sposób będzie wykorzystywany w przyszłości?
• Kiedy zostaną udostępnione raporty generowane przez system?

VII.501.72.2023