Biuletyn Informacji Publicznej RPO

Jak państwo wykorzystuje system monitorujący uczniów w internecie? Odpowiedź MEiN

Data:
  • W Ogólnopolskiej Sieci Edukacyjnej funkcjonuje program monitorujący zachowania użytkowników sieci
  • Za pomocą sztucznej inteligencji program ma na podstawie aktywności uczniów w internecie wykrywać grożące im niebezpieczeństwo
  • System może ich chronić przed nieodpowiednimi treściami i zapobiegać tragediom, ale za cenę poważnej ingerencji w sferę prywatności
  • Nie ma jednak informacji o jakichkolwiek działaniach zmierzających do ochrony dzieci podjętych za pomocą programu
  • AKTUALIZACJA: Realizowany obecnie harmonogram działań zakłada udostępnienie szkołom wyników pracy systemu B3 przez portal Moje OSE na początku roku szkolnego 2023/2024 – informuje NASK w odpowiedzi i opisuje działanie systemu
  • AKTUALIZACJA2: System B3 poprawia jakość blokowania potencjalnie szkodliwych treści w innych systemach bezpieczeństwa OSE. Na podstawie analizy ruchu odnajduje, np. na podstronach portali, materiały nieodpowiednie dla najmłodszych użytkowników sieci i oznacza je jako potencjalnie szkodliwe - odpowiada min. Przemysław Czarnek w obszernej odpowiedzi (pełna treść w załączniku)
  • Rozpoznanie jednej treści potencjalnie szkodliwej w jednej tylko szkole daje możliwość zablokowania jej dla wszystkich szkół w Polsce na innych poziomach bezpieczeństwa OSE. W ten sposób każdego dnia będzie zwiększane bezpieczeństwo uczniów.

Rzecznik praw obywatelskich Marcin Wiącek pisze w tej sprawie do Dyrektora Naukowej i Akademickiej Sieci Komputerowej, Ministra Edukacji i Nauki oraz Ministra Cyfryzacji.

Ogólnopolska Sieć Edukacyjna to operowany przez NASK program Ministerstwa Cyfryzacji oferujący szkołom szybki, darmowy i bezpieczny Internet. Przyłączyć się do niej mogą wszystkie chętne placówki.

W ramach OSE wprowadzono system monitorowania zachowań w sieci, którego możliwości technologiczne systemu sprawiają m.in. , że system jest w stanie „na podstawie przesyłanych obrazów, wideo i wiadomości wyłapać emocje i zamiary uczniów”. Dzięki analizy treści przeglądanych przez dzieci oraz ich aktywności internetowej system ma wykrywać zagrożenia i pozwalać na reakcję, gdy dziecku grozi krzywda.

Jego funkcjonowanie wiąże się jednak z poważną ingerencją w życie prywatne osób korzystających z OSE (uczniów i nauczycieli). Z doniesień mediów wynika bowiem, że system „wykorzystując sztuczną inteligencję, potrafi wykryć, co uczniowie oglądają, czytają, a także co sobie wysyłają i co do siebie piszą w internecie”.

Rzecznik zwracał wielokrotnie uwagę, że ochrona życia prywatnego (art. 47 Konstytucji RP) obejmuje m.in. autonomię informacyjną. Oznacza ona prawo do samodzielnego decydowania o ujawnianiu innym informacji dotyczących siebie i prawo do kontrolowania tych informacji, jeżeli są w dyspozycji innych podmiotów.

Prawo do prywatności oraz autonomii informacyjnej – podobnie jak inne konstytucyjne prawa – ograniczać można, ale tylko na ściśle określonych w Konstytucji warunkach. Ograniczenia muszą być uchwalone w ustawie – by umożliwić społeczną kontrolę i parlamentarną dyskusję – i służyć ochronie szczególnie ważnych wartości, wskazanych w art. 31 Konstytucji. Ponadto, art. 51 ust. 2 Konstytucji stanowi, że władze mogą pracować tylko z tymi danymi o obywatelach, które są niezbędne w demokratycznym państwie prawnym.

Przeciwdziałanie przemocy w szkole i mowie nienawiści może spełniać te warunki, jednak – jak zauważa rzecznik – dane zgromadzone przez system nie są faktycznie wykorzystywane do walki z tymi zjawiskami. Nie przedstawiono dotąd wyników pracy systemu ani żadnych raportów. 

Oznacza to, że system może pracować i ingerować w konstytucyjne prawo do prywatności i autonomii informacyjnej, lecz owoce jego pracy nie są wykorzystywane do ochrony uczniów przed zagrożeniami w internecie – co w świetle Konstytucji miałoby uzasadniać tą ingerencję. Bez faktycznego wykorzystania systemu zgodnie z jego przeznaczeniem trudno mówić o realizacji konstytucyjnych wymogów jego dopuszczalności. 

Co więcej, jeżeli nie są podejmowane inne działania zmierzające do ochrony uczniów przed przemocą i nienawiścią w sieci, to nie jest realizowany obowiązek szkoły do zabezpieczania dzieci przed dostępem zagrażającym im treściom, wynikający z art. 27 Prawa oświatowego. 

W związku z tym RPO zadaje pytania dyrektorowi NASK Wojciechowi Pawlakowi, ministrowi edukacji i nauki Przemysławowi Czarnkowi, ministrowi cyfryzacji Januszowi Cieszyńskiemu:

  • Na jakiej podstawie prawnej został wprowadzony system 3B?
  • Jakie regulacje określają zasady działania, cele i założenia systemu?
  • Jakie są możliwości technologiczne systemu?
  • W jaki sposób aktualnie system jest wykorzystywany i w jaki sposób będzie wykorzystywany w przyszłości?
  • Kiedy zostaną udostępnione raporty generowane przez system?

VII.501.72.2023

Załączniki:

Autor informacji: Maciej Kuczyński
Data publikacji:
Osoba udostępniająca: Łukasz Starzewski
Data:
Opis: Dochodzi odpowiedź MEiN
Operator: Łukasz Starzewski
Data:
Opis: Dochodzi odpowiedź NASK
Operator: Krzysztof Michałowski
Data:
Operator: Maciej Kuczyński