Przygotowania Ministerstwa do nowych regulacji
Ministerstwo przygotowuje się do rozpoczęcia międzyresortowych uzgodnień projektu wdrażającego unijne przepisy dotyczące sztucznej inteligencji (AI Act). Proces legislacyjno-redakcyjny ma zostać zakończony w sierpniu, aby projekt mógł trafić na poziom Rady Ministrów jeszcze w tym roku. Ministerstwo zamierza poświęcić ten rok na dokładne opracowanie ustawy.
Podział technologii AI
AI Act to przepisy Unii Europejskiej regulujące wykorzystanie sztucznej inteligencji. Prawo dzieli technologie AI na cztery kategorie: oprogramowanie wysokiego ryzyka, technologie ograniczonego i minimalnego wpływu oraz systemy nieakceptowalne, które będą zakazane w UE.
Wymogi dla modeli niestwarzających ryzyka systemowego
Modele niestwarzające ryzyka systemowego, jak chatboty czy gry, będą objęte minimalnymi wymogami, głównie dotyczącymi przejrzystości, aby użytkownicy mieli świadomość korzystania ze sztucznej inteligencji. Treści zmanipulowane, takie jak deepfakes, będą musiały być wyraźnie oznaczone.
Regulacje dla systemów wysokiego ryzyka
Systemy wysokiego ryzyka, np. technologie wykorzystywane w oświacie, będą mogły być wprowadzone na rynek UE pod warunkiem spełnienia surowych wymogów. Producenci będą musieli ocenić ryzyko przed wprowadzeniem produktu, a obywatele będą mieli prawo do zaskarżenia decyzji podjętych z użyciem AI.
Zakaz niebezpiecznych technologii
Zakazane będą technologie stanowiące zagrożenie dla praw podstawowych użytkowników, takie jak monitorowanie i szpiegowanie ludzi, czy wykorzystywanie danych wrażliwych do przewidywania zachowań, w tym prognozowania kryminologicznego. Nie będzie można również stosować systemów punktowania społecznego ani monitorowania emocji w miejscach pracy, urzędach, szkołach lub na uczelniach.
Ograniczenia w śledzeniu obywateli
AI nie będzie mogła być wykorzystywana do śledzenia obywateli lub pobierania wizerunków ich twarzy z internetu czy monitoringu miejskiego do tworzenia baz danych służących rozpoznawaniu twarzy. Wyjątki będą dotyczyć działań służb przy poszukiwaniu osób podejrzanych o terroryzm, ale wymagać to będzie zgody sądu lub właściwego urzędu.
Nowe organy monitorujące AI
Przepisy przewidują powołanie nowych organów monitorujących, takich jak urząd ds. sztucznej inteligencji przy Komisji Europejskiej oraz rada ds. sztucznej inteligencji z przedstawicielami państw unijnych. Firmy nieprzestrzegające unijnych przepisów o AI będą musiały liczyć się z surowymi karami, w tym częścią rocznego globalnego obrotu firmy lub grzywną zależną od wyższej kwoty. Małym i średnim przedsiębiorstwom oraz start-upom grozić będą raczej kary administracyjne.
