Parlament Europejski chce zakazać systemów AI generujących seksualne obrazy bez zgody

Parlament Europejski przyjął w czwartek zdecydowaną większością głosów swoje stanowisko dotyczące uproszczenia unijnego rozporządzenia o sztucznej inteligencji (AI Act). Europosłowie opowiedzieli się za wprowadzeniem zakazu systemów AI zdolnych do tworzenia obrazów o charakterze seksualnym bez zgody osób, których wizerunek jest wykorzystywany. Podobne stanowisko wcześniej zajęła Rada Unii Europejskiej, reprezentująca państwa członkowskie. Obie instytucje będą teraz negocjować ostateczny kształt przepisów.

Zakaz technologii “nudifier-AI”

Do projektu przepisów dodano zapis zakazujący stosowania tzw. “nudifier-AI”, czyli technologii umożliwiających generowanie intymnych lub jednoznacznie seksualnych obrazów rzeczywistych osób, sztucznie pozbawionych ubrania, bez ich zgody. Zakaz nie obejmie jednak systemów wyposażonych w skuteczne mechanizmy zabezpieczające, które uniemożliwiają użytkownikom tworzenie tego typu treści.

Decyzja ta wpisuje się w kontekst głośnej afery z początku roku, kiedy Grok – asystent AI platformy X należącej do Elona Muska – generował na żądanie użytkowników ogromne ilości obrazów nagich osób bez ich zgody. Wśród poszkodowanych znalazły się również osoby niepełnoletnie.

Uproszczenia dla firm i dłuższe terminy wdrożenia

W ramach pakietu uproszczeń cyfrowych, określanego jako “omnibus numérique”, Komisja Europejska zaproponowała w listopadzie przesunięcie terminów wdrażania części przepisów dotyczących systemów wysokiego ryzyka. Parlament przyjął harmonogram rozłożony na kolejne dwa lata. Projekt przewiduje również dodatkowe wsparcie oraz uproszczone wymogi formalne dla małych i średnich przedsiębiorstw.

Spór o złagodzenie przepisów sektorowych

Europosłowie poparli także możliwość łagodzenia wymogów AI Act w odniesieniu do produktów objętych już innymi regulacjami sektorowymi, takimi jak wyroby medyczne czy zabawki. Propozycja ta wywołała jednak kontrowersje.

Europosłanka Sara Matthieu z grupy Zielonych skrytykowała poprawkę zgłoszoną przez Europejską Partię Ludową (PPE), zarzucając jej próbę osłabienia ustawy od środka i nadmiernego komplikowania przepisów zarówno dla przedsiębiorstw, jak i obywateli.