Holenderski sąd zakazał funkcji „rozbierania” w chatbocie Grok od Elona Muska

Sąd rejonowy w Amsterdamie w czwartek 26 marca 2026 r. zdecydował o zakazie udostępniania na terenie Holandii funkcji generowania nagich obrazów przez chatbota Grok, rozwijanego przez firmę xAI należącą do Elona Muska. Decyzja zapadła w trybie przyspieszonym po pozwie wniesionym przez fundację Fonds Slachtofferhulp, wspierającą ofiary przestępstw, oraz organizację ekspercką Offlimits. Podmioty te domagały się zablokowania narzędzia określanego jako „cyfrowe rozbieranie”, które umożliwiało tworzenie za pomocą sztucznej inteligencji nagich wizerunków zarówno dorosłych, jak i dzieci, w tym fikcyjnych obrazów przedstawiających realne osoby.

Materiały dowodowe przedstawione sądowi

W toku postępowania organizacje przedłożyły sądowi przykłady obrazów wygenerowanych przy użyciu Grok. Materiały te przedstawiały m.in. wirtualne dzieci w kontekstach uznanych za problematyczne. Sąd uznał argumentację powodów, stwierdzając, że twórcy narzędzia w sposób bezprawny przyczyniają się do powstawania środowiska sprzyjającego przekraczaniu granic w internecie. W uzasadnieniu podkreślono, że xAI sprawuje kontrolę nad funkcjonowaniem chatbota i ponosi odpowiedzialność za ograniczanie nadużyć, nawet jeśli same treści generowane są przez użytkowników.

Zakaz obowiązuje wyłącznie w Holandii

Wnioskodawcy zabiegali o wprowadzenie globalnego zakazu stosowania tej funkcji, jednak sąd nie uwzględnił tego żądania, wskazując na brak właściwości do podejmowania decyzji o takim zasięgu. Orzeczenie dotyczy wyłącznie terytorium Holandii oraz osób tam mieszkających. Równolegle Komisja Europejska prowadzi od początku roku własne postępowanie wyjaśniające w tej sprawie.

Możliwa kara do 10 milionów euro

Sąd nałożył na firmę xAI również karę finansową w formie astreinte. Za każdy dzień, w którym funkcja pozostanie dostępna, przewidziano karę w wysokości 100 000 euro, przy maksymalnym limicie sięgającym 10 milionów euro. Do czasu dostosowania się do wyroku usługa nie może być oferowana także w ramach platformy X, wcześniej znanej jako Twitter.

xAI: całkowite wyeliminowanie nadużyć jest niemożliwe

Przedstawiciele xAI argumentowali w trakcie rozprawy, że firma podejmuje działania mające na celu zapobieganie nadużyciom, w tym wykorzystaniu seksualnemu dzieci, jednak całkowite wyeliminowanie takich zjawisk nie jest możliwe z technicznego punktu widzenia. Wskazywali, że część użytkowników zawsze będzie próbowała omijać zabezpieczenia. Sąd nie uznał jednak tych wyjaśnień za wystarczające, podkreślając, że istnieją poważne wątpliwości co do skuteczności zastosowanych mechanizmów ochronnych.

Offlimits: decyzja o znaczeniu przełomowym

Organizacja Offlimits określiła wyrok jako przełomowy w skali światowej. Jej dyrektor Robbert Hoving podkreślił, że to pierwszy przypadek, gdy sąd zakazał tego typu funkcji w narzędziu sztucznej inteligencji. W jego ocenie decyzja jasno pokazuje, że prawa człowieka mają pierwszeństwo przed interesami komercyjnymi. Hoving zaznaczył również, że firma rozwijająca Grok starała się utrzymać kontrowersyjną funkcję, jednocześnie deklarując działania na rzecz bezpieczeństwa użytkowników.