Ekspert: intymne deepfake'i nie są „mniejszym złem”

W środę w Sejmie wiceszefowa klubu KO, przewodnicząca sejmowej Komisji ds. Dzieci i Młodzieży Monika Rosa oraz posłanka Jolanta Niezgodzka przedstawiły projekt przepisów kryminalizujących intymne deepfake'i. Chodzi o treści o charakterze seksualnym utworzone przy użyciu sztucznej inteligencji.

Zgodnie z propozycją wprowadzona zostanie wyraźna odpowiedzialność karna za tworzenie lub przetwarzanie przy użyciu technik cyfrowych, w szczególności sztucznej inteligencji, treści pornograficznych mogących wywołać przekonanie o autentycznym udziale małoletniego. Działania te będą zagrożone karą od trzech miesięcy do pięciu lat pozbawienia wolności. Nowe prawo będzie również obejmować rozpowszechniane bez zgody treści AI, przedstawiające wizerunek nagiej osoby dorosłej lub w trakcie czynności seksualnej.

- My jako Zespół do Spraw Bezpieczeństwa Dzieci i Młodzieży w Świecie Cyfrowym mieliśmy zająć się przede wszystkim małoletnimi, ale przy tej okazji stwierdziliśmy, że bardzo zasadne jest również zajęcie się problemem deepfake'ów seksualizujących osoby dorosłe, szczególnie kobiety, bo to one w zdecydowanej większości padają ofiarami tego typu form przemocy cyfrowej — powiedział PAP dr Mateusz Łabuz z Uniwersytetu w Hamburgu (IFSH). 

Jak wytłumaczył, w przypadku osób dorosłych zespół zaproponował dodanie w art. 191a Kodeksu karnego przepisu obejmującego wykorzystanie czyjegoś wizerunku za pomocą deepfake'a. W przypadku małoletnich, jak przyznał ekspert, istniał już przepis, który można było podciągnąć pod sztuczną inteligencję. Chodzi o art. 202 paragraf 4b, w którym mowa o wytworzonym lub przetworzonym wizerunku. Dodał jednak, że dodany 20 lat temu przepis odnosił się raczej do „prymitywnych przeróbek”, ale teraz nabrał nowego znaczenia. 

Zdaniem eksperta obecny przepis jest wadliwy, gdyż wprowadza bardzo małą sankcję w przypadku deepfake'ów, czyli karę do 3 lat pozbawienia wolności. - Nikt nie podejrzewał wtedy, że za 20 lat będziemy mieć problem z treściami pedofilskimi generowanymi przy użyciu sztucznej inteligencji. To była niska sankcja i ją należy podnieść, tak żeby przynajmniej w niektórych przypadkach zrównać ją z sankcją za tworzenie prawdziwych treści — podkreślił. 

Ekspert odniósł się także do opinii, według których seksualne deepfake'i są rzekomo „mniejszym złem”. - To jest bardzo popularna opinia, ale prowadzi do bagatelizowania poważnego problemu. Ze zgromadzonych materiałów dowodowych wynika jednak, że u sprawców postępuje przyzwolenie na to, żeby tworzyć treści coraz bardziej drastyczne, czyli postępuje normalizacja — mówił. Jak dodał, w momencie, w którym coraz więcej takich treści pojawia się w internecie mamy do czynienia nie tylko z ich normalizacją przez sprawców, ale i całe społeczeństwo.

O skali problemu świadczy m.in. raport Dyżurnetu podlegającego pod NASK za 2025 r. Zgodnie z nim w ub. r. liczba materiałów przedstawiających wytworzone lub przetworzone treści prezentujące seksualne wykorzystanie małoletniego wzrosła o 300 proc. „W poprzednich latach obserwowany był udział wygenerowanych komputerowo, realistycznych materiałów jednak dających się odróżnić od realnych. Obecna technologia AI praktycznie uniemożliwia ocenę czy dany obraz jest realny, czy został wytworzony” - czytamy w raporcie. 

Dr Łabuz ostrzegł, że w przyszłości można się spodziewać wzrostu takich treści. Wyjaśnił, że mogą one powstawać w trzech różnych wymiarach. Pierwszy dotyczy intymnych deepfake'ów małoletnich w całości wygenerowanych przez AI. - Z drugiej strony mamy do czynienia z czymś, co zostało wcześniej wygenerowane na podstawie prawdziwego nagrania z prawdziwym dzieckiem, a następnie podłożono do tego twarz albo ciało jakiegoś innego dziecka — wymieniał ekspert. Z kolei trzecią opcją może być deepfake, w którym wykorzystano wizerunek prawdziwego dziecka do tego, aby wygenerować nowy materiał.

Rozmówca PAP zwrócił również uwagę na potrzebę wywierania presji na platformy społecznościowe, po to, aby umożliwiać usuwanie intymnych deepfake'ów po zgłoszeniu ofiary. - W tym momencie mamy patologię, która rozciąga się właściwie na cały ekosystem cyfrowy. Jeżeli tacy ludzie jak Taylor Swift czy Rafał Brzoska, którzy dysponują potężnym środkami i mają sztab prawników, nie są sobie w stanie poradzić ze zmuszeniem jakiejś platformy cyfrowej do moderowania treści, do ich usuwania, no to jakie szanse ma przeciętny człowiek, który nie dysponuje takimi środkami i możliwościami? - zauważył.

Weronika Moszpańska (PAP)

wm/ agz/