Hiszpański rząd domaga się śledztwa w sprawie X, Meta i TikTok za pornografię dziecięcą generowaną przez AI

lewicowy rząd Hiszpanii ogłosił, że zwróci się do prokuratury o wszczęcie dochodzenia przeciwko platformom X, Meta oraz TikTok. Sprawa dotyczy podejrzenia popełnienia przestępstw związanych z tworzeniem i rozpowszechnianiem pornografii dziecięcej za pośrednictwem narzędzi sztucznej inteligencji dostępnych w tych serwisach. Premier Pedro Sánchez poinformował o tej decyzji za pośrednictwem mediów społecznościowych, podkreślając, że państwo nie może tolerować sytuacji, w której giganci technologiczni działają w poczuciu bezkarności, narażając na szwank godność i zdrowie psychiczne najmłodszych.

Decyzja rządu opiera się na raporcie technicznym przygotowanym przez trzy ministerstwa, który wskazuje na ryzyko wykorzystywania algorytmów do generowania tzw. deepfake’ów o charakterze seksualnym. Statystyki przytoczone przez biuro premiera są alarmujące: co piąta młoda osoba w Hiszpanii twierdzi, że padła ofiarą fałszywych obrazów nagich ciał wygenerowanych przez AI jeszcze przed osiągnięciem pełnoletności. Problem ten dotyka w sposób szczególny dziewczęta, a skala zjawiska rośnie wraz z łatwiejszym dostępem do zaawansowanych chatbotów, takich jak Grok na platformie X, który stał się już przedmiotem odrębnych dochodzeń w Wielkiej Brytanii, Francji oraz na szczeblu unijnym.

Hiszpania dołączyła tym samym do szerokiej koalicji państw europejskich, które dążą do zaostrzenia regulacji wobec „techno-oligarchów”. Na początku lutego Sánchez zapowiedział plan wprowadzenia zakazu korzystania z mediów społecznościowych dla osób poniżej 16. roku życia, co wywołało ostrą reakcję m.in. Elona Muska. Rządowa inicjatywa jest postrzegana jako element szerszej walki z „cyfrowym Dzikim Zachodem”, gdzie dezinformacja i treści brutalne mają rozprzestrzeniać się bez odpowiedniego nadzoru ze strony właścicieli platform.
+1

Platformy Meta i TikTok w pierwszych komentarzach zapewniły o stosowaniu rygorystycznych systemów wykrywania i usuwania treści szkodliwych, jednak rzeczniczka rządu Elma Saiz zaznaczyła, że algorytmy nie mogą służyć jako „schronienie” dla przestępczości. Hiszpańska prokuratura ma teraz przeanalizować odpowiedzialność karną firm za to, że ich technologie ułatwiają tworzenie i błyskawiczne rozpowszechnianie materiałów naruszających prawa dzieci. Wynik tego śledztwa może stać się precedensem dla całej Unii Europejskiej, która dąży do pełnej kryminalizacji niekonsensualnych deepfake’ów seksualnych do 2027 roku.