El govern espanyol demanarà a la fiscalia que investigui X, Meta i TikTok per "creació de pornografia infantil" amb IA. Sánchez afirma que aquestes plataformes "estan atemptant contra la salut mental, la dignitat i els drets" dels infants
El Consell de Ministres demanarà a la fiscalia que investigui X, Meta i TikTok per delictes que podria estar cometent per la creació i difusió de pornografia infantil mitjançant intel·ligència artificial (IA), segons ha informat el president espanyol, Pedro Sánchez, a través de la xarxa X. Sánchez ha assegurat que aquestes plataformes estan "atemptant contra la salut mental, la dignitat i els drets" dels infants i joves. Ha afegit que l'Estat no ho pot permetre i ha reivindicat que "la impunitat dels gegants ha d'acabar". Sánchez va anunciar també fa dues setmanes que el govern espanyol vol prohibir l'accés a les xarxes socials a menors de 16 anys.
Durant la roda de premsa posterior al Consell de Ministres, la portaveu de l’executiu, Elma Saiz, ha destacat el “compromís” del seu govern de defensar els menors en els entorns digitals .
“No podem permetre que, a través de l’algoritme, es puguin amplificar o emparar tot això. Està en joc la seguretat dels nostres fills i filles, la protecció de la seva imatge, de la seva intimitat i de la seva llibertat”, ha afegit.
Ha recordat que en els últims 11 dies s’han generat 3 milions de fotos de nus a través d’intel·ligència artificial, “i moltes d’elles de menors”.
Així, el Ministeri de Presidència demanarà a la Fiscalia que analitzi i investigui els fets i adopti “les accions penals pertinents”. També que estableixi criteris d’actuació i mesures concretes perquè les possibles víctimes i els seus tutors o representants legals puguin fer valer els seus drets davant la Fiscalia.
Segons l’informe tècnic, s’analitzen possibles responsabilitats penals derivades de pràctiques cada cop més esteses com la generació i difusió de pornografia infantil mitjançant deepfakes i la manipulació d’imatges reals per crear-ne d’altres de contingut sexual explícit que menyscaben la dignitat de les víctimes.
El document alerta també de la possible participació de les xarxes socials en aquests fets, ja que permeten una difusió massiva amb una velocitat i opacitat que dificulten la detecció i persecució i afavoreixen xarxes que produeixen, comparteixen i monetitzen aquests continguts.
L’executiu espanyol considera que la convergència entre la IA generativa i les xarxes socials massives ha generat un ecosistema de risc sense precedents per a l’explotació sexual en l’àmbit digital, especialment de menors.
La Moncloa recorda que a l'Estat una de cada cinc persones joves, especialment nenes i adolescents, afirma haver patit la difusió de falsos nus creats amb IA quan eren menors, i un terç assegura haver sofert assetjament sexual digital durant la infància, segons dades de Save the Children.
Per tant, segons l’executiu, la situació afecta la seguretat i la dignitat de la infància, i les autoritats han d’utilitzar els mecanismes de què disposen per combatre aquest fenomen davant la “evident impunitat” en l’àmbit d’internet i les xarxes socials.
