La IA detrás del caso Almendralejo: así podemos plantarle cara

El suceso de las menores de Almendralejo, las cuales están siendo víctimas de una manipulación por inteligencia artificial con fotografías de contenido erótico, está conmocionando a la opinión pública porque pone de manifiesto con dureza la vulnerabilidad de los menores ante las nuevas tecnologías y la impotencia de muchos padres y madres  que no saben cómo proteger a sus seres más queridos ante un fenómeno que les supera.

Además, este caso no es aislado, sino que forma parte de una realidad cada vez más frecuente de la exposición a los  riesgos y amenazas en la red, sin tener conciencia los actores de las consecuencias físicas, emocionales, psicológicas y legales que pueden derivarse de sus actos.

Las niñas y adolescentes son especialmente vulnerables a este tipo de ataques, ya que se encuentran en una etapa de desarrollo personal y social en la que buscan su identidad, su autoafirmación y su aceptación por parte de sus iguales. Aunque no debemos caer en la demagogia, llama poderosamente la atención que, una vez más, todas las víctimas sean chicas, lo que nos  obliga a adentrarnos de forma obligatoria en condicionamientos machistas y conductas sociales claramente sesgadas cuyos actos pueden y van a tener consecuencias muy graves.

La pornografía infantil es una forma de violencia sexual contra la infancia que atenta contra su dignidad, su integridad y su desarrollo. Cuando se utiliza la cara de una niña o adolescente en la creación de este tipo de material, se le causa un daño irreparable que puede tener consecuencias a corto y largo plazo; traumas psicológicos, sentimientos de culpa, miedo o vergüenza, problemas de identidad, vulnerabilidad a la revictimización en entornos de acoso o ciberacoso escolar…… La lista es interminable

Esto no se puede tolerar y las medidas y acciones que se tomen deben ser contundentes:

  • Las familias deben estar atentas al uso que hacen sus hijas e hijos de las nuevas tecnologías, educarlos en el respeto a sí mismos y a los demás, y ofrecerles un espacio de confianza y apoyo donde puedan expresar sus dudas, miedos o problemas.
  • Las escuelas deben incorporar la educación digital como parte del currículo, fomentar el pensamiento crítico y la ciudadanía digital responsable, y detectar y denunciar los casos de ciberacoso o ciberviolencia. Urge  repensar y actualizar los protocolos y dar contenido sustantivo a la figura del coordinador de bienestar y protección infantil 
  • Las instituciones deben legislar y sancionar estos delitos, proteger a las víctimas y perseguir a los agresores.
  • Los medios de comunicación deben informar con rigor y sensibilidad sobre estos temas, sin caer en el morbo o la revictimización.
  • Y, por supuesto, las plataformas digitales deben colaborar con la justicia, eliminar los contenidos ilícitos y garantizar la seguridad y la privacidad de sus usuarios.

No perdamos tiempo una vez más, este disparate está llamando ya a la puerta de todas las familias y centros educativos de España.

Picture of Carlos Represa

Carlos Represa

Carlos Represa es Director de Digitales y Responsables, proyecto de alfabetización digital para docentes y familias en centros educativos. Licenciado en Derecho, preside la Asociación para la protección de menores en Internet. Desarrolla su labor educativa como profesor y conferenciante en centros educativos, de formación del profesorado y Universidades. Es Director de Relaciones Institucionales en el Grupo Scientia School.

Añade aquí tu texto de cabecera

Añade aquí tu texto de cabecera