En un mundo cada vez más tecnológico, los menores se enfrentan a una serie de riesgos que van más allá de la tradicional preocupación por el acceso a contenidos inapropiados. La sextorsión y el uso de herramientas de inteligencia artificial (IA) generativa para crear imágenes explícitas sin consentimiento, conocidas como «deepfakes», se han convertido en una realidad alarmante que exige una comprensión profunda y una respuesta efectiva para proteger a esta vulnerable población.
Un estudio reciente realizado por la organización estadounidense Thorn, en colaboración con la consultora BSG, ha arrojado luz sobre estos preocupantes fenómenos. El informe «Perspectivas de los jóvenes sobre la seguridad en línea, 2023» se centra en los comportamientos de los menores de 9 a 17 años en Estados Unidos, pero sus hallazgos son extrapolables a otras sociedades con servicios digitales y patrones de conducta similares.
EL USO DE APLICACIONES DE CITAS Y PLATAFORMAS DE PORNOGRAFÍA POR MENORES
Según los datos recogidos en la investigación, un 17% de los menores encuestados afirmaron haber utilizado aplicaciones de citas, como Tinder, Grindr o Hinge, y casi el mismo porcentaje (16%) reconoció haber accedido a sitios web de pornografía. Esta actividad es hasta tres veces más probable en los adolescentes que en los niños menores de 12 años.
El acceso a internet no está exento de riesgos para los menores. El 59% de los encuestados informó haber tenido experiencias dañinas en línea, y el 35% reportó haber tenido interacciones de tipo sexual, ya sea con otros menores de 18 años (28%) o con personas que creían que eran adultas (28%). Estas interacciones fueron más frecuentes en aplicaciones como Omegle (36%), Kik (23%), Snapchat (23%), Telegram (22%), Instagram (20%) y Marco Polo (20%).
LA SEXTORSIÓN Y EL INTERCAMBIO NO CONSENTIDO DE IMÁGENES ÍNTIMAS
Uno de los principales riesgos a los que se enfrentan los menores es la sextorsión, es decir, la amenaza de publicar una imagen explícita del menor si no hace lo que el agresor pide. Según el informe, uno de cada 17 menores ha sido víctima de este delito.
Además, sin que medie amenaza, los menores también comparten sus propios vídeos y fotografías explícitos, en los que aparecen desnudos e incluso con alguien más. Para uno de cada cuatro, esta práctica se ve como algo normal. De entre quienes han compartido este tipo de imágenes, la mayoría (83%) lo ha hecho con alguien que conoce «offline», pero el 46% las ha enviado a conocidos exclusivamente digitales.
El 7% de los menores encuestados reconoce haber reenviado las imágenes de otras personas sin su consentimiento, mientras que el 19% ha visto imágenes reenviadas de otros sin su autorización. Incluso, el 38% ha culpado a la víctima de la circulación de las imágenes.
EL USO DE IA GENERATIVA PARA CREAR «DEEPFAKES» EXPLÍCITOS
Las imágenes creadas por los menores también se extienden a las generadas por herramientas de IA con un resultado realista, lo que se conoce como «deepfake». Si bien la mayoría de los menores no cree que sus compañeros hayan usado estas herramientas para crear imágenes explícitas de otros niños, el informe recoge que el 11% conoce casos en los que sí.
Los responsables del estudio expresan que «si bien es más probable que la motivación detrás de estos eventos esté impulsada por el mal comportamiento de los adolescentes que por la intención de abusar sexualmente, los daños resultantes para las víctimas son reales y no deben minimizarse en los intentos de eludir la responsabilidad».
Además, se dirigen a la IA generativa y señalan que «es fundamental que hablemos de manera proactiva y directa sobre los daños causados por los ‘deepfakes’ y reforcemos una comprensión clara de qué conducta es inaceptable en nuestras comunidades y escuelas, independientemente de la tecnología que se utilice.
El objetivo de este estudio es obtener datos que refuercen las estrategias de prevención y «inspirar» más investigaciones. «Es esencial que comprendamos la totalidad y los matices de los riesgos que enfrentan los niños en línea para poder desarrollar sistemas que puedan protegerlos de manera efectiva», concluyen los autores del informe.
