Red por la Infancia lanzó "Bajálo Ya!" para borrar fotos de IA

La proliferación de la Inteligencia Artificial y el acceso cada vez más temprano a dispositivos tecnológicos trajeron consigo un alarmante aumento de la violencia digital contra niños y adolescentes. 

Para hacer frente a la difusión no consentida de imágenes íntimas —reales o alteradas digitalmente— desembarcó en Argentina “Bajálo Ya!” un recurso online que permite a los propios jóvenes o a sus familias gestionar la remoción del material de forma rápida, confidencial y sin exponer los archivos.

Ante la creciente preocupación por la viralización de contenidos privados en entornos digitales, Argentina sumó una herramienta clave para la protección de las infancias y adolescencias en la red. Esta plataforma gratuita, confidencial y de fácil acceso impulsada por la organización Red por la Infancia, que permite solicitar la eliminación inmediata de fotos y videos íntimos de menores de edad difundidos sin su consentimiento.

La herramienta gratuita y confidencial que permite solicitar, a través de una práctica y sencilla guía online, la remoción de fotos y videos íntimos de menores de edad que hayan sido publicados o difundidos sin su consentimiento en Internet.

Se trata de la adaptación local de Take It Down, un recurso creado originalmente por el National Center for Missing & Exploited Children (NCMEC) de los Estados Unidos. Fue desarrollado para que adultos, y también los propios chicos y chicas, puedan actuar de manera rápida y eficaz ante la publicación, viralización o amenazas de difusión de imágenes suyas, tanto reales como manipuladas por Inteligencia Artificial (IA).

“La herramienta funciona de manera muy simple. Cualquier persona menor de dieciocho años o cuyas fotos o videos, ya sean desnudos totales, parciales o de contenido sexualmente explícito, hayan sido tomados cuando tenía esa edad puede acceder al sitio web y desde allí seguir el paso a paso”, detalló Paula Wachter, directora ejecutiva de Red por la Infancia.

“La idea es facilitar el pedido de ayuda y poder intervenir en ese momento tan crítico que acontece cuando se comienza a viralizar una foto o video o bien se amenaza con hacerlo”, dijo.

El spot promocional de la iniciativa fue desarrollado junto a chicos y chicas de la Fundación Puerta 18 y contó con el apoyo de Fundación IRSA.

Cómo funciona la tecnología Hash 

Para acceder a la guía, se puede ingresar directamente desde el sitio de Red por la Infancia o a través de la web global de Take It Down, que redirige automáticamente a su versión en español.

• Se confirma si el usuario es menor de edad o si las imágenes a remover fueron tomadas cuando tenía menos de 18 años.
• Se informa si los archivos fueron viralizados, publicados o si existen amenazas de difusión.
• Se selecciona el contenido desde el propio dispositivo (celular, computadora o tablet). La herramienta trabaja con una tecnología segura que genera un código único para el archivo, conocido como huella digital o hash.

Gracias a este sistema, plataformas adheridas como Instagram, TikTok, Facebook, Snapchat, YouTube, OnlyFans y Pornhub identifican el código, detectan si la imagen fue subida y aplican medidas para eliminarla o bloquear su carga futura. Durante todo el proceso, el archivo no sale del dispositivo de la persona usuaria ni es visto por terceros.

Posteriormente, la plataforma ofrece la opción de reportar o no el caso a las autoridades. La denuncia es gratuita y no requiere asistencia legal. Cabe aclarar que este mecanismo no funciona directamente sobre servicios de mensajería encriptada como WhatsApp o Telegram; ante casos en dichas redes, se recomienda realizar la denuncia correspondiente.

El límite de las plataformas

Aunque las plataformas cuentan con el sistema de reporte, desde Red por la Infancia advierten limitaciones. A través de la iniciativa ReConectate (enfocada en el bienestar digital), la organización señala que las respuestas de las empresas no suelen equipararse con la urgencia ni la gravedad del problema.

Sin embargo, el NCMEC establece un plazo de remoción tras la notificación de “Bajalo Ya!” / Take It Down; de incumplirse, las empresas quedan sujetas a sanciones económicas. Además, el uso de la huella digital garantiza la preservación de la prueba, un punto crucial para la vía judicial.

En cuanto a las restricciones de acceso a redes para menores, Wachter opina que medidas como las aplicadas en Australia (pionera en bloqueos) pueden ser burladas mediante el uso de VPN o migrando a sitios más riesgosos. En Argentina, la problemática se complejiza debido a que el primer acceso a dispositivos ocurre a una edad muy temprana, estimada en promedio a los 9,6 años.

El impacto de la Inteligencia Artificial 

La irrupción de la IA agravó la vulnerabilidad de las infancias y adolescencias. “La difusión de imágenes sin consentimiento, tanto reales como generadas por inteligencia artificial, es una problemática a nivel global que viene creciendo de forma desproporcionada y vertiginosa”, alertó Wachter.

En el país, las consecuencias emocionales varían desde ansiedad, temor y depresión hasta autolesiones y suicidio, afectando mayoritariamente a niñas y adolescentes mujeres. Un caso representativo es el de Ema Bondaruk, quien se quitó la vida a los 16 años en agosto de 2024 tras la viralización de imágenes íntimas. La lucha de su madre impulsó la reciente sanción de una ley contra la violencia digital en ámbitos educativos en la provincia de Santa Fe.

Por otro lado, la referente advirtió sobre el impacto del debate en torno a la baja de la edad de imputabilidad (prevista a regir próximamente) sin haber desplegado antes políticas integrales de prevención y concientización: “Hay mucha desinformación; a veces les parece una broma o algo inocente, pero causa estragos en la vida de otras personas”.

Según datos del Informe Fuera de las Sombras sobre violencia sexual infantil en el mundo, la Argentina se posiciona muy por debajo de la media mundial en el desarrollo de políticas públicas de prevención.

Qué hacer ante la difusión de contenidos íntimos

Paula Wachter compartió una serie de recomendaciones para abordar la problemática tanto con menores como en el ámbito adulto:

Fomentar la empatía: Ayudarlos a comprender el impacto que causa en la víctima la difusión de este tipo de contenidos.

No reanimar la cadena: Insistir en no reenviar ni compartir material recibido para evitar la revictimización.

Acción ante la violencia: Si están siendo víctimas, no eliminar el material (sirve como prueba), no ceder a las amenazas y acudir de inmediato a un adulto de confianza o a sus pares.

Para adultos y cuidadores 

Tomar dimensión del uso tecnológico: Comprender que, aunque los chicos tengan habilidades técnicas, carecen de pensamiento crítico para gestionar los riesgos en línea.

Acompañamiento sin juzgar: Según datos de la organización Thorn, el 85% de los chicos no acude a los adultos por temor a ser retados, culpados o despojados de sus dispositivos, o porque no identifican que están siendo víctimas de un delito.

 

Fuente: Eugenia Tavano / Tiempo Argentino.