Ximena Cuzcano-Chavez, investigadora de Situada, participó como invitada en el programa semanal “Tendencia Legal”. Este espacio, realizado en coordinación con el Centro de Estudios en Gobernanza de Internet y la Universidad San Martín de Porres, abordó el tema: “El impacto de los deepfakes en la violencia digital de género”, llevado a cabo el 19 de diciembre del 2024, en donde expuso cómo las tecnologías emergentes, como los deepfakes, afectan de manera desproporcionada a las mujeres, exacerbando problemas de violencia digital.

La entrevista inició con Ximena explicando el concepto de los deepfakes desde un enfoque técnico y práctico. Se trata de medios digitales falsos generados mediante algoritmos de aprendizaje profundo (deep learning) que superponen el rostro de una persona en un cuerpo ajeno, cuyo uso malintencionado ha incrementado considerablemente, especialmente en la creación de contenido pornográfico no consensuado. “El 90% del contenido generado con deepfakes es de naturaleza pornográfica, y más del 96% de este contenido utiliza imágenes de mujeres” , enfatizó Ximena, citando datos de la empresa de análisis Sensity AI.

Adicionalmente, Ximena abordó casos recientes de Latinoamérica, como el incidente en el Colegio de Chorrillos, Perú, en 2023. En este caso, estudiantes utilizaron deepfakes para superponer rostros de sus compañeras en cuerpos desnudos, comercializando estas imágenes por precios que oscilaban entre 3 y 5 dólares. Casos similares han ocurrido en Chile, Ecuador, Brasil y México, donde incluso se han utilizado plataformas como Telegram para la distribución masiva de este contenido, agravando la situación al dificultar la identificación y eliminación de las imágenes.

Subrayó que el entorno digital no solo debe ser seguro desde una perspectiva técnica, sino también desde una visión centrada en las personas y sus derechos. En este contexto, presentó una serie de casos representativos que demuestran cómo las amenazas digitales trascienden lo técnico y afectan profundamente a las personas en el Perú:

Ximena destacó que los deepfakes no solo impactan la privacidad y reputación de las víctimas, sino que también tienen consecuencias psicológicas devastadoras.“El impacto en una adolescente que ve su rostro en un video o foto falsa puede marcar su proyecto de vida, generando secuelas psicológicas, sociales y profesionales que podrían ser irreparables”, mencionó.

En cuanto a soluciones, Ximena enfatizó que la tecnología por sí sola no resolverá estos problemas: “Es crucial abordar el tema desde la educación y la conciencia social, tanto en los equipos que desarrollan estas tecnologías como en quienes las utilizan”. Además, sugirió fortalecer las normativas legales y mejorar los mecanismos en plataformas digitales para facilitar la denuncia y eliminación rápida de contenido malicioso.

Finalmente, Ximena invitó a reflexionar sobre los sesgos presentes en la creación y el uso de tecnologías, haciendo un llamado a la colaboración de distintos sectores: “El cambio solo será posible trabajando en conjunto, desde nuestras respectivas áreas de especialización, para generar soluciones integrales que combatan la violencia digital de género”.

Mira la entrevista completa aquí: El impacto de los Deepfakes en la Violencia Digital de Género

Fotografías de la entrevista:

01 de enero de 2025