Ximena Cuzcano-Chavez, investigadora de Situada, participó en el  seminario “Tecnología e Inteligencia Artificial” de la Universidad Autónoma Metropolitana, Unidad Xochimilco. Presentó la ponencia titulada “IA en la Ciberseguridad: Innovación, Riesgos y Regulaciones”. Destacó la dualidad de la inteligencia artificial, que mejora la ciberseguridad, pero también introduce nuevas amenazas como los deepfakes. Expuso casos recientes de mal uso de la IA en colegios y subrayó la importancia de un desarrollo ético y diverso de estas tecnologías, junto con la urgente necesidad de una regulación adecuada.

En el seminario “Tecnología e Inteligencia Artificial” de la Universidad Autónoma Metropolitana, Unidad Xochimilco, Ximena Cuzcano-Chavez, la investigadora de Situada, presentó la ponencia titulada “IA en la Ciberseguridad: Innovación, Riesgos y Regulaciones”, enfocada en el contexto latinoamericano.

Ximena destacó la relevancia de la inteligencia artificial (IA) en la transformación digital y su dualidad en el ámbito de la ciberseguridad. Resaltó cómo la IA contribuye a mejorar la eficiencia y la toma de decisiones, además de fortalecer la ciberseguridad al detectar y responder automáticamente a incidentes. No obstante, advierte y evidencia que la misma tecnología que empleamos para protegernos puede ser aprovechada para atacar.

Planteó cómo la IA, con todos sus beneficios, introduce nuevas amenazas, como los deepfakes, y presentó casos recientes en colegios de Latinoamérica donde niños han hecho uso de la IA para generar deepfakes, violentando a sus compañeras. A pesar de su potencial para enfrentar riesgos, la IA también es una herramienta que puede ser mal utilizada en el entorno digital.

Durante la ponencia, Ximena compartió diversas iniciativas tanto globales como locales que están trabajando gobiernos y organizaciones en la regulación de la IA, subrayando la urgencia de una legislación, pero sobretodo, un diseño y desarrollo ético de tecnologías que considere la diversidad y evite sesgos. 

Como parte de las reflexiones finales, instó a adoptar un enfoque de seguridad digital que integre la IA, garantizando que las necesidades y perspectivas de todas las personas, especialmente de aquellas históricamente marginadas, sean consideradas en su desarrollo.

Mira la ponencia completa en el siguiente video:

26 de octubre de 2024