Reflexión sobre la construcción de espacios digitales donde todas las personas se sientan seguras
Los espacios digitales seguros deberían garantizar el respeto a los derechos humanos y proteger a todas las personas, especialmente a los más vulnerables. Sin embargo, los sesgos tecnológicos, la violencia digital y las brechas digitales perpetúan desigualdades y con ello, espacios inseguros en línea. Superar estas barreras requiere un esfuerzo colectivo, promoviendo la equidad, transparencia y colaboración entre sectores para construir un espacio digital justo y seguro.
Un espacio digital seguro es aquel donde las personas pueden interactuar libremente sin temor a sufrir acoso, abuso, discriminación o violencia. Debería ser un entorno donde se respeten los derechos humanos y se protejan las identidades, especialmente de aquellos grupos históricamente oprimidos. Sin embargo, la pregunta persiste: ¿hemos logrado construir este tipo de espacios en el mundo digital?
Los espacios digitales han revolucionado la forma en que interactuamos y accedemos a la información, pero también han expuesto desigualdades profundamente arraigadas en nuestra sociedad. La tecnología no es neutral; refleja los sesgos, privilegios y contextos de quienes la diseñan, lo que ha dado lugar a sistemas que excluyen y marginan a ciertos grupos.
Los sesgos tecnológicos y la violencia
Uno de los factores que contribuye a que los espacios digitales sean inseguros es el sesgo inherente en la tecnología. Tanto los algoritmos como las plataformas tecnológicas e incluso las herramientas de inteligencia artificial (IA), que construyen y gestionan todo este ecosistema del que formamos parte, están diseñados por un grupo, en su mayoría, hombres que provienen de contextos homogéneos y, a menudo, privilegiados. Este fenómeno genera un sesgo estructural que se ve reflejado en los sistemas digitales, creando entornos que son inseguros, excluyentes o incluso violentos para las personas que no se ajustan a los patrones que dominan el diseño de estas tecnologías.
Un ejemplo claro de cómo las tecnologías pueden crear espacios digitales inseguros y violentos es el caso de la creación de deepfakes. Esta técnica, que utiliza redes generativas antagónicas (GAN, por sus siglas en inglés), permite crear videos hiperrealistas en los que se manipulan imágenes o videos de personas para hacer que parezcan estar diciendo o haciendo algo que no hicieron en la realidad. Estas redes GAN fueron desarrolladas inicialmente por un grupo de hombres en un bar de Canadá, como parte de una investigación de vanguardia en inteligencia artificial, pero rápidamente su potencial fue explotado con fines maliciosos.
La principal problemática radica en el uso predominantemente sexista y violento que se le da a esta tecnología. En más del 90% de los casos, los deepfakes se crean con el objetivo de generar videos pornográficos de mujeres. El simple hecho de que la mayoría de los deepfakes sean dirigidos a la creación de contenido sexual no consensuado refleja una estructura de poder y de género profundamente arraigada en el diseño de la tecnología misma. Las herramientas tecnológicas, sin una supervisión adecuada y sin considerar la equidad y el respeto hacia todas las personas, pueden convertirse en instrumentos de violencia digital.
La brecha digital y la marginalización
Otro aspecto son las brechas digitales. Las personas que viven en áreas rurales, las personas de bajos recursos, las comunidades indígenas y personas mayores enfrentan barreras significativas para acceder a los mismos espacios digitales que las personas con mayor poder adquisitivo o acceso a la tecnología avanzada. Esta exclusión tecnológica no solo agrava las brechas ya existentes, sino que también deja a estas personas más vulnerables a la violencia digital, al no contar con las herramientas o el conocimiento para protegerse.
Las brechas no solo se refieren al acceso limitado a dispositivos o conexión a internet, sino también a las diferencias en la capacidad de aprovechar la tecnología de manera efectiva. Estas desigualdades se traducen en exclusión social, educativa y económica, perpetuando ciclos de marginación. Las personas en áreas rurales, comunidades indígenas o en situación de vulnerabilidad no solo enfrentan barreras tecnológicas, sino también culturales y educativas que dificultan su participación activa en el entorno digital.
Construcción de espacios digitales seguros
Para abordar estos desafíos, es necesario un enfoque inclusivo en el diseño de tecnologías y políticas relacionadas, y que ese proceso no debe recaer exclusivamente en la comunidad técnica, sino que debe involucrar a todos los sectores, siendo una responsabilidad compartida que requiere la colaboración activa del sector gobierno, privado, comunidad técnica, organizaciones sociales, academia y usuarios finales. Esto implica escuchar sus experiencias/necesidades/perspectivas y brindarles voz en las decisiones sobre el futuro digital.
En este contexto, los equipos de desarrollo tecnológico deben considerar las diversas realidades de las y los usuarios, diseñando entornos que respeten las diferencias culturales, de género, de capacidades, entre otros. Esto incluye integrar funciones de accesibilidad, como subtítulos, traducción automática y opciones de personalización de contenido. Además, la industria tecnológica debe ser más transparente respecto al funcionamiento de sus algoritmos y al uso de datos, promoviendo auditorías independientes para prevenir contenido nocivo o discriminatorio.
Por otro lado, gobiernos y plataformas digitales deben trabajar conjuntamente para regular la violencia digital mediante la implementación de leyes claras contra el acoso cibernético y la desinformación, además de establecer sistemas efectivos de moderación de contenido. Estas políticas deben considerar las dinámicas de poder y proteger a los grupos más vulnerables.
Paralelamente, la alfabetización digital es clave para empoderar a las personas a proteger su privacidad y seguridad en línea. Es necesario fomentar la educación sobre el uso responsable de las tecnologías, sobre cómo reconocer y cómo denunciar actos de violencia en la red, y sobre cómo utilizar herramientas de privacidad para protegerse.
Un entorno seguro centrado en los derechos humanos
La creación de espacios digitales seguros es un reto colectivo que no se puede abordar de manera aislada. Si bien la tecnología tiene el potencial de ser una herramienta poderosa en el día a día, también es un reflejo de las desigualdades sociales que existen en el mundo offline. Para que todas las personas puedan sentirse seguras y protegidas en línea, es necesario desmantelar los sesgos tecnológicos, garantizar un acceso y apropiación equitativa a la tecnología y promover la colaboración de todos los sectores de la sociedad.
La seguridad en los espacios digitales no solo se logra a través de medidas técnicas, sino también mediante un compromiso continuo con la justicia social, la equidad y el respeto a los derechos humanos, independientemente de su origen, identidad o economía. Solo de esta manera, podremos construir un internet verdaderamente seguro y justo para todas las personas.
XCC