Reflexión sobre cómo las plataformas digitales contribuyen a la perpetuación de la violencia y los sesgos
Si bien las plataformas digitales han transformado el día a día de las personas con beneficios como la comunicación, también perpetúan desigualdades, especialmente hacia las mujeres. Los sesgos de género en el diseño tecnológico y la violencia digital de género son problemas sistémicos que no se solucionan solo con más mujeres en los equipos, sino replanteando profundamente los paradigmas tecnológicos. Las empresas deben asumir una responsabilidad activa, revisando algoritmos y políticas para garantizar la seguridad y el bienestar de todas las personas en el espacio digital.
Las plataformas digitales han revolucionado nuestra manera de comunicarnos y relacionarnos. Conectar con familiares y amistades, conocer nuevas personas y compartir experiencias es más accesible que nunca. Sin embargo, detrás de estos beneficios, se esconden dinámicas que perpetúan desigualdad e injusticia. Estas plataformas, lejos de ser espacios neutrales, normalizan comportamientos perjudiciales, especialmente hacia las mujeres.
Sesgos de género en el diseño tecnológico
Muchas plataformas son creadas por equipos mayoritariamente masculinos, lo que da lugar a productos que reflejan sus propias experiencias y perspectivas. Este desequilibrio de poder (sesgos) se traduce en tecnologías que no responden adecuadamente a las necesidades, experiencias y perspectivas de las mujeres.
Los sesgos de género en el diseño tecnológico son sistémicos y van más allá de una representación numérica de mujeres en los equipos. Incluso con una mayor presencia femenina, si no se desafían las normas patriarcales arraigadas en la sociedad, las tecnologías seguirán reflejando perspectivas masculinas dominantes.
Un claro ejemplo de esto es el uso de deepfakes, una tecnología de inteligencia artificial que permite generar imágenes y videos falsos, mayoritariamente utilizada para violentar a las mujeres. En muchos casos, los rostros de mujeres son superpuestos en videos o imágenes pornográficas sin consentimiento, lo que refuerza la cosificación y explotación sexual femenina.
Violencia digital de género en las redes sociales
Las redes sociales también se han convertido en un espacio donde la violencia digital de género prolifera. Las mujeres, especialmente aquellas de comunidades marginadas, son víctimas de acoso, amenazas y abuso en línea. Las redes sociales como X, Instagram o Facebook permiten la difusión rápida de comentarios y contenidos violentos o degradantes, muchas veces sin enfrentar consecuencias.
Este problema se agrava aún más cuando las políticas de moderación de contenido son inconsistentes o ineficaces. A menudo, las plataformas no eliminan de manera rápida ni justa los comentarios misóginos, y en algunos casos, las víctimas que denuncian terminan siendo silenciadas. En consecuencia, los agresores continúan utilizando estas plataformas con impunidad, reforzando la idea de que este tipo de violencia es un comportamiento normal.
Complejidad para denunciar y falta de transparencia
En América Latina y el Caribe, denunciar acoso en redes sociales es confuso y desmotivador. Los procesos de denuncia suelen ser complicados, con categorías poco claras que llegan a frustrar. Además, muchas veces se requiere que miles de usuarios se unan a una denuncia para que las plataformas actúen.
La falta de transparencia empeora esta situación, ya que muchas veces no se reciben actualizaciones claras sobre sus denuncias, lo que genera un sentimiento de impotencia. Este laberinto no solo dificulta la denuncia de comportamientos inapropiados, sino que también permite que los perpetradores actúen con libertad, sabiendo que la probabilidad de ser sancionados es baja o nula.
Repensando el diseño de las plataformas para superar desigualdades
Aunque algunas plataformas han implementado iniciativas de inclusión, la realidad es que estos esfuerzos suelen ser superficiales. Las empresas deben asumir una responsabilidad real y proactiva: dándole un doble check a sus algoritmos, equipos de diseño y desarrollo tecnológico, así como definir políticas más estrictas que prioricen la seguridad y bienestar de todas las personas, con especial atención a las mujeres, quienes suelen ser las más afectadas por la violencia digital.
Superar las desigualdades digitales requiere una transformación profunda que vaya más allá de aumentar la presencia de mujeres en la industria tecnológica. Es fundamental replantear los paradigmas de diseño, desarrollo y uso de las plataformas, abordando de manera crítica los sesgos algorítmicos y las estructuras de poder que sustentan estas tecnologías.
XCC