https://www.sprinforma.mx/noticia/advierte-estudio-que-ia-promueve-nuevas-formas-de-violencia-contra-mujeres-y-ninas
6 min Un estudio de académicos de las universidades de Durham y de Swansea de Inglaterra reveló que los chatbots de inteligencia artificial, como ChatGPT y Replika, están creando nuevas formas de violencia y abuso contra mujeres y niñas.
La investigación señala que estos sistemas pueden no solo responder, sino también incitar conductas dañinas, incluyendo acoso sexual y la simulación de juegos de rol abusivos. Entre los casos documentados se encuentran interacciones que reproducen violencia sexual, incesto o abuso infantil, además de proporcionar orientación detallada a usuarios que buscan cometer este tipo de agresiones.
De acuerdo con la investigación, titulada “Ya no somos invisibles”, se identificó cuatro nuevos tipos de violencia contra las mujeres y las niñas (VCMN):
Como dato relevante, el estudio advierte que millones de personas interactúan diariamente con sistemas de IA conversacional a nivel global, lo que amplifica el riesgo de que estos comportamientos se reproduzcan y escalen si no existen controles adecuados. Además, otras investigaciones han documentado sesgos de género en modelos de IA, lo que puede reforzar estereotipos y dinámicas de violencia.
Por otro lado, los investigadores subrayan que la regulación actual es “totalmente insuficiente” para prevenir estos riesgos, por lo que recomiendan reformas en leyes clave como la de seguridad en línea, el derecho penal y la legislación sobre productos digitales, así como la creación de una normativa específica en materia de inteligencia artificial.
Este debate cobra relevancia tras recientes señalamientos contra herramientas como Grok, el chatbot de la red social X, acusado de ser utilizado para generar imágenes sexualizadas y “desnudar” a personas sin su consentimiento mediante tecnología deepfake.
Aunque la generación de contenido sexual falso sin autorización ya es ilegal en algunos contextos, activistas advierten que la respuesta institucional sigue siendo limitada frente a la velocidad de desarrollo tecnológico.
En este contexto, el gobierno del Reino Unido analiza medidas más estrictas, incluyendo posibles restricciones al uso de redes sociales para menores de 16 años. Aunque una prohibición total fue rechazada a inicios de marzo, legisladores evalúan otorgar mayores facultades a las autoridades para regular el entorno digital y proteger a los usuarios más vulnerables.
Un estudio de universidades de Durham y de Swansea de Inglaterra reveló que los chatbots de inteligencia artificial están creando nuevas formas de violencia y abuso contra mujeres y niñas.
Niantic está utilizando los datos colaborativos de millones de jugadores de Pokémon Go en el mundo para desarrollar sistemas de inteligencia artificial centrados en la cartografía del mundo real.
WhatsApp anunció el próximo lanzamiento de nuevas cuentas para menores de edad administradas y controladas por los padres, las cuales estarán restringidas a mensajes y llamadas.
Claudia Sheinbaum encabezó la firma del Primer Acuerdo de colaboración voluntaria con plataformas digitales para combatir las violencias en el ámbito digital este 11 de marzo.