https://www.sprinforma.mx/noticia/limita-x-la-generacion-de-imagenes-en-grok-tras-denuncias-internacionales-por-violencia-contra-mujeres-y-menores
6 min La red social X, propiedad de Elon Musk, restringió la generación de imágenes de su inteligencia artificial Grok luego de una ola de denuncias por la creación y difusión de contenido violento y sexualizado contra mujeres y menores.
El propio Musk anunció que, a partir de ahora, esta función solo estará disponible para usuarios suscritos al servicio de Grok. Sin embargo, no precisó si el sistema será actualizado para impedir que la IA continúe generando imágenes que promuevan la violencia contra mujeres y menores
La decisión se produce en medio de fuertes críticas internacionales derivadas del llamado “bikinigate”, un escándalo que encendió alertas sobre el uso de la herramienta para crear imágenes sexualizadas, incluso de menores. Organismos y gobiernos de Latinoamérica, Europa y Asia han reaccionado con investigaciones y advertencias formales contra la plataforma.
En México, el Gobierno, a través de la Secretaría de las Mujeres, condenó el uso de herramientas de inteligencia artificial como Grok para manipular y difundir imágenes de mujeres sin su consentimiento, al advertir que esta práctica constituye violencia sexual digital, es cual es considerado un delito.
La titular de la dependencia, Citlalli Hernández, subrayó que la creación y circulación de imágenes de carácter sexual, ya sean reales o simuladas mediante IA, está sancionada por la Ley Olimpia y exigió reforzar los filtros de seguridad de su herramienta para evitar este tipo de abusos.
La Comisión Europea ordenó a X la conservación de toda la documentación y datos internos relacionados con Grok hasta finales de 2026, ante la preocupación por posibles violaciones a la Ley de Servicios Digitales de la Unión Europea.
En el Reino Unido, el primer ministro aseguró el pasado 8 de enero que los deepfakes de este tipo “no pueden ser tolerados”. Días antes, el regulador Ofcom ya había contactado a X para abordar los riesgos que la herramienta representa para menores.
Francia también activó mecanismos de supervisión al solicitar a su regulador de medios, Arcom, y a la fiscalía investigar si X cumple con la legislación digital europea.
En España, la ministra de Juventud e Infancia, Sira Rego, pidió a la Fiscalía General del Estado indagar posibles delitos relacionados con la difusión de material de violencia sexual infantil generado por la IA.
En Asia, el Ministerio de Electrónica y Tecnología de la Información de India ordenó a X eliminar contenido vinculado a la creación y circulación de imágenes obscenas o sexualizadas mediante Grok. De manera similar, el regulador de comunicaciones de Malasia (MCMC) anunció que citará a la empresa e iniciará una investigación por el presunto uso indebido de la herramienta para generar contenido sexualizado o de desnudez.
Aunque la plataforma ha optado por restringir el acceso a la generación de imágenes, la presión internacional sigue creciendo y deja abierta la pregunta sobre si estas medidas serán suficientes para frenar los abusos asociados a la inteligencia artificial en redes sociales.
El mandatario republicano aseguró a los ejecutivos petroleros que tendrán “total seguridad” por parte de Venezuela y que el pueblo estadounidense será “gran beneficiario”
Miles de personas protestaron el pasado 9 de enero en diferentes estados de Estados Unidos, tras tiroteos en Minneapolis y Portland
Autoridades federales y estatales lograron la detención de 3 funcionarios de la Secretaría de Seguridad Ciudadana de Puebla, así como de una civil, por su presunta vinculación con "La Barredora".
La Fiscalía CDMX informó sobre el resguardo de animales del Refugio Franciscano, quienes mostraron rasgos de maltrato. Asimismo, la dependencia señaló que no asegurarán el predio.