Reino Unido investiga a Grok por generar contenido sexual explícito

El organismo regulador británico evalúa si X incumplió la Ley de Seguridad Online al permitir la difusión de contenido sexual explícito, incluyendo imágenes de menores, y advierte posibles multas millonarias.

El organismo regulador de medios del Reino Unido, Ofcom, abrió una investigación formal sobre el chatbot Grok, de la red social X, tras detectarse la generación y difusión de imágenes sexualmente explícitas de mujeres y menores. La investigación busca determinar si la plataforma, propiedad de Elon Musk, violó la Ley de Seguridad Online, diseñada para proteger a los usuarios, especialmente a los menores, de contenido dañino.

El anuncio de Ofcom se produjo tras informes preocupantes y la condena del gobierno de Keir Starmer hacia los deepfakes sexuales. Según el regulador, si X incumple la normativa, podría ser obligada a implementar medidas correctivas y enfrentar multas de hasta 18 millones de libras o el 10% de su facturación, en caso de incumplimientos graves y persistentes.

TAMBIÉN TE PUEDE INTERESAR:

La legislación británica considera ilegal compartir imágenes íntimas abusivas, y exige que las plataformas implementen sistemas para prevenir y eliminar rápidamente material de abuso sexual infantil (MASI). Según medios británicos, Ofcom ya contactó a X la semana pasada para expresar sus preocupaciones antes de iniciar la investigación formal.

El chatbot Grok, integrado en X, permite a los usuarios modificar imágenes, incluyendo transformar fotos de mujeres y niños vestidos en versiones en bikini o en poses sexualmente sugerentes. La alerta del gobierno laborista y la presión de la Unión Europea buscan detener por completo la creación y difusión de deepfakes sexuales, considerando insuficiente limitar la edición de imágenes solo a suscriptores.