El organismo británico de supervisión de la seguridad en línea, Ofcom, abrió este lunes una investigación formal contra la plataforma X, propiedad de Elon Musk, tras recibir informes sobre el uso del chatbot Grok AI para generar y difundir imágenes sexuales explícitas. La medida busca aclarar los hechos y determinar posibles responsabilidades por la circulación de contenido ilegal.
IA capaz de convertir pensamientos en texto: un salto inquietante
UE golpea a X de Elon Musk con una histórica multa millonaria
China apuesta por robots e IA para mantener su liderazgo en el sector textil
En su comunicado, Ofcom calificó los reportes como “informes sumamente preocupantes”, que incluyen la creación de imágenes de mujeres desnudas sin consentimiento y representaciones sexualizadas de menores. Según el regulador, estos actos podrían constituir delitos de abuso de imágenes íntimas y material de abuso sexual infantil.
La investigación se realiza bajo la Ley de Seguridad Online del Reino Unido, vigente desde 2023, que obliga a las plataformas digitales a proteger a los usuarios de contenido ilegal y a establecer controles de edad eficaces. Ofcom advirtió que X podría enfrentar multas de hasta 18 millones de libras o el 10 % de sus ingresos globales en caso de incumplimiento.
El primer ministro Keir Starmer calificó las imágenes producidas por Grok como “repugnantes” e “ilegales”, mientras que la ministra de Tecnología, Liz Kendall, instó a que la investigación avance con rapidez. Además, Ofcom emitió exigencias inmediatas para la plataforma: evaluar riesgos de exposición a contenido ilegal, eliminar cualquier material prohibido, proteger a menores de pornografía o imágenes no consentidas, e implementar controles de edad eficaces.
La polémica ha trascendido fronteras: Francia, Irlanda e Indonesia también anunciaron medidas similares e incluso bloquearon el acceso a Grok. Elon Musk respondió acusando al gobierno británico de querer “suprimir la libertad de expresión”, aunque Ofcom y el Ejecutivo británico sostienen que el objetivo es proteger frente a contenido ilegal y dañino. Este caso marca un punto de inflexión en la regulación de la inteligencia artificial aplicada a redes sociales y subraya la necesidad de respuestas rápidas frente a los riesgos digitales que afectan a mujeres y menores.
360°/AR/OBP
