Reino Unido exige a X frenar imágenes falsas generadas por Grok
El gobierno británico instó a la red social X, de Elon Musk, a frenar urgentemente la proliferación de imágenes falsas sexuales de mujeres y niñas generadas por su IA, Grok.
El gobierno británico exigió este martes a la red social X, propiedad de Elon Musk, encontrar una solución urgente para evitar la proliferación de "repugnantes e inaceptables" imágenes falsas de mujeres y niñas desnudas generadas por su asistente de inteligencia artificial Grok, tras denuncias de que usuarios han creado contenido sexual injurioso retocando fotos de personas reales, mientras el regulador Ofcom inicia acciones y la Comisión Europea revisa el caso.
La ministra de Tecnología, Liz Kendall, declaró que lo visto en internet es "absolutamente repugnante e inaceptable en una sociedad decente". Subrayó que el gobierno "no puede, y no permitirá, la proliferación de estas imágenes humillantes y degradantes", que afectan desproporcionadamente a mujeres y niñas, y exigió a X que solucione el problema de manera urgente. Kendall respaldó plenamente las acciones del regulador Ofcom.
Investigación del regulador Ofcom y sanciones potenciales
El regulador británico Ofcom anunció el lunes que ha solicitado a X información sobre cómo protege a sus usuarios y no descarta iniciar una investigación formal. Según la Online Safety Act, las plataformas deben combatir estos contenidos y retirarlos rápidamente. El incumplimiento puede acarrear multas de hasta 18 millones de libras (unos 24 millones de dólares) o el 10% de su facturación mundial.
Reconocimiento de fallos por parte de Grok y preocupación internacional
Grok, el asistente de IA de X, reconoció el viernes la existencia de "fallos" que permitieron a usuarios generar imágenes sexuales de menores o mujeres y aseguró que los está corrigiendo "de manera urgente". La Comisión Europea también anunció que está revisando "muy seriamente" las denuncias sobre la herramienta, ampliando la presión regulatoria más allá del Reino Unido.
El caso expone los riesgos de la IA generativa mal utilizada y la creciente presión regulatoria sobre las grandes plataformas tecnológicas para que controlen los contenidos nocivos creados con sus herramientas.
Noticias del tema