El chatbot de inteligencia artificial Grok, propiedad de Elon Musk y operativo en la red social X, ha limitado la generación y edición de imágenes exclusivamente a usuarios suscriptores de pago. Esta medida se implementó tras una ola de denuncias globales por la creación de deepfakes sexualizados, incluyendo representaciones de mujeres y presuntos menores de edad.
El problema continúa, pero ahora la plataforma lucra con la sexualización de las personas.
Hasta el viernes, el sistema respondía a solicitudes de alteración de imágenes con el mensaje: “La generación y edición de imágenes actualmente están limitadas a suscriptores de pago. Puedes suscribirte para desbloquear estas funciones.”
Los usuarios que deseen acceder a estas capacidades deben contar con una verificación azul de X, obtenida mediante una suscripción premium. La medida redujo el volumen de fotografías explícitas generados en la plataforma, muchas veces sin consentimiento de la persona que aparece en la imagen.
No es suficiente
La restricción no ha sido considerada suficiente por autoridades regulatorias, particularmente en Europa. Thomas Regnier, portavoz de la Comisión Ejecutiva de la Unión Europea, declaró: “Esto no cambia nuestro problema fundamental. Suscripción de pago o no, no queremos ver tales imágenes. Es así de simple”.
La Comisión Europea ya había calificado el comportamiento de Grok como “ilegal” y “espantoso”, ordenando a X conservar toda la documentación interna relacionada con el chatbot hasta finales de 2026 como parte de una investigación bajo la ley de seguridad digital de la UE.
En el Reino Unido, el portavoz del primer ministro Keir Starmer, Geraint Ellis, afirmó que el cambio “no es una solución” y que resulta “insultante para las víctimas de misoginia y violencia sexual“.
Francia, Malasia, India y Brasil también han iniciado revisiones o solicitado investigaciones sobre la plataforma.
¿Qué es Grok?
Grok se lanzó en 2023 y el verano pasado incorporó la función “Grok Imagine”, un generador de imágenes que incluía una modalidad capaz de producir contenido para adultos. El problema se agravó porque las imágenes generadas son públicamente visibles y pueden difundirse fácilmente, y porque Musk ha promocionado el chatbot como una alternativa menos restrictiva que sus competidores.
Elon Musk respondió en X que “cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”, vinculando la responsabilidad directamente al usuario suscriptor en lugar de hacer cambios con la inteligencia artificial.
