Malasia e Indonesia se convirtieron en los primeros países en bloquear el acceso al chatbot Grok, desarrollado por la compañía xAI de Elon Musk, tras determinar que la herramienta se estaba utilizando para generar imágenes sexualmente explícitas y no consensuadas.
Las autoridades de ambas naciones señalaron que los controles existentes no prevenían la creación y difusión de contenido pornográfico falso, particularmente de mujeres y menores.
El gobierno de Indonesia bloqueó temporalmente el acceso a Grok el sábado. La ministra de Comunicación y Asuntos Digitales, Meutya Hafid, declaró que “el gobierno ve los deepfakes sexuales no consensuados como una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.
Tal vez te interese: Grok sigue lucrando tras escándalo por sexualizar a mujeres y menores
Alexander Sabar, director general de supervisión del espacio digital, afirmó que las investigaciones iniciales mostraron que Grok carece de salvaguardas efectivas para evitar que usuarios creen y distribuyan contenido pornográfico basado en fotos reales, lo que viola la privacidad y causa daño psicológico y reputacional.
Por otro lado, la Comisión de Comunicaciones y Multimedia de Malasia ordenó una restricción temporal sobre Grok el domingo, citando un “uso indebido repetido” de la herramienta para generar imágenes obscenas, sexualmente explícitas y manipuladas sin consentimiento. La restricción se mantendrá hasta que se implementen protecciones efectivas.
La semana pasada, Grok había limitado la generación y edición de imágenes exclusivamente a usuarios suscriptores de pago, antes de eso cualquier usuario podía generar deepfakes sexualizados. Sin embargo, críticos y reguladores consideraron que esta medida no resolvía el problema de fondo.
