Desde que la IA de Grok se hizo cargo de lo que alguna vez fue Twitter, la red social se ha convertido en una fuente inagotable de contenidos generados por inteligencia artificial. El problema es que este contenido se utiliza para desinformar o perjudicar a otras personas. Y hoy, Grok se ha convertido en una de las principales fuentes de imágenes sexualizadas creadas sin consentimiento. al igual que ellos cuentan Según Bloomberg, el chatbot generó alrededor de 6.700 imágenes de este tipo por hora durante un período de 24 horas a principios de enero.
La magnitud del problema. en el medio Cita Estos son los resultados de la investigadora independiente Genevieve Oh, quien encontró que en el análisis realizado entre el 5 y 6 de enero, Grok produjo estas imágenes a un ritmo 84 veces mayor que los otros cinco sitios web más activos en este tipo de contenidos. Oh estima que el 85% del total de imágenes producidas por Grok fueron creadas para sexualizar.
¿Qué tiene de especial Grok?. A diferencia de otros chatbots como ChatGPT, Claude o Gemini, Grok no impone límites importantes a la generación de contenido sexualizado de personas reales. Los usuarios pueden etiquetar la cuenta de Grok en las respuestas a las publicaciones de otras personas y pedirle que cambie las imágenes originales. Las solicitudes más comunes incluyen frases como “Ponle un bikini”, “Quítale la ropa” o “Cámbiale la ropa y ponle un bikini transparente”.
El chatbot genera estas imágenes en segundos, las publica automáticamente y las vincula a la publicación original de la víctima.
Víctima sin reacción. Maddie, una estudiante de medicina de 23 años. citado Según Bloomberg, se despertó el día de Año Nuevo y descubrió que varios extraños habían alterado una foto de ella y su novio con Grok. Primero sacaron a su pareja de la foto y la pusieron en bikini, luego otro usuario le pidió a Grok que reemplazara el bikini por hilo dental. «Mi corazón se hundió. Me sentí desesperada, impotente y simplemente disgustada», dijo.
Cuando ella y sus amigos reportaron las imágenes a través de los sistemas de moderación de X, nunca recibieron una respuesta. En otro caso, X determinó que no había “violaciones de reglas” en el contenido denunciado. Según medioLas imágenes aún se encontraban en la red social al momento de publicarse el reportaje.
casos medios de comunicación. El problema ha llegado incluso a figuras públicas. Y como dicen sobre GuardiánVarios usuarios pidieron a Grok que alterara una imagen de la viceprimera ministra sueca, Ebba Busch, para mostrarla en bikini. Además, dos ministros británicos también fueron víctimas de esta manipulación. Eliot Higgins, fundador de Bellingcat, grupo especializado en periodismo de investigación, contado al medio sobre cómo Grok respondió a instrucciones como «Bikini ahora» o «Ponte un bikini con la bandera confederada» sobre la foto de Busch en el Parlamento.
La respuesta de Musk y X Ante las recientes críticas, Elon Musk reclamos Sin embargo, esta estrategia de castigar a los usuarios en lugar de impedir que el chatbot genere el contenido parece haber resultado ineficaz.
al igual que ellos cuentan Según Bloomberg, cuando alguien pide eliminar estas imágenes en los comentarios, Grok a menudo se disculpa y dice que las eliminará, pero en muchos casos las imágenes permanecen y el sistema continúa generando otras nuevas.
legalidad. Carrie Goldberg, abogada especializada en delitos sexuales en línea, explicado le dijo al medio que el alcance de los deepfakes está en línea con la ley BájaloAprobado en Estados Unidos en 2025, responsabiliza a las plataformas de la producción y distribución de este tipo de contenidos. Brandie Nonnecke de Americanos por la Innovación Responsable, contado Según Bloomberg, las plataformas tienen hasta mayo de 2026 para configurar el proceso de eliminación necesario.
Uso cada vez más común. Aunque la tecnología para crear deepfakes sexuales no es nueva, ya que existen decenas de webs y bots de Telegram dedicados a desnudar personas, el hecho de que esta posibilidad esté alojada en una red social tan conocida como X marca un punto de inflexión. Y a diferencia de ciertos servicios de edición de imágenes, Grok es gratuito, ofrece resultados en segundos y está disponible para millones de usuarios en X.
Sloan Thompson de la organización EndTAB, señaló Wired dijo: «Cuando una empresa ofrece herramientas de IA generativa en su plataforma, es su responsabilidad minimizar el riesgo de abuso basado en imágenes. Lo alarmante es que X ha hecho lo contrario. Han integrado el abuso de imágenes impulsado por IA directamente en una plataforma convencional, haciendo que la violencia sexual sea más fácil y escalable».
Foto de portada | Tamara Bellis y antonio vallejo
En | Estamos entrando en una nueva era de robótica impulsada por IA y Disney es el ejemplo perfecto de ello.
