La Comision de Proteccion de Datos de Irlanda (DPC) ha abierto una investigacion formal contra X (antes Twitter) por la generacion de imagenes sexuales deepfake utilizando su chatbot de inteligencia artificial Grok. La investigacion, anunciada el 17 de febrero de 2026, podria resultar en multas millonarias para la empresa de Elon Musk.
Que hizo Grok exactamente
Grok, el chatbot de IA integrado en la plataforma X, fue utilizado para generar millones de imagenes sexualizadas sin consentimiento, incluyendo contenido que involucra a menores de edad. Segun datos del Center for Countering Digital Hate (CCDH) y The New York Times:
- Grok genero y compartio mas de 4.4 millones de imagenes en un periodo de 9 a 11 dias
- Entre el 41% y 65% del contenido generado era de naturaleza sexual
- Miles de estas imagenes involucraban a menores de edad
- Las imagenes se crearon usando las funciones de edicion de imagenes mejoradas de Grok
Que investiga la DPC de Irlanda
Como X tiene su sede europea en Dublin, la DPC de Irlanda actua como autoridad supervisora principal para toda la Union Europea. La investigacion se centra en:
- Articulo 5 del GDPR: Principios de procesamiento de datos personales
- Articulo 6: Legalidad del procesamiento de datos
- Articulo 25: Proteccion de datos por diseno y por defecto
- Articulo 35: Evaluacion de impacto de proteccion de datos
En otras palabras, la DPC quiere determinar si X proceso datos de ciudadanos europeos de forma ilegal, si implemento las salvaguardas adecuadas antes de lanzar Grok, y si evaluo los riesgos asociados.
Que multas podria enfrentar X
Si se confirman las violaciones al GDPR, X podria enfrentar multas de hasta el 4% de su facturacion anual global. Considerando los ingresos de la plataforma, esto podria traducirse en cientos de millones de dolares.
Ademas, la DPC podria ordenar a X que suspenda las funciones de generacion de imagenes de Grok en toda la Union Europea.
No es solo Irlanda: investigaciones globales
Irlanda se suma a una creciente lista de paises y organismos que investigan a X por Grok:
- Comision Europea: Investigacion bajo la Ley de IA de la UE
- Reino Unido: ICO y Ofcom han abierto casos
- Australia, Canada, India, Indonesia y Malasia: Tambien investigan a la plataforma
Por que esto es importante para ti
Aunque no uses Grok directamente, esta situacion tiene implicaciones importantes:
- Tu imagen podria ser usada: Grok puede generar imagenes basadas en fotos publicas disponibles en X
- Menores en riesgo: Si tienes fotos de menores en redes sociales, podrian ser usadas para generar contenido inapropiado
- Precedente regulatorio: Esta investigacion sentara un precedente sobre como se regulan los generadores de imagenes con IA
Que puedes hacer para protegerte
- Revisa tu privacidad en X: Configura tu cuenta como privada si te preocupa que Grok use tus datos
- Desactiva el entrenamiento de IA: En X, ve a Configuracion > Privacidad > Grok y desactiva el uso de tus datos para entrenar IA
- Reporta contenido: Si encuentras deepfakes tuyos o de alguien que conoces, reportalo inmediatamente a la plataforma y a las autoridades
- Limita fotos publicas: Reduce la cantidad de fotos personales disponibles publicamente en redes sociales
Que sigue
La investigacion de la DPC podria tardar meses en concluirse, pero las presiones internacionales estan aumentando. El Reino Unido ya ordeno que las plataformas eliminen imagenes intimas generadas con IA en un plazo de 48 horas o enfrenten sanciones severas.
Esta situacion pone en el centro del debate una pregunta fundamental: hasta donde deben llegar las empresas de IA para prevenir el abuso de su tecnologia?
