La Comisión de Protección de Datos de Irlanda (DPC) ha abierto una investigación formal contra Grok, el chatbot de inteligencia artificial de X (la plataforma de Elon Musk), por el procesamiento de datos personales y la generación de imágenes sexualizadas dañinas, incluyendo contenido de menores de edad.
El escándalo del "Spicy Mode"
Grok incluía una función llamada "Spicy Mode" que permitía a los usuarios pedir al chatbot que "desvistiera" imágenes de mujeres y las posara en bikini, creando deepfakes sin consentimiento y sin ningún tipo de protección.
Lo más grave: análisis periodísticos descubrieron que Grok también cumplía cuando los usuarios le pedían generar imágenes sexualmente sugerentes de menores, incluyendo una de una actriz de 14 años.
Qué investiga Irlanda
La DPC examinará si X Internet Unlimited Company (la subsidiaria europea de X) cumplió con las obligaciones del GDPR, incluyendo:
- Principios de procesamiento lícito de datos
- Protección de datos por diseño
- Obligación de realizar evaluaciones de impacto en protección de datos
Irlanda tiene jurisdicción porque X tiene su sede europea allí, y puede imponer multas de hasta el 4% de los ingresos globales bajo el GDPR.
No es la única investigación
La investigación irlandesa se suma a una cascada de acciones legales contra Grok en toda Europa:
- Comisión Europea: Investigación bajo la Ley de Servicios Digitales (DSA) desde enero
- Francia: Fiscales allanaron las oficinas de X en París por posible generación de material de abuso infantil y negación del Holocausto
- España: Ordenó investigación criminal contra X junto con Meta y TikTok
- Brasil y Canadá: Denuncias formales por distribución de contenido ilegal
Por qué importa
Este caso establece un precedente crucial: las empresas de IA son responsables de lo que sus modelos generan, no solo del contenido que los usuarios publican. Si Grok puede generar deepfakes sexuales sin consentimiento, la responsabilidad recae sobre X y xAI, la empresa de IA de Musk.
Qué puedes hacer
- No uses herramientas de IA para crear contenido sexual de otras personas — es ilegal en muchos países
- Si descubres que crearon un deepfake tuyo, denuncia ante tu autoridad de protección de datos
- Revisa si tus fotos personales están configuradas como públicas en redes sociales
- Apoya legislación que criminalice la creación no consentida de deepfakes
