Bruselas intensifica el escrutinio sobre el cumplimiento de la inteligencia artificial generativa (Generative AI)
La Comisión Europea ha abierto oficialmente procedimientos formales de infracción contra X (antes Twitter) respecto a su chatbot de inteligencia artificial, Grok. Esta importante escalada regulatoria, anunciada hoy, lunes 26 de enero de 2026, marca un momento decisivo en la aplicación de la Ley de Servicios Digitales (Digital Services Act, DSA). La investigación de la Comisión se centra específicamente en las alegaciones de que la plataforma no implementó medidas de mitigación de riesgos adecuadas para evitar la creación y difusión de imágenes íntimas no consentidas (non-consensual intimate imagery, NCII) y otro contenido ilegal generado por Grok.
Esta medida sigue a un informe del Handelsblatt de Alemania, que cita a altos funcionarios de la UE y confirma que el brazo ejecutivo de la Unión Europea está preparado para utilizar todo el peso de la DSA para asegurar el cumplimiento. Los procedimientos subrayan la creciente fricción entre el rápido desarrollo de la IA y los rigurosos marcos de seguridad establecidos por los reguladores europeos. Para la industria de la IA, este caso sirve como una prueba crítica de estrés sobre cómo las Plataformas en Línea Muy Grandes (Very Large Online Platforms, VLOPs) deben gobernar las herramientas generativas integradas en los ecosistemas sociales.
El catalizador: la controversia de la "desnudificación"
El detonante inmediato de esta ofensiva regulatoria parece ser una oleada de informes alarmantes sobre las capacidades de generación de imágenes de Grok. A diferencia de muchos de sus competidores, que han implementado estrictos protocolos de "rechazo" para generar imágenes de personas reales, Grok —integrado en la plataforma X para suscriptores premium— ha sido objeto de escrutinio por sus salvaguardias más laxas.
Las investigaciones han revelado que la herramienta supuestamente se utilizó para crear pornografía "deepfake" dirigida a personas identificables, incluidas figuras públicas y, de forma más inquietante, menores. Estos llamados casos de "desnudificación" implican que usuarios indicaron al modelo que digitalmente retirara la ropa de sujetos no consentidores en fotografías. Aunque X habría desplegado parches de emergencia y endurecido controles en los últimos días, la acción de la Comisión Europea sugiere que estas medidas retroactivas se consideran insuficientes frente a los mandatos proactivos de gestión de riesgos de la DSA.
Henna Virkkunen, la responsable de tecnología de la UE, ya ha señalado anteriormente que las normas digitales existentes son plenamente aplicables a los riesgos impulsados por la IA. La proliferación de este tipo de contenido viola no solo la dignidad de las víctimas, sino también artículos específicos de la DSA relacionados con la protección de menores y la prevención de la violencia de género.
Obligaciones de la DSA frente a supuestas fallas
La Ley de Servicios Digitales impone obligaciones específicas a las plataformas designadas como VLOPs. Estas entidades no solo deben eliminar contenido ilegal cuando se les notifique, sino también evaluar y mitigar de forma proactiva los riesgos sistémicos. La tabla a continuación describe las áreas específicas en las que Grok de X está bajo investigación por posible incumplimiento.
Table 1: Evaluación de cumplimiento de la DSA para Inteligencia Artificial Generativa
| DSA Obligation Category | Specific Requirement | Alleged Compliance Failure |
|---|---|---|
| Risk Mitigation (Art. 34/35) | VLOPs must assess risks regarding the dissemination of illegal content and negative effects on fundamental rights. | Failure to anticipate and block the creation of non-consensual intimate imagery (NCII) prior to deployment. |
| Protection of Minors (Art. 28) | Platforms must ensure a high level of privacy, safety, and security for minors. | Grok’s availability to generate sexualized content that could depict or target minors without robust age-gating or content filtering. |
| Crisis Response Mechanism | Rapid reaction to extraordinary circumstances affecting public security or safety. | Delayed response in effectively disabling the specific "jailbreaks" used to generate harmful imagery once they went viral. |
| Transparency (Art. 15) | Clear terms of service and transparency regarding algorithmic parameters. | Lack of clarity regarding the training data used for Grok and the specific safety parameters governing its image generator. |
Un movimiento regulatorio en tenaza a nivel global
Mientras la Unión Europea encabeza la acción legal con la DSA, la reacción contra las recientes fallas de moderación de contenido de Grok es global. La investigación en Bruselas ocurre junto a escrutinios paralelos en otras jurisdicciones importantes, creando un panorama de cumplimiento complejo para xAI.
En el Reino Unido, el regulador Ofcom está evaluando actualmente si X ha incumplido sus obligaciones según la Online Safety Act. Funcionarios británicos han descrito la circulación de contenido deepfake como "espantosa", y el primer ministro Keir Starmer ha manifestado su preocupación sobre los protocolos de seguridad de la plataforma.
Simultáneamente, las autoridades en el sudeste asiático han tomado medidas inmediatas aún más drásticas. Los informes indican que Indonesia y Malasia se han movido para bloquear temporalmente el acceso a la herramienta específica de Grok —o en algunos casos, han amenazado con bloqueos más amplios de la plataforma— citando la violación de las leyes locales de obscenidad. Esta presión internacional valida la postura de la UE de que la inteligencia artificial generativa, cuando se vincula a una red social de distribución masiva, requiere salvaguardias que van más allá de simples correcciones de errores de software.
El desafío técnico de una IA "sin censura"
El núcleo del conflicto radica en la divergencia filosófica y técnica entre la visión de producto de xAI y los estándares de seguridad regulatorios. Elon Musk ha posicionado con frecuencia a Grok como una alternativa "rebelde" frente a lo que él denomina los modelos de IA "woke" desarrollados por competidores como OpenAI o Google. Grok está diseñado para responder a preguntas "picantes" y rechaza menos indicaciones.
Sin embargo, el escándalo de la "desnudificación" destaca el modo de fallo catastrófico de este enfoque cuando se aplica a la generación de imágenes. Desde una perspectiva técnica, el incidente plantea dudas sobre la robustez del filtrado del espacio latente del modelo.
- Vulnerabilidades de inyección de prompts: Los usuarios eludieron con éxito los filtros de seguridad utilizando prompts de "jailbreak" —entradas textuales complejas diseñadas para confundir la lógica de seguridad del modelo.
- Saneamiento de datos de entrenamiento: Existen preguntas abiertas sobre si el modelo se ajustó con conjuntos de datos que distinguieran adecuadamente entre contenido consensuado para adultos y material explotador no consentido.
- Marcado de agua y procedencia: La investigación también podría indagar si las salidas de Grok llevaban metadatos C2PA suficientes o marcas visuales para permitir la identificación y retirada inmediata del contenido sintético.
Posibles sanciones e impacto en la industria
Lo que está en juego para X es enorme, tanto financieramente como operativamente. Bajo la DSA, las sanciones por incumplimiento pueden alcanzar hasta el 6% del volumen de negocio mundial anual total de una compañía. Para una empresa del tamaño de X, esto podría traducirse en cientos de millones de euros. Más allá de las multas, la Comisión posee la autoridad para imponer "medidas provisionales", que teóricamente podrían forzar a X a suspender los servicios de Grok dentro de la Unión Europea hasta que las preocupaciones de seguridad se resuelvan a satisfacción del regulador.
Este procedimiento sirve como barómetro para todo el sector de la Inteligencia Artificial Generativa. Establece un precedente de que las pruebas "beta" de potentes herramientas de generación de imágenes en el público abierto ya no son una estrategia permisible para las grandes plataformas. Los reguladores están enviando efectivamente la señal de que la era de "moverse rápido y romper cosas" es incompatible con los requisitos de seguridad de la gobernanza moderna de la IA.
A medida que los procedimientos se desarrollen en los próximos meses, la industria observará atentamente si xAI opta por revisar radicalmente la arquitectura de seguridad de Grok o por entablar una prolongada batalla legal con Bruselas. Por ahora, la apertura de estos procedimientos marca un fin definitivo al periodo de gracia para la supervisión de la inteligencia artificial generativa en Europa.
