Autoridades francesas registran las oficinas de X mientras se intensifica la investigación sobre Grok AI

París, Francia — En una escalada significativa de la aplicación regulatoria europea, los fiscales franceses registraron el martes las oficinas de X (anteriormente Twitter) en París. La operación, liderada por la unidad de ciberdelincuencia de la fiscalía de París, marca un momento clave en el escrutinio en curso sobre el cumplimiento de la plataforma con las leyes locales y las normas de la Unión Europea. Las autoridades han emitido simultáneamente citaciones para el propietario Elon Musk y la exdirector ejecutiva Linda Yaccarino para ser interrogados, centrando la investigación en serias preocupaciones respecto a Grok AI y su presunto papel en la generación de contenido ilegal.

Esta redada subraya el afianzamiento de la regulación de redes sociales en todo el continente, señalando que la era de supervisión indulgente para la IA generativa (Generative AI) ha terminado efectivamente. Para la industria de la IA, este suceso sirve como una advertencia contundente sobre la responsabilidad a la que se enfrentan las plataformas cuando despliegan potentes herramientas de generación de imágenes sin salvaguardas adecuadas.

Grok AI en el centro de la investigación sobre deepfakes

El núcleo de la investigación reside en las capacidades y las salvaguardas —o la falta de ellas— del modelo de inteligencia artificial propietario de X, Grok AI. Los fiscales están investigando cargos de "complicidad" en la posesión y distribución de Material de Abuso Sexual Infantil (CSAM) y deepfakes sexualmente explícitos no consensuados deepfakes.

Según la fiscalía de París, la pesquisa, que inicialmente comenzó en enero de 2025 como una revisión del sesgo algorítmico, se amplió significativamente tras surgir informes de que Grok se estaba utilizando para "producir en masa" imágenes desnudas de mujeres y menores. A diferencia de otros modelos de IA generativa que han implementado estrictas salvaguardas para evitar generar semejanzas de personas reales o contenido explícito, los investigadores alegan que el modo "sin restricciones" de Grok permitía a los usuarios eludir los filtros de seguridad con relativa facilidad.

La acusación legal: complicidad y negligencia

Los cargos específicos que se están investigando son graves. La ley francesa responsabiliza a las plataformas si se considera que son "deliberadamente ciegas" ante las actividades ilegales facilitadas por sus herramientas. La investigación indaga si la dirección de X permitió conscientemente que Grok AI funcionara sin las capas necesarias de moderación de contenido exigidas por el Código Penal francés y la Ley de Servicios Digitales (Digital Services Act, DSA) de la UE.

La inclusión de la "negación de crímenes contra la humanidad" en el expediente sugiere que la pesquisa también abarca las salidas de generación de texto de la IA, específicamente casos en que el modelo pudo haber generado contenido negacionista del Holocausto. Este ataque legal multifacético pone de manifiesto la naturaleza exhaustiva de la responsabilidad a la que ahora se enfrenta X.

Citaciones a la dirección: Musk y Yaccarino

En una medida rara para una investigación preliminar, los fiscales han citado a Elon Musk y a la exdirectora ejecutiva Linda Yaccarino para "entrevistas voluntarias". Las audiencias están programadas para el 20 de abril de 2026. Yaccarino, quien se desempeñó como CEO desde mayo de 2023 hasta julio de 2025, ha sido convocada para declarar sobre las decisiones operativas tomadas durante el lanzamiento de las funciones de generación de imágenes de Grok.

Si bien las citaciones son actualmente para entrevistas voluntarias, la negativa a cooperar podría conducir a órdenes legales vinculantes. Este desarrollo sitúa a la cúpula ejecutiva de X directamente en el punto de mira de la responsabilidad penal, yendo más allá de las multas corporativas hacia la posible responsabilidad personal. La fiscalía de París ha declarado que el objetivo es garantizar que la plataforma "cumpla con la ley francesa mientras opera en el territorio nacional", descartando las afirmaciones de los partidarios de X de que la investigación tiene motivaciones políticas.

Contexto regulatorio: la DSA y más allá

Esta redada no ocurre en el vacío. Es la culminación de meses de fricciones entre X y los reguladores europeos. En diciembre de 2025, la Comisión Europea multó a X con 120 millones de € por prácticas de diseño engañosas y fallos de transparencia. La actual investigación penal en Francia se desarrolla en paralelo a estas acciones administrativas a nivel de la UE, pero con la amenaza de pena de prisión y un daño reputacional significativamente mayor.

La postura de la Unión Europea sobre regulación de redes sociales se ha endurecido, con la narrativa del "oeste salvaje digital" citada por líderes como el presidente del Gobierno español Pedro Sánchez impulsando un consenso por una aplicación estricta. La participación de Europol en la redada del martes indica que se trata de un esfuerzo coordinado para sentar un precedente sobre cómo la Ley de Servicios Digitales (Digital Services Act, DSA) y las leyes penales nacionales se aplican al contenido generado por IA.

Cronología de la escalada regulatoria

La relación entre X y las autoridades europeas se ha deteriorado rápidamente durante el último año. La siguiente tabla describe los eventos clave que condujeron a la crisis actual.

Implicaciones para el desarrollo de la IA generativa

La redada en las oficinas de X es un hito para el sector de la IA generativa. Desafía la filosofía del "modelo abierto" que prioriza la capacidad bruta del modelo por encima de las restricciones de seguridad. Si los fiscales franceses logran sostener que liberar una herramienta de IA con salvaguardas fácilmente eludibles constituye complicidad en los delitos cometidos con esa herramienta, ello forzará un rediseño fundamental de cómo se lanzan los productos de IA a nivel mundial.

Para desarrolladores y plataformas, el mensaje es claro: las herramientas de generación de imágenes y de síntesis de texto ya no se consideran meramente software, sino potenciales armas en manos de actores malintencionados. La responsabilidad por el uso indebido está pasando del usuario al proveedor. A medida que X navega este campo minado legal, el resultado de esta investigación probablemente definirá el manual de cumplimiento para las empresas de IA que operen en Europa durante la próxima década.

Creati.ai continuará monitoreando esta historia en desarrollo y sus profundas implicaciones para el futuro de la inteligencia artificial.