Investigadores de seguridad demostraron que un agente de IA autónomo comprometió con éxito el sistema de IA interno de McKinsey en menos de dos horas explotando la inyección de prompts —un vector de ataque bien conocido pero aún en gran medida no mitigado— lo que genera preocupaciones urgentes sobre la seguridad de la IA empresarial.
OpenAI ha anunciado la adquisición de Promptfoo, una startup de seguridad de IA y "red-teaming" de código abierto, para reforzar la seguridad y la fiabilidad de sus agentes de IA frente a ataques adversariales y vulnerabilidades de inyección de prompts.
Anthropic acusó públicamente a laboratorios de IA chinos de extraer sistemáticamente conocimiento de sus modelos Claude mediante ataques de destilación, y publicó nueva investigación sobre detección y prevención mientras EE. UU. debate controles de exportación de chips para IA.
Microsoft Copilot eludió las políticas DLP y las etiquetas de sensibilidad dos veces en ocho meses — incluyendo una exposición de cuatro semanas que afectó al NHS del Reino Unido — revelando un punto ciego sistémico en las pilas de seguridad de IA empresariales.
Anthropic ha lanzado Claude Code Security, una nueva herramienta de seguridad de aplicaciones impulsada por IA que escanea bases de código en busca de vulnerabilidades complejas utilizando un razonamiento similar al humano, lo que provocó que las acciones de empresas de ciberseguridad se desplomaran tras la noticia.
Expertos en ciberseguridad advierten que Moltbook, una red social para agentes de IA, presenta riesgos de inyección de prompts que podrían comprometer a miles de agentes simultáneamente.
Científicos de la UF crean el método HMNS para probar medidas de seguridad de la IA, eludiendo con éxito sistemas de Meta y Microsoft para identificar vulnerabilidades de seguridad.
El último modelo de IA de OpenAI demuestra una alarmante capacidad para vaciar carteras de criptomonedas, explotando con éxito contratos inteligentes vulnerables en el 72% de las pruebas.
El Departamento del Tesoro publica seis recursos para reforzar la seguridad de la IA y la gestión de riesgos en todo el sector financiero mediante la asociación AIEOG.
Microsoft confirma que un error crítico permitió que Copilot AI resumiera correos confidenciales desde enero, eludiendo las políticas de prevención de pérdida de datos en Microsoft 365.
Gartner advierte que el 57% de los empleados utiliza GenAI personal para el trabajo, mientras que agentes de IA autónomos y las amenazas de la criptografía post-cuántica remodelan el panorama de la ciberseguridad.
El grupo de hackers chino respaldado por el Estado, APT31, aprovechó la IA Gemini de Google para automatizar el análisis de vulnerabilidades y planear ciberataques contra objetivos en EE. UU., marcando una escalada significativa en la guerra cibernética impulsada por la IA.
Investigadores de la Universidad de Regina han mejorado la herramienta de detección de desinformación CIPHER con capacidades de IA para combatir narrativas falsas dirigidas a los canadienses. El sistema analiza campañas de propaganda rusas y se está expandiendo para descifrar la desinformación en idioma chino.
Google informa que actores con motivación comercial llevaron a cabo ataques de destilación contra Gemini con más de 100.000 solicitudes para extraer las capacidades del modelo de IA y propiedad intelectual.
Grupos APT de China, Corea del Norte e Irán usan Google Gemini para reconocimiento, codificación de malware y campañas de phishing, revela Google GTIG.
Una investigación innovadora expone la proliferación a escala industrial del fraude con deepfakes, destacando las amenazas urgentes a la ciberseguridad que plantean los medios sintéticos generados por IA.
Un backend de Firebase mal configurado expone 300 millones de mensajes de chat de IA de 25 millones de usuarios, incluyendo historiales completos de conversaciones y configuraciones.
Investigadores de Microsoft presentan un método para detectar modelos de IA envenenados que logra un 88% de precisión con cero falsos positivos en 47 modelos de agentes dormidos.
Investigadores en ciberseguridad advierten que los agentes de IA están expandiendo rápidamente la superficie de ataque, con el 95% de las implementaciones del Model Context Protocol (MCP) ejecutándose en endpoints de empleados sin visibilidad de seguridad. GreyNoise registró más de 91.000 sesiones de ataque en infraestructuras LLM en tres meses, mientras que estados-nación como Irán y China están aprovechando la IA para capacidades de guerra cibernética.
Las agencias federales adoptan navegadores GenAI y purple teaming autónomo para enfrentar las amenazas emergentes de seguridad de la IA y la evolución de las regulaciones.
