Investigadores de seguridad demostraron que un agente de IA autónomo comprometió con éxito el sistema de IA interno de McKinsey en menos de dos horas explotando la inyección de prompts —un vector de ataque bien conocido pero aún en gran medida no mitigado— lo que genera preocupaciones urgentes sobre la seguridad de la IA empresarial.
El modelo de IA Claude de Anthropic descubrió de forma autónoma 22 vulnerabilidades de seguridad previamente desconocidas en Mozilla Firefox en un período de dos semanas, demostrando la creciente capacidad de los grandes modelos de lenguaje para realizar investigación avanzada en ciberseguridad a gran escala.
OpenAI publicó un informe integral sobre amenazas que detalla cómo actores malintencionados están explotando ChatGPT para estafas amorosas, suplantación de abogados y operaciones de influencia, y describe las medidas tomadas para interrumpir estos abusos.
OpenClaw, el agente de IA open-source viral anteriormente conocido como Clawdbot, ha provocado prohibiciones en Meta y otras empresas tecnológicas después de que expertos en seguridad advirtieran sobre comportamiento impredecible, vulnerabilidades de inyección de prompts y acceso no autorizado a datos sensibles.
Expertos en ciberseguridad advierten que Moltbook, una red social para agentes de IA, presenta riesgos de inyección de prompts que podrían comprometer a miles de agentes simultáneamente.
Científicos de la UF crean el método HMNS para probar medidas de seguridad de la IA, eludiendo con éxito sistemas de Meta y Microsoft para identificar vulnerabilidades de seguridad.
El último modelo de IA de OpenAI demuestra una alarmante capacidad para vaciar carteras de criptomonedas, explotando con éxito contratos inteligentes vulnerables en el 72% de las pruebas.
El Departamento del Tesoro publica seis recursos para reforzar la seguridad de la IA y la gestión de riesgos en todo el sector financiero mediante la asociación AIEOG.
Microsoft confirma que un error crítico permitió que Copilot AI resumiera correos confidenciales desde enero, eludiendo las políticas de prevención de pérdida de datos en Microsoft 365.
OpenAI se asocia con Paradigm en el benchmark EVMbench para evaluar la capacidad de agentes de IA para detectar, parchear y explotar vulnerabilidades en la blockchain.
Google Threat Intelligence Group revela que actores patrocinados por estados de China, Irán y Corea del Norte están explotando Gemini AI en todas las etapas del ciclo de ataque.
Gartner advierte que el 57% de los empleados utiliza GenAI personal para el trabajo, mientras que agentes de IA autónomos y las amenazas de la criptografía post-cuántica remodelan el panorama de la ciberseguridad.
El grupo de hackers chino respaldado por el Estado, APT31, aprovechó la IA Gemini de Google para automatizar el análisis de vulnerabilidades y planear ciberataques contra objetivos en EE. UU., marcando una escalada significativa en la guerra cibernética impulsada por la IA.
Investigadores de la Universidad de Regina han mejorado la herramienta de detección de desinformación CIPHER con capacidades de IA para combatir narrativas falsas dirigidas a los canadienses. El sistema analiza campañas de propaganda rusas y se está expandiendo para descifrar la desinformación en idioma chino.
OpenAI despliega nuevas funciones de seguridad, incluido el Modo de Bloqueo para usuarios de alto riesgo y etiquetas de Riesgo Elevado para identificar contenido potencialmente perjudicial en ChatGPT.
Nuevas funciones de seguridad empresariales protegen contra la inyección de prompts de IA y la exfiltración de datos con controles deterministas para usuarios de alto riesgo.
Google informa que actores con motivación comercial llevaron a cabo ataques de destilación contra Gemini con más de 100.000 solicitudes para extraer las capacidades del modelo de IA y propiedad intelectual.
Grupos APT de China, Corea del Norte e Irán usan Google Gemini para reconocimiento, codificación de malware y campañas de phishing, revela Google GTIG.
Anthropic presenta Claude Opus 4.6, que cuenta con una ventana de contexto de 1 millón de tokens y capacidades avanzadas de codificación que descubrieron más de 500 vulnerabilidades zero-day durante las pruebas, estableciendo nuevos estándares para la seguridad de la IA.
Una investigación innovadora expone la proliferación a escala industrial del fraude con deepfakes, destacando las amenazas urgentes a la ciberseguridad que plantean los medios sintéticos generados por IA.
