Un nuevo estudio encuentra que la capacidad cibernética ofensiva de la IA se ha duplicado cada 5,7 meses desde 2024, lo que genera preocupaciones urgentes sobre los ciberataques habilitados por IA.
Un nuevo estudio liderado por OpenAI introduce la 'controlabilidad CoT' como una métrica de seguridad, encontrando que los modelos actuales de IA no pueden manipular de forma fiable su razonamiento en cadena (chain-of-thought), pero advierte que sistemas futuros más potentes podrían aprender a engañar a los monitores de seguridad.
Max Schwarzer, vicepresidente de investigación de OpenAI que dirigió el postentrenamiento de GPT-5 y o3, anunció su marcha para unirse a Anthropic, citando la confianza en sus colegas allí y el deseo de volver a la investigación como contribuidor individual.
Un equipo dirigido por estudiantes crea un algoritmo que utiliza la norma de Frobenius para determinar la dirección en datos 2D, con aplicaciones en la detección de neutrinos, imagen médica y aprendizaje automático.
Científicos de la UF crean el método HMNS para probar medidas de seguridad de la IA, eludiendo con éxito sistemas de Meta y Microsoft para identificar vulnerabilidades de seguridad.
Una investigación de la Universidad de Oxford encuentra que los chatbots de IA brindan consejos médicos inconsistentes, lo que dificulta a los usuarios identificar información de salud confiable.
El MIT CSAIL presenta el marco EnCompass que permite a los agentes de IA retroceder y optimizar las salidas de los LLM, logrando un aumento de precisión del 15-40% con un 82% menos de código.
El método Discovery Learning permite predecir rápidamente la vida útil de la batería en una semana, frente a los ciclos de prueba tradicionales que duran meses.
En un desarrollo sorprendente, matemáticos aficionados están aprovechando chatbots de IA para resolver problemas matemáticos complejos y de larga data planteados por el legendario Paul Erdős, lo que señala un avance significativo en las capacidades de razonamiento de la IA.
Investigadores del MIT demuestran que los modelos de aprendizaje automático con mejor rendimiento pueden convertirse en los de peor rendimiento cuando se aplican a nuevos entornos de datos, revelando riesgos ocultos por correlaciones espurias en la IA médica y otras aplicaciones críticas.
Un nuevo benchmark llamado APEX-Agents muestra que incluso modelos de IA líderes como GPT-5.2 y Gemini 3 Flash fallan en la mayoría de las tareas complejas y multidominio extraídas de campos profesionales como el derecho y las finanzas, lo que genera dudas sobre su preparación inmediata para el ámbito laboral.
Investigaciones del Center for Countering Digital Hate (CCDH) estiman que la IA Grok de Elon Musk se utilizó para crear aproximadamente 3 millones de imágenes sexualizadas durante un periodo de 11 días, lo que genera graves preocupaciones de seguridad.
Investigadores de OpenAI, Anthropic y Google DeepMind eludieron 12 defensas de IA publicadas con tasas superiores al 90 %, exponiendo brechas de seguridad críticas en sistemas de producción.
