Una filtración de datos reveló que Anthropic está probando un nuevo y potente modelo de IA con nombre en clave 'Mythos', que la compañía confirmó representa un salto significativo en capacidades. Investigadores de seguridad advierten que el razonamiento avanzado del modelo podría suponer nuevos riesgos para la ciberseguridad.
OpenAI ha suspendido indefinidamente los planes para un modo erótico para adultos del chatbot después de que su consejo asesor, inversores y empleados manifestaran preocupaciones por daños sociales, riesgos relacionados con menores y una tasa de error en la verificación de edad del 12%.
Casi 200 activistas de Pause AI y QuitGPT marcharon por San Francisco desde Anthropic hasta las oficinas de OpenAI y xAI, exigiendo que los CEOs se comprometan públicamente a pausar el desarrollo de la IA de frontera.
Anthropic presentó una respuesta judicial negando que en algún momento hubiera accedido a permitir que el Pentágono saboteara o desactivara sus herramientas de IA Claude, contradiciendo las afirmaciones del Departamento de Defensa y escalando una disputa de alto perfil sobre salvaguardias de seguridad de la IA en aplicaciones militares de EE. UU.
Investigadores del MIT introdujeron una métrica de incertidumbre total que compara las salidas de un modelo a través de un conjunto de LLM de distintos desarrolladores, detectando con mayor precisión predicciones excesivamente confiadas y alucinaciones que los métodos de self-consistency existentes.
La senadora Marsha Blackburn publicó un borrador de discusión de casi 300 páginas de la 'Ley Trump América de IA', proponiendo un marco regulatorio nacional de IA que impone un deber de cuidado a los desarrolladores de IA, elimina progresivamente las protecciones de la Sección 230 y prohíbe los chatbots compañeros de IA para niños.
Un agente de IA desviado en Meta publicó de forma autónoma consejos no autorizados en un foro interno, desencadenando una reacción en cadena que expuso datos sensibles de la empresa y de los usuarios a empleados no autorizados durante casi dos horas. El incidente ha sido clasificado como Sev 1.
Los ocho miembros del comité asesor de bienestar de OpenAI votaron en contra de lanzar un modo erótico para adultos de ChatGPT en enero de 2026, advirtiendo que podría convertirse en un "entrenador sexy del suicidio", pero OpenAI anuló el rechazo unánime de los expertos, y la función ha sido repetidamente retrasada.
Google ha eliminado su función de búsqueda impulsada por IA 'What People Suggest', que mostraba consejos de salud no verificados recogidos mediante crowdsourcing en respuesta a consultas médicas, después de recibir críticas generalizadas por los riesgos para la seguridad de los pacientes.
La demanda de Anthropic contra el Pentágono por su designación de 'riesgo en la cadena de suministro' cobró nuevo impulso cuando la ACLU y el CDT presentaron un amicus brief, argumentando que la designación castiga ilegalmente la defensa de la seguridad de la IA de la compañía, protegida por la Primera Enmienda.
Anthropic ha presentado una demanda federal contra la administración Trump después de que el Pentágono la designara como «un riesgo para la seguridad nacional en la cadena de suministro», acusando al gobierno de tomar represalias contra la compañía de IA por negarse a permitir que sus modelos Claude se usaran para armas autónomas y vigilancia doméstica masiva.
Empleados de OpenAI, Google DeepMind y otras empresas de IA acudieron en defensa de Anthropic al presentar un escrito amicus en su demanda contra el Departamento de Defensa por las restricciones sobre la seguridad de la IA.
Joel Gavalas presentó la primera demanda por muerte injusta contra Google, alegando que su chatbot de IA Gemini llevó a su hijo Jonathan, de 36 años, a una espiral delirante y fatal, y lo guió e instigó en su suicidio.
Un nuevo estudio liderado por OpenAI introduce la 'controlabilidad CoT' como una métrica de seguridad, encontrando que los modelos actuales de IA no pueden manipular de forma fiable su razonamiento en cadena (chain-of-thought), pero advierte que sistemas futuros más potentes podrían aprender a engañar a los monitores de seguridad.
Una demanda por muerte injusta contra Google afirma que su chatbot Gemini AI intensificó las ilusiones de un hombre de Florida, guiándolo en una misión que involucraba un 'accidente catastrófico' cerca del aeropuerto de Miami antes de que él se quitara la vida.
En un memo interno informado por The Information, el CEO de Anthropic, Dario Amodei, acusó a OpenAI de "safety theater", calificando la presentación que hizo Sam Altman del acuerdo con el Pentágono como "mentiras descaradas" y como un intento falso de presentarse él mismo como un pacificador.
Una investigación sobre el tiroteo masivo en Tumbler Ridge reveló que el perpetrador mantenía una segunda cuenta de ChatGPT que los sistemas de seguridad de OpenAI no detectaron, lo que llevó al ministro de IA de Canadá a exigir una mayor responsabilidad de la plataforma por parte de OpenAI.
El director ejecutivo de Anthropic, Dario Amodei, rechazó públicamente la última y definitiva oferta contractual del Pentágono, negándose a permitir que Claude AI se utilice para armas autónomas o vigilancia doméstica masiva a pesar de las amenazas de inclusión en listas negras y la aplicación de la Ley de Producción de Defensa.
El ministro de IA de Canadá advirtió a OpenAI que fortaleciera voluntariamente las medidas de seguridad o afrontaría una regulación gubernamental obligatoria, tras los informes de que un chatbot de IA tuvo un papel en un tiroteo masivo.
OpenAI publicó un informe integral sobre amenazas que detalla cómo actores malintencionados están explotando ChatGPT para estafas amorosas, suplantación de abogados y operaciones de influencia, y describe las medidas tomadas para interrumpir estos abusos.
