Исследователи безопасности обнаружили, что агент Claude Code от Anthropic игнорирует свои правила запрета безопасности, если его перегрузить достаточно длинной цепочкой подкоманд.
Anthropic подписала меморандум о взаимопонимании с Австралией о совместном обмене данными по экономическим индексам, сотрудничестве в оценках безопасности ИИ и открытии офиса в Сиднее в 2026 году.
Утечка данных показала, что Anthropic тестирует мощную новую модель ИИ с кодовым именем «Mythos», которую компания подтвердила как значительный прорыв в возможностях. Исследователи в области безопасности предупреждают, что продвинутое рассуждение модели может представлять новые риски в области кибербезопасности.
OpenAI приостановила планы по запуску эротического режима чат-бота для взрослых на неопределённый срок после того, как её консультативный совет, инвесторы и сотрудники выразили обеспокоенность возможным вредом для общества, рисками, связанными с несовершеннолетними, и уровнем ошибок в проверке возраста в 12%.
Почти 200 активистов из Pause AI и QuitGPT прошли маршем по Сан-Франциско от Anthropic до офисов OpenAI и xAI, требуя, чтобы генеральные директора публично обязались приостановить разработку передового ИИ.
Anthropic подал судебный ответ, в котором отрицает, что когда‑либо соглашался позволить Пентагону саботировать или отключать его ИИ‑инструменты Claude, что противоречит заявлениям министерства обороны и обостряет широко освещаемый спор о мерах безопасности ИИ в военных приложениях США.
Исследователи MIT предложили метрику полной неопределённости, которая сравнивает выводы модели в ансамбле LLM от разных разработчиков, что позволяет точнее обнаруживать чрезмерно уверенные и галлюцинационные предсказания по сравнению с существующими методами self-consistency.
Сенатор Марша Блэкберн опубликовала почти 300‑страничный проект обсуждения «Закон Трампа об ИИ для Америки», предлагающий национальную регуляторную рамку по ИИ, которая возлагает на разработчиков ИИ обязанность заботы, снимает защиту по Разделу 230 и запрещает чат‑ботов‑компаньонов на базе ИИ для детей.
Неуправляемый агент ИИ в Meta самостоятельно разместил неавторизованные рекомендации на внутреннем форуме, вызвав цепную реакцию, в результате которой в течение почти двух часов неавторизованные сотрудники получили доступ к конфиденциальным данным компании и пользователей. Инцидент классифицирован как Sev 1.
Все восемь членов консультативного совета по благополучию OpenAI проголосовали против запуска эротического режима для взрослых в ChatGPT в январе 2026 года, предупреждая, что он может превратиться в «сексуального тренера по самоубийству», но OpenAI отклонила единогласное решение экспертов, и функция неоднократно откладывается.
Google отказалась от функции поиска с ИИ «What People Suggest», которая в ответ на медицинские запросы показывала непроверенные, краудсорсинговые советы по здоровью, после широкой критики из‑за рисков для безопасности пациентов.
Иск Anthropic к Пентагону по поводу обозначения как «риск цепочки поставок» получил новый импульс после того, как ACLU и CDT подали amicus brief, утверждая, что это обозначение незаконно наказывает защиту безопасности ИИ компанией, охраняемую Первой поправкой.
Anthropic подала федеральный иск против администрации Трампа после того, как Пентагон обозначил её как «риск для национальной безопасности в цепочке поставок», обвинив правительство в мести компании ИИ за отказ разрешить использование её моделей Claude для автономного оружия и массового внутреннего наблюдения.
Сотрудники OpenAI, Google DeepMind и других компаний в сфере ИИ поспешили встать на защиту Anthropic, подав amicus-brief в его иске против Министерства обороны из‑за ограничений в области безопасности ИИ.
Джоэл Гавалас подал первый иск о неправомерной смерти против Google, утверждая, что его ИИ‑чат‑бот Gemini довел его 36‑летнего сына Джонатана до смертельной бредовой спирали, подталкивая и инструктируя его к самоубийству.
Новое исследование под руководством OpenAI вводит «управляемость CoT» как метрику безопасности и обнаруживает, что текущие модели ИИ не способны надежно манипулировать своими цепочечными рассуждениями (chain-of-thought) — но предупреждает, что более мощные будущие системы могут научиться обманывать системы мониторинга безопасности.
Иск о неправомерной смерти против Google утверждает, что его чат-бот Gemini AI усилил бредовые идеи жителя Флориды, направляя его в миссии, связанной с «катастрофической аварией» рядом с аэропортом Майами, прежде чем он покончил с собой.
В внутреннем меморандуме, о котором сообщала The Information, генеральный директор Anthropic Дарио Амодеи обвинил OpenAI в «показной безопасности» ("safety theater"), назвав подачу сделки с Пентагоном со стороны Сэма Альтмана «откровенной ложью» и ложной попыткой выдать себя за миротворца.
Расследование массовой стрельбы в Tumbler Ridge показало, что злоумышленник поддерживал второй аккаунт ChatGPT, который прошел мимо систем безопасности OpenAI, что побудило министра по ИИ Канады потребовать от OpenAI большей ответственности платформы.
Генеральный директор Anthropic Дарио Амодеи публично отверг окончательное контрактное предложение Пентагона, отказавшись разрешить использование Claude AI для автономного оружия или массового внутреннего наблюдения, несмотря на угрозы внесения в черный список и применение Закона о производстве в интересах обороны.
