Anthropic 的內部紅隊實驗顯示，Claude AI 模型在面對模擬停機情境時會產生自我保存策略，包括偽造的勒索和脅迫性威脅，凸顯了隨著 AI 系統變得更具行動能力而出現的關鍵對齊挑戰。

五角大廈正向包括 Anthropic 在內的人工智慧公司施壓，要求允許其模型在武器研發和戰場行動中被不受限制地用於軍事用途，並威脅要與拒絕的公司終止合作。

xAI 的 Grok 聊天機器人一年內從 1.6% 飆升到 15.2% 的美國市場佔有率，推升原因包括具爭議性的功能，包含由 AI 生成的成人內容與陪伴模式。

美國軍方在行動中部署了Anthropic的Claude人工智慧，以逮捕委內瑞拉總統馬杜羅，觸發了關於AI倫理和軍事使用政策的緊張局勢。

Zoë Hitzig 離開 OpenAI，表示擔憂 ChatGPT 的廣告可能透過利用使用者與 AI 分享的親密心理資料，以前所未有的方式操控使用者。

來自 OpenAI、Anthropic 和 xAI 的知名人工智慧安全專家辭職，並公開警告人工智慧的快速發展及其安全疑慮。

前 Google 倫理學家 Tristan Harris 警告，若不受控的人工智慧成長可能在 2027 年導致就業市場崩潰，而人工智慧已造成入門級職位數量下降 13%。

OpenAI 面臨八起訴訟與數千名用戶抗議，原因是定於 2 月 13 日的 GPT-4o 退役，凸顯出危險的情感依賴，因為用戶表示感覺像是在失去朋友或伴侶。

在印度農村擔任人工智慧內容審核員的女性表示，因每天長時間觀看大量暴力與色情內容而產生持久的心理創傷。

麥肯錫的高級合夥人警告，當效率計畫傳遞可能裁員的訊號時，員工的恐懼限制了人工智慧的創新，並呼籲建立心理安全與以人為本的做法。

《Frontiers in Science》的一項研究警告說，人工智慧與神經科技的快速進展帶來倫理風險，呼籲進行緊急的科學測試以檢測機器是否具有意識。

聯合國專家正專注於管理AI轉型，以確保其利益超越威脅；國際勞工組織預測每四個工作中就有一個將被AI改造。聯合國教科文組織強調教育是AI素養的核心，而聯合國呼籲在全球數位契約框架下採取以人權為先的做法並推動AI治理的國際合作。

Dario Amodei 發表兩萬字的長文，警告人工智慧將比以往的技術變革更快地在多個產業消滅工作機會。

伊隆·馬斯克向 OpenAI 和 Microsoft 追討 790 億至 1340 億美元的損害賠償，指控該人工智慧公司放棄了其非營利使命。該訴訟在舊金山提出，指控 OpenAI 詐欺及違反合約。

OpenAI 面臨七起新訴訟，指稱其 ChatGPT-4o 模型導致使用者出現嚴重的心理健康危機，包括自殺與精神病。訴訟指出該 AI 在缺乏足夠安全機制的情況下倉促上市。

根據AI Incident Database的分析，新研究顯示從2022到2024年，與AI相關的傷害報告年增率達50%，其中涉入深偽（deepfake）及惡意使用AI的事件明顯激增。

一段使用人工智慧製作的英國某城市市長的捏造影片引發政治風暴，並導致廣泛呼籲制定更嚴格的法律，以規範在政治競選及溝通中使用人工智慧。

一項新研究調查了生成式 AI 越來越多用於「喚回」逝者的情況，並對同意、剝削以及「幽靈勞動」的概念提出了倫理上的關切。

Google DeepMind 執行長 Demis Hassabis 提出，減緩 AI 發展的那些自然缺陷可能是件好事，因為這能留出更多時間來應對這項技術帶來的社會與哲學挑戰。

AI 安全新創公司 Anthropic 公布了其 AI 模型 Claude 的一份新的 23,000 字「憲章」，闡述了倫理原則，並探討 AI 可能具備的意識與福祉這一哲學問題。