參議員斯洛特金提出法案,禁止國防部使用自主運作的AI武器與大規模監控
參議員伊莉莎·斯洛特金提出立法,將以下內容寫入法律:AI不得自主決定殺害目標、不得用於對美國人的大規模監控、亦不得發射核武器——此舉是直接回應五角大廈與Anthropic之間的衝突。
參議員伊莉莎·斯洛特金提出立法,將以下內容寫入法律:AI不得自主決定殺害目標、不得用於對美國人的大規模監控、亦不得發射核武器——此舉是直接回應五角大廈與Anthropic之間的衝突。
美國國防部在將該公司列為供應鏈風險後,已開始進行工程工作以在其系統中替換Anthropic的Claude AI;同時Anthropic在聯邦法院起訴五角大樓,挑戰這一前所未有的黑名單。
Anthropic 就五角大廈對其作出的「供應鏈風險」認定提起的訴訟,在 ACLU 與 CDT 提交法庭之友意見書,主張該認定非法懲罰公司受第一修正案保護的 AI 安全倡議後,獲得新一波動能。
在五角大廈將其指定為「對國家安全的供應鏈風險」後,Anthropic 向聯邦法院提起訴訟,指控政府因該公司拒絕允許其 Claude 模型用於自主武器和大規模國內監控而對其進行報復。
在五角大廈負責 AI 的主管稱該公司立場為「bananas」之後,Anthropic 與美國國防部之間的法律與公開爭議加劇。衝突核心在於供應鏈風險的指定,Anthropic 主張此舉威脅到其獨立運作的能力。
微軟在聯邦法院提交了一份法庭之友意見書,支持Anthropic對五角大廈的訴訟,敦促法官發布臨時禁制令以阻止國防部(DOD)將其列為供應鏈風險,並警告該禁令可能會透過干擾已在使用的人工智慧系統而『妨礙美國作戰人員』。
來自 OpenAI、Google DeepMind 及其他 AI 公司的員工紛紛為 Anthropic 辯護,向其針對國防部關於 AI 安全限制的訴訟提交了法庭之友意見書。
OpenAI 機器人團隊負責人 Caitlin Kalinowski 已辭職,表示擔憂 OpenAI 與美國國防部的協議在防範國內監控和致命自主武器方面缺乏足夠的保障措施,並稱此為治理失敗。
Anthropic 執行長 Dario Amodei 誓言在法庭上挑戰五角大廈前所未有的決定,將這家 AI 公司標示為國家安全供應鏈風險,這是美國公司首次收到此類指認。
據報導,Anthropic 執行長 Dario Amodei 已經回到與五角大廈官員 Emil Michael 的談判桌,尋求一份折衷的 AI 合約,即便國防部(DoD)已將該公司列入黑名單,並與 OpenAI 簽訂了競爭性交易。
美國戰爭部終止了與 Anthropic 的兩億美元合約,因為該 AI 公司拒絕解除對自主武器與大規模監控的安全限制,並將其指定為對國家安全前所未有的供應鏈風險。
OpenAI執行長山姆·奧特曼表示,面對強烈的公眾反彈,公司正在修訂與國防部的合約,加入針對將AI用於大規模國內監控與完全自主武器的明確限制。
OpenAI 在部落格發表了一篇文章,概述與國防部的協議,雖然堅守反對大規模國內監控和自主武器的紅線,但執行長 Sam Altman 承認這項交易進行得倉促並引發大量反彈 — 包括 Anthropic 的 Claude 在 App Store 超越了 ChatGPT。
國防部長皮特·赫格塞斯(Pete Hegseth)正式將Anthropic指定為「對國家安全的供應鏈風險」,並禁止五角大樓承包商使用Claude,因為該人工智慧公司拒絕允許其技術被無限制軍事使用於自主致命武器和大規模監控。
在與五角大樓的高調爭議之後,Anthropic 的 AI 聊天機器人 Claude 熱度飆升,攀升至 Apple 美國 App Store 的第二名。
針對五角大廈的禁令,Anthropic 執行長 Dario Amodei 表示:「我們是愛國的美國人」,並重申公司在捍衛美國的同時,將堅守在人工智慧安全議題上的「紅線」。
OpenAI已獲得與五角大廈就其AI模型簽約的合約,正值川普政府將競爭對手Anthropic指定為「供應鏈風險」,禁止其承接政府合約。
總統川普已指示所有聯邦機構逐步淘汰Anthropic的Claude AI,並在該公司拒絕國防部要求移除供軍方使用的安全防護措施後,將其標記為國家安全威脅。
Anthropic 執行長 Dario Amodei 公開地拒絕了五角大廈的最後一份合約提議,儘管面臨被列入黑名單和《國防生產法》強制執行的威脅,他仍拒絕允許 Claude AI 被用於自主武器或大規模國內監控。
國防部長皮特·赫格塞斯(Pete Hegseth)威脅說,如果Anthropic不在週五前向美軍提供對其Claude人工智慧模型的無限制存取,他將援引Defense Production Act並將Anthropic標示為供應鏈風險。