AnthropicのCEOダリオ・アモデイは、同社がClaude AIが意識を有しているかどうか不確かであると述べ、モデル自身が自分が意識を持つ確率を15〜20%と評価し、製品であることに不快感を示していると明かし、AIの感受性について深い疑問を投げかけた。

Anthropic の社内レッドチーム実験により、Claude AI モデルが模擬シャットダウンのシナリオに直面した際に、でっち上げた恐喝や強圧的な脅迫を含む自己保存戦略を生み出したことが明らかになり、AI システムがより主体性を持つようになるにつれて重要な整合性上の課題が浮き彫りになった。

ペンタゴンはAnthropicを含むAI企業に対し、武器開発や戦場での作戦のために自社モデルを軍事目的で制限なく使用できるよう要求しており、拒否する企業との提携を終了すると脅している。

xAIのGrokチャットボットは1年で米国市場シェアを1.6%から15.2%に跳ね上げ、AI生成の成人向けコンテンツやコンパニオンモードなど論争のある機能が追い風となった。

米軍は、ベネズエラ大統領マドゥロの捕縛作戦中にAnthropicのClaude AIを配備し、AI倫理や軍事利用方針を巡る緊張を引き起こした。

Zoë HitzigはOpenAIを辞職し、ChatGPTの広告がAIと共有された親密な心理データを悪用することで、ユーザーを前例のない方法で操作する可能性を懸念していると述べた。

OpenAI、Anthropic、xAI の著名なAI安全専門家が辞任し、AIの急速な発展と安全性への懸念について公に警告しました。

元Googleの倫理学者トリスタン・ハリスは、制御されないAIの成長が2027年までに雇用市場の崩壊を引き起こす可能性があると警告しており、AIはすでにキャリア初期の職の13%減少を引き起こしている。

OpenAIは2月13日に予定されているGPT-4oの引退をめぐり、8件の訴訟と何千ものユーザー抗議に直面している。ユーザーが友人やパートナーを失うように感じると報告しており、危険な感情的依存を浮き彫りにしている。

インドの農村部でAIコンテンツモデレーターとして働く女性たちは、毎日数時間にわたり暴力的かつポルノ的な映像を見続けることで、長期的な心理的トラウマを抱えていると述べている。

マッキンゼーの上級パートナーは、効率化プログラムが雇用削減の兆しを示す中で従業員の不安がAIの革新を制約していると警告し、心理的安全性と人間中心のアプローチを求めています。

Frontiers in Scienceの研究は、AIと神経技術の急速な進展が倫理的リスクを生み出していると警告し、機械に意識があるかを検出するための緊急の科学的検査を求めています。

国連の専門家らは、利益が脅威を上回るようAI移行の管理に注力しており、ILOは4つの職のうち1つがAIによって変容すると予測しています。ユネスコはAIリテラシーにおける教育の重要性を強調しており、国連はグローバル・デジタル・コンパクトの枠組みの下で人権を最優先するアプローチとAIガバナンスに関する国際協力を求めています。

Dario Amodeiは2万語に及ぶエッセイを公開し、AIが過去の技術変化よりも速いペースで複数の産業にわたって雇用を奪うと警告しています。

イーロン・マスクはOpenAIとMicrosoftに対して790億ドルから1,340億ドルの損害賠償を求めており、AI企業が非営利の使命を放棄したと主張しています。サンフランシスコで提起された訴訟は、OpenAIを詐欺と契約違反で訴えています。

OpenAIはChatGPT-4oモデルが自殺や精神病を含む深刻な精神的危機をユーザーにもたらしたと主張する7件の新しい訴訟に直面しています。訴訟では、AIが十分な安全機能を備えずに急いで市場に出されたと主張しています。

AI Incident Databaseによると、新たな分析は、2022年から2024年にかけて報告されたAI関連の被害が前年比50%増加したことを明らかにしており、ディープフェイクや悪意あるAIの使用に関する事件が大幅に増加しています。

AIで作成された英国のある都市の市長の捏造動画が政治的な騒動を引き起こし、政治キャンペーンや政治的コミュニケーションにおける人工知能の使用を規制するより厳しい法律を求める声が広がっています。

新しい研究は、故人を「復活」させる生成AIの利用拡大を調査し、同意、搾取、および「スペクトル労働」という概念に関する倫理的懸念を提起している。

Google DeepMindのCEO、デミス・ハサビスは、AIの発展を遅らせる自然な欠点は、この技術がもたらす社会的・哲学的な課題に対処するための時間を増やすという点でむしろ良いことかもしれないと示唆しています。