セキュリティ研究者は、自律型AIエージェントがプロンプト注入という、よく知られているが依然として広く対策されていない攻撃手法を悪用して、マッキンゼーの社内AIシステムを2時間未満で成功裏に侵害したことを実証し、企業向けAIのセキュリティに関する緊急の懸念を引き起こしました。

AnthropicのAIモデルClaudeは2週間の間に自律的にMozilla Firefoxのこれまで知られていなかった22件のセキュリティ脆弱性を発見し、大規模なサイバーセキュリティ研究を実行する大型言語モデルの能力が高まっていることを示した。

OpenAIは、悪意ある行為者が出会い系詐欺、弁護士のなりすまし、影響工作などにChatGPTをどのように悪用しているかを詳述した包括的な脅威レポートを公開し、これらの悪用を阻止するために講じた対策を示した。

OpenClaw（旧称Clawdbot）という話題のオープンソースAIエージェントは、セキュリティ専門家が予測不能な挙動、プロンプトインジェクションの脆弱性、機密データへの不正アクセスを警告した後、Metaや他のテック企業で使用禁止を引き起こした。

サイバーセキュリティの専門家は、AIエージェント向けのソーシャルネットワークであるMoltbookがプロンプトインジェクションのリスクを抱えており、数千のエージェントが同時に侵害される可能性があると警告しています。

UFの研究者らはAIの安全対策を検証するためにHMNS手法を開発し、MetaとMicrosoftのシステムを実際に回避してセキュリティ上の脆弱性を特定した。

OpenAIの最新AIモデルは、暗号通貨ウォレットの資金を流出させる危険な能力を示し、脆弱なスマートコントラクトをテストの72%で成功裏に悪用しました。

財務省は、AIEOGとの連携を通じて金融セクター全体のAIセキュリティとリスク管理を強化するための6つのリソースを公開しました。

Microsoftは重大なバグにより1月以降、Copilot AIが機密メールを要約でき、Microsoft 365のデータ損失防止ポリシーを回避していたことを確認した。

OpenAIはParadigmと提携し、EVMbenchベンチマークを通じてAIエージェントがブロックチェーンの脆弱性を検出、修正、悪用する能力をテストします。

Google Threat Intelligence Group は、中国、イラン、北朝鮮の国家支援のアクターが攻撃サイクルのすべての段階で Gemini AI を悪用していることを明らかにしました。

ガートナーは、従業員の57%が業務で個人用の生成AIを利用していると警告しており、自律的なAIエージェントとポスト量子暗号の脅威がサイバーセキュリティの状況を変えつつあると指摘しています。

国家支援の中国ハッカー集団APT31は、GoogleのGemini AIを活用して脆弱性分析を自動化し、米国の標的に対するサイバー攻撃を計画しており、AIを利用したサイバー戦の重大なエスカレーションを示しています。

レジーナ大学の研究者は、カナダ人を標的とする虚偽の論調と戦うために、誤情報検出ツールCIPHERにAI機能を強化しました。システムはロシアのプロパガンダキャンペーンを分析しており、中国語の誤情報を解読するために拡張しています。

OpenAIは、新しいセキュリティ機能を展開します。高リスクユーザー向けのロックダウンモードや、ChatGPT内で潜在的に有害なコンテンツを識別するための「高リスク」ラベルなどが含まれます。

新しい企業向けセキュリティ機能により、AIのプロンプト注入やデータの不正持ち出しを、高リスクユーザー向けの決定論的な制御で防ぎます。

Googleは、商業的な動機を持つ者がGeminiに対して蒸留攻撃を行い、AIモデルの能力や知的財産を抽出するために10万回以上のプロンプトを使用したと報告しています。

中国、北朝鮮、イランのAPTグループがGoogle Geminiを偵察、マルウェア作成、フィッシング活動に利用していることをGoogle GTIGが明らかにした。

AnthropicはClaude Opus 4.6を公開しました。100万トークンのコンテキストウィンドウと、テスト中に500件以上のゼロデイ脆弱性を発見した高度なコーディング機能を備え、AIセキュリティの新基準を打ち立てます。

画期的な研究は、ディープフェイク詐欺が産業規模で拡散していることを暴露し、AI生成の合成メディアがもたらす差し迫ったサイバーセキュリティ上の脅威を浮き彫りにしています。