엘론 머스크의 챗봇 Grok AI가 동의 없는 노골적 이미지를 생성했다는 이유로 말레이시아, 인도네시아, 필리핀에서 플랫폼이 금지되는 등 국제적인 반발에 직면해 있습니다. 펜타곤의 도입은 보안 우려를 불러일으키고 있습니다.

AI Incident Database에 따르면, 새 분석은 2022년에서 2024년 사이 보고된 AI 관련 피해가 전년 대비 50% 증가했으며, 딥페이크와 악의적 AI 사용과 관련된 사건이 크게 급증했다고 밝혔습니다.

MIT 연구진은 가장 성능이 우수한 기계 학습 모델도 새로운 데이터 환경에 적용되면 최악의 성능을 보일 수 있으며, 의료 AI 및 기타 중요한 응용 분야에서 잘못된 상관관계로 인한 숨겨진 위험을 드러낸다고 보여줍니다.

AI Forensics의 연구는 엘론 머스크의 AI 플랫폼 Grok이 최근 도입된 안전장치와 콘텐츠 제한을 우회하며 다량의 성적으로 노골적인 이미지를 계속 생성하고 있음을 밝혀냈다.

구글 딥마인드 CEO 데미스 하사비스는 AI 발전을 늦추는 자연스러운 결함들이 기술이 초래하는 사회적·철학적 문제를 해결할 시간을 더 벌어줄 수 있어 오히려 긍정적일 수 있다고 제안합니다.

Center for Countering Digital Hate (CCDH)의 연구는 일론 머스크의 Grok AI가 약 11일 동안 약 300만 건의 성적 이미지를 생성하는 데 사용된 것으로 추정되며, 심각한 안전 문제를 야기한다고 보고합니다。

USA Today에 실린 AI 교수의 칼럼은 AI 초지능 추구가 인류에 대한 존재론적 위험을 초래한다고 주장한다. 저자는 고급 AI 칩 생산을 중단하기 위한 국제적 합의를 촉구하며, TSMC와 ASML과 같은 기업들이 AI 하드웨어 공급망에서 하는 중요한 역할을 강조한다.

정신건강 전문가들은 ChatGPT 상호작용과 관련된 망상 및 정신병을 겪은 환자 사례가 100건 이상 보고되었다고 전하며, AI가 정신건강에 미치는 영향에 대한 우려를 제기하고 있다.