Cory Doctorow Predicts AI Bubble Burst, But Sees Hope in Open Source Survival

저명한 공상과학 작가이자 활동가, 기자인 Cory Doctorow는 현 인공지능 산업이 극적인 붕괴로 귀결될 금융 버블이라고 단언하며 경고를 발했다. 그러나 실패한 스타트업과 문을 닫는 데이터 센터의 잔해 속에서도, Doctorow는 창작자와 개발자에게 실질적이고 유용한 도구를 제공하는 오픈 소스 AI 모델（open-source AI models）의 회복력을 전망한다.

이번 주 발표한 종합 분석에서 Doctorow는 현세대의 생성형 AI（Generative AI）에 대한 광분이 기술적 유용성보다는 '성장주（growth stocks）'와 독점적 기술 대기업의 재정적 요구에 의해 주도된다고 주장한다. 산업의 대규모 자본 투자가 단기적으로는 암울해 보이지만, 장기적으로는 사용자에게 봉사하는 분산형, 로컬로 운영되는 AI 도구로의 전환이 일어날 것이라는 전망을 제시한다.

The Mechanics of the "AI Bubble"

Doctorow의 비판은 실리콘밸리를 지탱하는 금융 구조에서 시작된다. 그는 현재의 AI 붐이 '성장주(paradox of growth stocks)' 역설의 직접적인 결과라고 가정한다. 검색, 광고, 모바일 등 분야에서 이미 지배적 시장 점유율을 차지한 대형 기술 독점 기업들은 성장이 정체되는 위기에 직면해 있다. 투자자들이 요구하는 높은 주가수익비율(PE, price-to-earnings)을 유지하려면, 이들 기업은 지속적으로 새로운 '성장 스토리'를 발명하고 부풀려야 한다.

Doctorow에 따르면 AI는 메타버스（metaverse）와 NFT（NFTs）, 암호화폐（cryptocurrency）의 뒤를 잇는 최신 내러티브다. AI 인프라에 쏟아지는 수천억 달러는 기술의 즉각적인 수익성을 반영하는 것이 아니라, 이들 성숙한 기업이 여전히 기하급수적 확장이 가능하다는 것을 시장에 납득시키기 위해 투입된 것이다.

분석에서 지적하듯이 위험은 이러한 투기적 투자가 수학적으로 지속 불가능한 버블을 만들어낸다는 점이다. 시장이 결국 수정될 때—기술이 약속한 규모로 노동을 대체할 수 없음을 인식하면—이들 기업의 가치 평가는 급락하고 업계 전반에 걸친 수축이 발생할 것이다.

The "Reverse Centaur" Problem

Doctorow 논쟁의 중심 주제는 인간-기계 상호작용의 두 유형, 즉 'Centaur'와 'Reverse Centaur'의 구별이다. 이 프레임워크는 왜 현재 기업들의 AI 도입이 종종 권한을 부여하기보다는 착취적이라고 느껴지는지를 설명하는 데 도움을 준다.

Table 1: The Centaur vs. The Reverse Centaur

Doctorow는 현재의 기업 전략이 'Reverse Centaur（Reverse Centaur）'을 만드는 데 집중되어 있다고 경고한다. 목표는 노동자를 더 강력하게 만드는 것이 아니라, 고임금 전문직(예: 영상의학 전문의（radiologist）나 선임 개발자)을 대체하거나 임금을 억제할 수 있을 만큼 업무의 기술 수준을 낮추는 것이다. 이 모델에서 인간은 자동화된 시스템이 결국 치명적인 오류를 범할 때 비난을 떠안기는 '책임 수거함'으로 주로 남겨진다.

The Myth of Total Labor Replacement

AI가 대규모 노동력을 대체할 것이라는 공격적인 마케팅 주장이 난무함에도 불구하고, Doctorow는 현재 형태의 기술이 이를 효과적으로 수행할 수 없다고 주장한다. 그는 영상의학( radiology ) 분야를 주요 예로 든다. AI가 엑스레이에서 패턴을 식별할 수는 있지만, 그것의 채택을 견인하는 비즈니스 모델은 정확성이나 환자 결과에 초점을 맞추기보다 비용 절감에 중점을 둔다.

위험은 전문가의 판단을 통계적으로 인상적이지만 환각(hallucinations)에 취약한 자동화된 시스템으로 대체하는 데 있다. 소프트웨어 개발에서는, 기능적으로 보이지만 미묘하고 위험한 버그를 포함하는 AI 생성 코드—존재하지 않는 '환각된' 코드 라이브러리나, 더 나쁘게는 악의적 행위자가 시스템을 손상시키기 위해 주장한 라이브러리—로 나타난다.

분석은 AI가 투자자들이 기대하는 방식으로 기업에 진정한 가치를 제공하려면 고임금 노동을 대체해야 한다고 제안한다. 그러나 이러한 역할들이 바로 오류 비용이 가장 높고 인간의 감독이 가장 중요한 자리들이다. 노동 대체의 약속과 기술적 한계의 현실 사이의 이러한 불일치는 버블에 대한 주요 압박 요인이다.

Copyright and the Public Domain

AI와 관련한 가장 중요한 법적 격전지 중 하나는 저작권（copyright）이다. Doctorow는 AI 학습 데이터에 관한 새로운 저작권 법을 강화하자는 목소리에 반대되는 견해를 제시한다. 그는 공적 데이터에 대한 학습을 금지하도록 저작권을 확대하면, 이미 방대한 콘텐츠 카탈로그에 대한 권리를 통제하는 대형 미디어 독점의 권력을 강화하는 역효과를 낳을 것이라고 주장한다.

대신 Doctorow는 AI 생성물은 인간 저자가 없기 때문에 저작권을 가질 수 없다는 현재의 US Copyright Office의 입장을 옹호한다. 이 법리는 다음과 같은 중대한 함의를 가진다:

• 퍼블릭 도메인 기본 원칙（public domain）: 순수하게 AI에 의해 생성된 콘텐츠는 퍼블릭 도메인에 속한다. 즉, 주요 스튜디오나 출판사가 AI로 각본이나 이미지를 생성하더라도, 그들이 다른 이들의 복제와 재배포를 막을 수 없다.
• 인간 창작에 대한 인센티브: 저작권 보호를 확보하려면, 기업은 작품에 창작 의도를 주입할 인간 예술가와 작가를 고용해야 한다. 이 법적 프레임워크는 인간이 도구로서 AI를 사용하는 'Centaur（Centaur）' 모델을 자연스럽게 장려한다.

AI 산출물을 퍼블릭 도메인에 남겨둠으로써, 법체계는 기업이 창의적 프로세스를 완전히 자동화하려는 인센티브를 줄인다. 기업은 그들의 비즈니스 모델의 기반인 지적 재산권을 잃게 되기 때문이다.

Salvaging the Wreckage: The Open Source Future

시장 붕괴의 예측은 암울하지만, Doctorow의 전망이 전적으로 비관적인 것은 아니다. 그는 닷컴 버블과 2000년대 초 통신 사기의 사례를 병치한다. WorldCom과 같은 회사들이 사기와 관리 부실로 무너졌지만, 그들이 깔아놓은 광섬유 인프라는 땅속에 남아 현대 인터넷을 실질적으로 담당했다.

마찬가지로 Doctorow는 AI 버블이 터질 때, 유해한 금융 자산과 무익한 과대광고라는 '석면'이 제거되고 가치 있는 잔여물이 남게 될 것이라고 예측한다.

What Will Survive the Crash:

• Hardware Availability: 고성능 GPU(GPU)는 중고 시장에 넘쳐나 과학자, 독립 연구자, 디지털 아티스트에게 강력한 계산 자원을 저렴하게 제공할 가능성이 높다.
• Skilled Workforce: 응용 통계와 모델 최적화에 깊은 전문성을 가진 개발자 세대가 등장할 것이다.
• Open Source Models: 어쩌면 가장 중요한 것은, 노트북과 스마트폰 같은 범용 하드웨어에서 실행 가능한 효율적인 오픈 소스 모델（open-source models）들이 업계에 남을 것이라는 점이다.

Doctorow는 중앙집중식, 에너지를 많이 소비하는 데이터 센터에서 구동되는 거대한 'Big AI（Big AI）'—대형 파운데이션 모델(파운데이션 모델, foundation models)—이 후퇴하는 미래를 상상한다. 그 자리를 대신할 것은 감시나 구독료 없이 특정하고 유용한 작업을 수행하는 'Small AI（Small AI）'의 확산이다: 로컬 플러그인과 도구들이 그것이다.

이들 생존 도구는 다음과 같은 유틸리티 작업을 처리할 가능성이 크다:

• 로컬 오디오 및 비디오 전사.
• 이미지 설명 및 접근성 기능.
• 문서 요약.
• 기본적인 그래픽 편집 및 배경 제거.

이러한 응용프로그램은 수조 달러의 수익을 창출해야 한다는 압박에서 벗어나 진정한 유틸리티로서 기능할 것이다—전체 경제의 구조 재편이나 노동력의 예속을 요구하지 않는 생산성 향상의 '플러그인（plugins）'이다.

Conclusion

Doctorow가 제시하는 관점은 현재 AI 내러티브의 불가피성을 도전한다. 기술을 둘러싼 금융적 투기와 분리함으로써 그는 기업 독점보다 오픈 소스 회복력을 선호하는 전진 경로를 밝힌다. AI 커뮤니티에 대한 메시지는 분명하다: 버블은 터질 수 있지만, 사용자를 진정으로 강화하는 도구들은 개방성과 인간의 통제에 기반해 구축된다면 살아남을 것이다.

업계가 이러한 예측과 씨름하는 동안, 개발자와 창작자의 초점은 다음 거대한 기업가치 평가를 좇는 것에서 지속 가능하고 로컬 중심이며 인간 중심적인 도구를 구축하는 쪽으로 이동할 가능성이 크다.