Cory Doctorow、AIバブルの崩壊を予測するが、オープンソースの生存に希望を見出す

著名なSF作家、活動家、ジャーナリストであるCory Doctorowは、人工知能産業の現状に関して厳しい警告を発しており、それを劇的な崩壊が避けられない金融バブルと位置づけています。とはいえ、失敗するスタートアップや閉鎖されるデータセンターの予期される壊滅の中で、Doctorowはクリエイターや開発者にとって実用的なツールを提供するオープンソースAIモデル（open-source AI models）がしぶとく存続すると予測しています。

今週発表された包括的な分析で、Doctorowは現在の生成型AI（generative AI）を巡る熱狂は技術的有用性よりも「成長株（growth stocks）」や独占的なテック大手の金融上の要請によって駆動されていると論じています。業界への巨額の資本投入の短期的な見通しは暗いものの、長期的にはユーザーを従属させるのではなく、ユーザーに奉仕する分散型・ローカル運用のAIツールへのシフトが起きると示唆しています。

「AIバブル」の仕組み

Doctorowの批判はシリコンバレーを支える金融構造から始まります。彼は現在のAIブームは「成長株（growth stocks）」の逆説の直接的な結果であると仮定しています。検索、広告、モバイルなどの分野で既に支配的な市場シェアを確保している主要なテック独占企業は成長の危機に直面しています。投資家が求める高い株価収益率（PE比）を維持するために、これらの企業は常に新しい「成長ストーリー」を発明し膨らませ続けなければなりません。

Doctorowによれば、AIはメタバース（metaverse）、NFTs、cryptocurrencyに続く一連のそのような物語の最新例です。AIインフラに注ぎ込まれる数千億ドルは、必ずしも技術の即時の収益性を反映しているわけではなく、成熟した企業がまだ指数関数的な拡大能力を持っていると市場を納得させるために投下されています。

分析が概説する危険性は、この投機的な投資が数学的に維持不可能なバブルを生み出すことにあります。市場が最終的に修正を行い―技術が約束された規模で労働を代替できないことに気づいたとき―これらの企業の評価額は急落し、業界全体の縮小を招くでしょう。

「リバース・センタウル」問題

Doctorowの議論の中心的なテーマは、人間と機械の相互作用の二つのタイプ、すなわち「センタウル（Centaur）」と「リバース・センタウル（Reverse Centaur）」の区別です。この枠組みは、なぜ現在の企業によるAI導入がしばしばエンパワーメントというより搾取的に感じられるのかを説明するのに役立ちます。

表1：センタウル対リバース・センタウル

Doctorowは現在の企業戦略が「リバース・センタウル」を作り出すことに焦点を当てていると警告しています。目的は労働者をより強力にすることではなく、放射線科医や上級開発者のような高賃金専門職を置き換えるか賃金を抑えるまで技能を低下させることです。このモデルでは、人間は主に「責任の受け皿」としてループ内に留められます―自動化システムが不可避的に大規模な誤りを起こしたときに責められる誰かとして。

労働の全置換という神話

AIが広範な労働力を置き換えるとする積極的なマーケティングの主張にもかかわらず、Doctorowは技術が現状の形でそれを効果的に行うことは根本的に不可能だと主張します。彼は放射線学の分野を好例として挙げます。AIはX線のパターンを識別できるものの、その採用を促すビジネスモデルは正確さや患者の予後ではなくコスト削減に焦点を当てています。

リスクは、専門的な人間の判断が統計的には印象的だが幻覚（hallucination）を起こしやすい自動化システムに置き換えられることです。ソフトウェア開発では、これが一見機能するように見えるが微妙で危険なバグを含むAI生成コードとして現れます―存在しない「幻覚した」コードライブラリや、さらに悪質な行為者によってシステムを侵害するものと主張されたライブラリなどです。

分析は、投資家が期待する形でAIが企業にとって真に価値を持つためには高賃金労働を置き換えなければならないと示唆しています。しかし、これらこそ誤りのコストが最も高く、人間の監視が最も重要な役割を果たす職種です。労働置換の約束と技術的制約の現実とのこの不一致がバブルに対する主要なストレス要因となっています。

著作権とパブリックドメイン

AIに関する最も重要な法的争点の一つは著作権です。DoctorowはAIの学習データをカバーする新たな著作権法の要求が高まることに対して反対の見解を示しています。彼は、公共データでの学習を禁止するように著作権を拡大すると、既に膨大なコンテンツの権利を支配している大手メディア独占の力を強化するだけだと主張します。

代わりに、DoctorowはUS Copyright Officeの現在の立場を支持しています。同庁は一貫して、AI生成物は人間の著作がないため著作権を得られないと判断してきました。この法的原則には深い含意があります：

• パブリックドメインの既定（Public Domain Default）: 純粋にAIによって生成されたコンテンツはパブリックドメイン（public domain）に属します。つまり、大手スタジオや出版社がAIで脚本や画像を生成しても、他者がそれを複製・再配布するのを阻止することはできません。
• 人間の創造性へのインセンティブ（Incentive for Human Creativity）: 著作権保護を確保するためには、企業は人間のアーティストや作家を雇って作品に創作的意図を注入する必要があります。この法的枠組みは、人間がAIを道具として使う「センタウル」モデルを自然と奨励します。

AI出力をパブリックドメインに留めることで、法制度は企業が創造的プロセスを完全に自動化するインセンティブを減らします。自動化すればビジネスモデルの基盤である知的財産権を失うからです。

残骸の救済：オープンソースの未来

市場クラッシュの予測は厳しいものの、Doctorowの見通しは必ずしも悲観的ではありません。彼はドットコム・バブルや2000年代初頭の通信詐欺に類似点を見いだしています。WorldComのような企業は詐欺と管理不行き届きで崩壊しましたが、彼らが敷設した光ファイバーインフラは地中に残り、最終的に現代のインターネットを支えることになりました。

同様に、DoctorowはAIバブルが弾けたとき、有害な金融資産と役に立たない誇大宣伝という「アスベスト」が剥がれ落ち、価値のある残存物が残ると予測しています。

何がクラッシュを生き延びるのか：

• ハードウェアの入手可能性：高性能GPUの余剰がセカンダリーマーケットにあふれ、科学者、独立研究者、デジタルアーティストにとって強力な計算資源が手ごろになる可能性があります。
• 熟練労働力：応用統計やモデル最適化に深い専門知識を持つ開発者の世代が登場します。
• オープンソースモデル：おそらく最も重要なのは、ラップトップやスマートフォンのような汎用ハードウェアで動作可能な効率的なオープンソースモデルです。

Doctorowは、集中型でエネルギーを大量消費する大規模なファウンデーションモデルが後退し、その代わりに「スモールAI（Small AI）」が普及すると予見しています。これは監視やサブスクリプション料金なしに、特定の有用なタスクを実行するローカルなプラグインやツールです。

これらの生き残るツールは、おそらく次のようなユーティリティタスクを扱うでしょう：

• ローカルでの音声・映像の文字起こし
• 画像説明やアクセシビリティ機能
• ドキュメントの要約
• 基本的なグラフィック編集や背景除去

これらのアプリケーションは、兆単位のリターンを生み出すプレッシャーから解放され、本当に有用なユーティリティ―経済全体の再構築や労働力の従属を要求しない「プラグイン」として生産性を向上させるでしょう。

結論

Doctorowが示す視点は、現在のAIに関する物語の必然性に疑問を投げかけます。技術とそれを取り巻く金融的投機を切り離すことで、彼は企業独占よりもオープンソースの回復力を支持する進路を照らし出します。AIコミュニティにとってメッセージは明白です：バブルは弾けるかもしれませんが、ユーザーに真に力を与えるツールは、オープン性と人間の統制を基盤に構築されていれば生き残るでしょう。

業界がこれらの予測に対処する中で、開発者やクリエイターの焦点は次の巨大な評価額を追い求めることから、ポストバブルの景観を定義する持続可能でローカルかつ人間中心のツールを構築することへと移行するかもしれません。