【FT要約】AIの「人類滅亡リスク」は投資家にとって大歓迎？開発スピードを緩める本当の理由｜英文ビジネスニュース日本語解説
この記事の論点：
AIの「人類滅亡リスク」は投資家にとって大歓迎？
— 人類破滅を避けるためのAI開発の「減速」は、実はAI企業や投資家にとって好都合な本当の事情を考察
We Must Pace the Frontier
「最先端AIの開発ペースを調整しなければならない」
米アンソロピックのダリオ・アモデイCEOが発したこのコメントが物議を醸している。その数日前には、同社を電撃退社した若手研究者が、このままだとAIは「2020年代末までに人類を滅ぼす可能性がある」と警告したばかりだった。
いよいよAIにも核軍拡や温暖化と同じく社会的な限界が来たか……と思いきや、今回紹介する記事が伝えているのは、AIの終焉ではない。
むしろ、これまで最先端AIへの期待に賭けていた投資家にとって、この「調整」は手放しでウェルカムだという興味深い視点である。
その裏にある冷徹なマネーの論理を紐解いてみたい。ぜひ全文を読んでほしい。
｜AI巨頭たちが「開発の減速」を求め始めた理由
Leaders of the biggest AI companies want to slow the pace of development so as to avoid creating “frontier models” capable of wreaking enormous damage on the global economy or worse.
Fortunately, this is a goal their investors should be able to get behind too.
世界経済に惨事をもたらしかねない「フロンティア・モデル」の開発ペースを緩めるべきと唱えているのは、アモデイ氏だけではない。彼の会社に競合するOpenAIのサム・アルトマン氏やイーロン・マスク氏も賛同を示し話題となった。
AIブームの真っ直中にいる人間が、自ら梯子を外すようなコメントをするのは異例だ。株高の最中に、市場の過熱に水を差すような発言をする経営者は普通いない。そんなことを表立って言う前に、自分たちで株を売り抜けておかなければならないはずだからだ。
しかしFTは、この動きについて、開発の減速は「投資家にとっても支持できる目標であるはず（their investors should be able to get behind）」と指摘している。一体どういうことだろうか。
｜累計1,400兆円規模へ？泥沼化する「チキンレース」の限界
One advantage of slowing down — besides avoiding the obvious reputational risks of causing a disaster — would be that it would reduce the enormous amounts of cash being lavished on training new models.
FTが指摘するのは、単純にAI企業やその後ろ盾であるビッグテックが「開発疲れ」を起こしている点にある。
というのも、最先端モデルの開発には数千億円から数兆円規模の巨額資金が必要であり、業界全体では2031年までに累計9兆ドル（約1,400兆円）に達する「人類史上最大級の投資戦争」へと膨らんでいる。モデル1回の学習費だけでもすでに数百億円を突破している。
他方で、各社は「他社より先に超知能を作らなければ倒産する」という、極限のチキンレースに陥っている。そんな中、業界全体で「減速」の暗黙の協定を打ち立てることができれば、新モデルのトレーニングのために浪費（lavished）されている巨額のキャッシュを減らすことができる。
資金の出し手である投資家にとっても、投資先のAI企業によるキャピタルの浪費がなくなることは、間違いなく好感する点である。
もちろん、安全性を真摯に懸念している側面はあるにせよ、「大規模な災害を引き起こすリスク（risk of causing a disaster）」という大義名分の裏で、膨れ上がり続けるコストに耐えかねた経済的な本音が、彼らをこの方向へと向かわせている――そう勘繰りたくなるのも自然な見方だろう。
｜高すぎる価格と「売れない最新モデル」
OpenAI’s GPT 6 Astra costs $50 per million “tokens” it outputs, more than double its GPT 5.6 Sol model — it’s likely that the bulk of sales already come from cheaper offerings, and AI labs have already been competing on price.
企業側がブレーキを踏みたがる背景には、AIラボ同士における価格競争（competing on price）の激化もある。
例えば、最新モデルにおいては、トークン料金が前世代のモデルの2倍以上に跳ね上がるケースも見られる。
ユーザーにとってAIを使うのが躊躇されるような状況になると、別に前のモデルでも事足りるのであればそれで良くなる。実際、AI企業の売上の大部分は、すでに低価格のサービスから得られたものになっている。
これまで最先端モデルの開発競争に全てを費やしてきた当事者たちが、今さら「別にそんなもの必要ではなかったかも」と公言するのは難しい。「人類の滅亡を防ぐため」という最もらしい理由こそが、彼らにとっての「名誉ある撤退」のチケットになっているとも解釈できる。
｜「最先端」でなくても、儲かる仕組みはすでに山ほどある
But there is plenty of hay to be made from the AI models that already exist, and slowing down would create extra incentive to make it.
さらに興味深いのは、AI企業にとっては、開発を「減速」しても、既存のAIモデルから得られる収益機会は山ほどある（there is plenty of hay to be made）という点である。
すでに、最先端でなくても自社のAIを利用したエコシステムが存在していることを認識しており、今後もその裾野を広げて収益機会を追求していった方が合理的というわけだ。この段階での「減速」の決定は、その方向へ舵を切る十分なインセンティブとなる。
総合すると、今回の「減速」表明は、AI企業自身と、そこに全振りした投資家にとって、都合の良い出口シナリオとも見えなくもないのだ。
｜ヘッジ手段のないリスクに、どう向き合うか
Any investor in Anthropic…should have another pressing reason to support a co-ordinated pacing effort.
After all, the extinction of humanity, which would presumably include all of their clients, is a risk for which there is no known hedge.
とはいえ、そこまで性悪説に立たなくても、AI企業や投資家がそんなに打算的ではないと弁護することもできる。
なぜなら、結局のところ、指摘されている「人類の滅亡（extinction）」は、それがハッタリや経済的都合であろうとなかろうが、いかなるヘッジ手段も存在しないリスクだからである。
💡 この記事が役に立ったと感じた方へ
当ブログの知見があなたの挑戦の一助になれば幸いです。
「参考になった」「海外メディア購読など今後の活動を応援したい」という方は、コーヒー1杯分のサポート（100円〜）をいただけますと大変励みになります。
