マスクのOpenAI訴訟、唯一のAI専門家証人がAGI軍拡競争を懸念

イーロン・マスクがOpenAIに対して提起した訴訟において、特に注目される声がある——カリフォルニア大学バークレー校のAI教授であり、世界で最も影響力のあるAI安全研究者の一人であるStuart Russellである。マスク側の唯一のAI専門家証人として、Russellは法廷で不安を抱かせる光景を描き出した：AI分野のトップラボは危険なAGI（汎用人工知能）の軍拡競争に陥っており、この競争の終着点は人類が制御できないスーパーインテリジェンスかもしれないという。

AGI軍拡競争：シリコンバレーの新たな冷戦

Russellは証言の中で、現在のAI開発の速度はすでに予想をはるかに超えていると強調した。OpenAI、Google DeepMind、Anthropicなどの最前線のラボ間の競争はますます熾烈となり、各チームがより強力なモデルの発表を競い合っている。Russellは、この競争パターンが冷戦時代の核軍拡競争と驚くほど似ていると考えている——各陣営が先んじることで戦略的優位を確保できると考える一方で、制御不能となるリスクを軽視しているのだ。「各ラボが『我々がやらなければ、他の誰かがやる』と考えるとき」とRussellは法廷で述べた、「これは囚人のジレンマを形成し、誰もが減速したがらなくなる。たとえそれが破滅的な結果を招くことを承知していてもだ。」彼はさらに、AGIの開発は通常の商業活動とみなされるべきではなく、核兵器の研究開発に類似する「危険技術」として扱われ、厳格な国際的監督が必要であると指摘した。

「我々は人類の未来を賭けている。そして一度負ければ、やり直す機会はない。」——Stuart Russellが法廷で証言

マスクの訴訟：理念と利益の交錯

マスクがOpenAIを訴えた発端は、同社が非営利かつ人類のためという創設時の約束に背いたという主張にある。2015年、マスクはSam Altmanらと共にOpenAIを共同設立し、安全で全人類に有益なAGIの開発を目指した。しかし2018年にマスクが取締役会を離れた後、OpenAIは「利益上限付き」モデルに転換し、Microsoftから数十億ドルの投資を受け入れた。マスクは、こうした商業化が当初の使命を損なったと考え、法的手段によってOpenAIが中核技術を商業的利益のために利用することを阻止しようとしている。

Russellの証言はマスクの立場に学術的な裏付けを与えた：彼はOpenAIの転換が当初の目的から逸脱したことに同意するだけでなく、こうしたモデルでは安全性の優先順位が利益によって侵食される可能性があると警告した。「企業の主たる目標が投資家への還元になるとき、AGIの安全性は往々にして二の次にされる」とRussellは言う、「これはOpenAIに対する非難ではなく、激しい競争の中で商業的利益を追求するすべてのAI企業に対する構造的な懸念だ。」注目すべきは、Russellがマスクの支持者ではないという点である；彼はこれまで複数の場でマスクのAIリスクに対する誇張した表現を批判してきたが、この特定の訴訟においては、マスクが提起した問題は業界全体が反省すべきものであると考えている。

政府による規制：人類を救う唯一の希望か？

Russellの核心的な主張は次のとおりだ：業界の自主規制だけではAGIがもたらすシステミックリスクに対処できない。彼は各国政府に対し、国際原子力機関に類似したグローバルなAI規制枠組みの構築を呼びかけた。これには強制的な安全テスト、モデル公開前の審査メカニズム、そして「緊急ブレーキ」条項が含まれる。「我々はAI研究を禁止する必要はない」とRussellは説明する、「しかし、いかなるAGIの開発も安全かつ制御可能な範囲内で行われることを確保する必要がある。」彼は特に、現在のAI規制に関する議論が技術の進展に遅れがちであり、政策立案者はより迅速に行動する必要があると指摘した。たとえば、米国のホワイトハウスがかつて発表した『AI権利章典の青写真』や欧州連合の『AI法』は先駆的なものではあるが、AGIラボに対する直接的な制約には踏み込んでいない。

考えさせられるのは、Russellの証言がAI安全分野の矛盾も同時に露呈させていることだ：一方では科学者たちが声高にリスクを訴え、もう一方ではテック大手が研究開発への投入を加速させている。マスク自身もOpenAIを訴える一方で、自身のxAI社の推進を加速している——この「競争しながら批判する」という姿勢は、この裁判をより複雑な大企業間の駆け引きのように見せ、純粋な理念の争いとは言えなくしている。

編集者注：裁判を超えた、より大きな課題

この訴訟は単なる法的紛争にとどまらず、人類の未来に関わる哲学的議論でもある。もしAGIが本当に今後10年以内に登場するなら、最初の「制御不能」なスーパーインテリジェンスが誕生したとき、誰が責任を負うのか？それは貪欲な企業か？沈黙する政府か？それとも傍観する我々大衆か？Russellの証言はマスク対OpenAIの裁判結果を変えることはできないかもしれないが、それは我々に警鐘を鳴らしている：技術の暴走の中で、我々は立ち止まり、人類が自らの手で作り出した「神」を迎える準備ができているかを考える必要があるのだ。

本記事はTechCrunchより翻訳・編集