作者: ビットプッシュ
シリコンバレーで最も高額な「解散事件」、その詳細がついに明らかに。
最近、The Atlantic Monthly は、アメリカの著名なベストセラー作家でありポッドキャストの司会者でもあるケビン・ルースの新刊『The AGI Chronicles』からの最初の抜粋を掲載しました。この本のために、ルーズは、シリコンバレーで最もセンセーショナルな別れをまとめるために、OpenAI、Anthropic、Google DeepMind の 150 人以上の内部関係者にインタビューし、さらに多数の未公開の社内文書や内部メモを取材しました。
ダリオ・アモデイ氏が 2020 年末に一部の人々とともに OpenAI を去り、Anthropic を設立したことだけを知っているとしても、それは氷山の一角にすぎません。本当に人々に衝撃を与えたのは、彼が去る前の「宮殿の戦い」でした。
「Project National」: AGI オークションへの奇抜な提案
アモデイ氏はかつてOpenAIに大きな期待を寄せていた。 2016 年に Google を退職し、若い非営利研究組織に参加しました。 Roose 氏の話によると、彼は OpenAI を大規模言語モデル路線に推し進める上で重要な人物であり、彼が率いるチームは GPT-2 と GPT-3 の開発に参加しました。
研究が進むにつれて、アモデイ氏は、より大規模なモデルが AGI (汎用人工知能) につながる可能性があると確信するようになりました。しかし同時に、会社のリーダーシップに対する彼の信頼は失われ続けた。
彼を悩ませた最初の出来事の 1 つは 2017 年に起こりました。
当時、OpenAIに対するマスク氏の財政的支援が揺らぎ始め、研究所は早急に新たな活路を見つける必要があった。共同創設者のグレッグ・ブロックマンと主任科学者のイリヤ・サツケヴァーは、「カントリーズ・プラン」として知られるようになる社内計画を考案した。
この計画は当初はかなりまともなものでした。そのアイデアは、国際的な同盟を形成し、全員が共同で AGI のリスクを管理し、利益を共有するというものでした。
しかし、ブロックマン氏とサツケバー氏が社内会議で正式に従業員にそれを提示した時点では、状況は完全に狂っていた。それは、米国、中国、ロシアを含むさまざまな政府に対して、将来のAGIテクノロジーを使用する権利を「オークション」するための資金集めイベントに変わっていた。
2 人の論理は次のとおりです。AGI は国家安全保障に関わるものであり、遅かれ早かれ政府はそれを作成した企業から AGI を取り上げるでしょう。どうせ人に渡さなければならないのですから、お金がないうちに少しでも高く売ってしまったほうが良いでしょう。
このデモを聞いた関係者は、「数人のテクノロジー関係者がクレイジーな起業家プロジェクトを売りつけているように聞こえ、結局は政府にツケを払わせればいいのだ」と不満を漏らした。
ダリオ・アモデイは当時 OpenAI の研究担当副社長でした。これを聞いた後、彼はブロックマン、サツケヴァー、その他の幹部に直接かなり率直な電子メールを送った。同氏は電子メールで、この計画は「軍拡競争を緩和するどころか悪化させ」、自国民に対して「言語に絶する行為」を可能にする「人権残虐行為につながる」可能性があり、「OpenAIの道徳的正当性を損なう」と書いた。
人間の言葉に翻訳すると、人類の最も強力なテクノロジーを彼らに売りたいですか?狂ってください。
幸いなことに、その後の Microsoft の大規模な投資によって危機は救われ、この計画は最終的には実現しませんでした。 OpenAIの返答は、同社は「OpenAIを国際協力に変えるかどうか簡単に検討した」が、「AGIを中国やロシアに売却することは考えていない」というものだった。
この計画は決して実現しませんでしたが、アモデイ氏は、経営陣が自分にとって非常に不快だと感じたアイデアについて真剣に議論していたことを決して忘れませんでした。
マイクロソフトからカニエ・ウェストまで、信頼の亀裂はさらに深まる
それ以来、一見些細な出来事が彼の不信感を深め続けた。
GPT-3 の内部ベータ中に、Amodei は Altman にモデルの使用を許可された顧客のリストを求めました。アルトマン氏はそのリストを彼に渡したが、アモデイ氏は後でもっと長いリストを見つけたと主張している。彼は、自分が見た情報がフィルタリングされているのではないかと疑い始めました。
マイクロソフトの投資をめぐる論争が彼の疑念を深めた。
OpenAI の公開憲章にはかなり特別な合意があります。一貫した価値観とセキュリティを重視したプロジェクトが最初に AGI の実現に近づく場合、OpenAI は競合するのをやめ、代わりに相手方を支援します。これは、特定の状況では、ゲームに勝つことよりも会社の使命を優先する必要があることを意味します。
ルース氏の新著によると、マイクロソフトと10億ドルの投資を交渉する際、アモデイ氏はマイクロソフトがこの約束を実行するために利用される可能性のあるOpenAIの買収を確実に受け入れられるようにしたいと考えていたという。アルトマン氏はマイクロソフト社が条件を受け入れなかったと語った。
アモデイ氏は、それがそれほど単純だとは考えていない。同氏は、できるだけ早く取引を促進するために、アルトマン氏が戦いを放棄したか、あるいはまったく要求せずにマイクロソフト社に責任を転嫁したのではないかと疑った。
アモデイ氏の目には、この問題をビジネス上の話し合いで解決するのはますます困難になってきている。向かいに座っているアルトマン氏が交渉プロセス全体を説明してくれるかどうかを疑い始めている。
2020年、カニエ・ウェスト（後にヒトラーへの称賛を公に表明したラッパー）が、偶然にもこの蓄積され続ける不満のリストに載った。
ルース氏は、この件に詳しい2人の関係者の話として、アルトマン氏がカニエに会った後、GPT-3のプライベートベータテストに参加させてくれないかと申し出たと伝えた。
当時、GPT-3 はまだ公開されておらず、これが OpenAI の中核資産でした。当時OpenAIのポリシーディレクターだったジャック・クラーク氏はこの提案を止めた。同氏は、カニエが最近グラミー賞授賞式で放尿しているかのような動画を公開しており、カニエの公の場での行動が憂慮すべきものであると述べた。その後、カニエがヒトラーに対する称賛の気持ちを公然と表明するのに時間はかからなかった。
この誘いは失敗に終わったが、アルトマンの判断に対するアモデイの不満はさらに悪化した。ルース氏は、同様の事件のほとんどだけでは辞任するには十分ではなかったが、その積み重ねにより、アルトマン氏がAGIのような強力な技術を習得するのに適しているとは信じられなくなったと書いている。
ルース氏は本の中で、2020年までにアモデイ氏がOpenAIのリーダーシップに完全に失望していたと明かした。彼はアルトマンを「裏表のある人を操る者」と表現し、ブロックマンは「権力に飢えており、無謀である」と信じていた。
実際、両者の間の核心的な対立は、信頼という 2 つの単語にすぎません。
アモデイ氏は、OpenAI在職中に個人的な日記をつけ、アルトマンが自分を誤解させたと感じた瞬間を書き留めていたと言われている。
彼はあるメモの中で、「OpenAIの問題はサム自身にある」と書いた。
ギャングや小さなグループを結成しますか?
その一方で、OpenAI内にはアモデイにますます耐えられなくなっている人々もいる。
ルース氏の報告によると、アモデイ氏と妹のダニエラ氏は徐々に同じ考えを持つ同僚のグループを集めたという。彼らはプライベート チャット チャネルを設定し、個別の会議を開催し、セキュリティ問題について頻繁に話し合いました。サークル外の一部の従業員の観点から見ると、このグループの人々はますます一緒に働くのが難しくなってきています。
元同僚はルース氏に対し、アモデイ氏は安全性を引き合いに出すだけで議論を終わらせるべきかのように、特定の選択が道徳的に正しいと判断することがよくあったと不満を漏らした。これは他のチームを悩ませました。
アモデイは、ビジネス目標は常に安全への取り組みよりも優先されると感じています。一部の同僚は、彼が安全性を反論の難しい議論に変えたと信じている。双方の不満は具体的な決定から仕事のやり方、性格判断にまで広がった。
最終的に、この対立は 1 つの実際の権力に集中しました。それは、セキュリティ チームが新製品の発売に拒否権を行使できるかどうかということです。
ルース氏によると、アモデイ氏は退任前にアルトマン氏に対し、警備チームに拒否権を与えるなど、残留のための一連の条件を提案したという。同氏は、中核研究者らが一斉に退職する可能性がある圧力によって、アルトマン氏が変化を受け入れるようになるのではないかと期待している。
秘密のグループチャットで「一家離散」へのカウントダウンが始まる
交渉が進行中である一方で、撤退の準備も進められていた。
Amodei と 6 人の同僚は、「交渉が合意に達しない場合の最良の代替案」の略である「BATNA」と呼ばれるプライベート Slack チャネルを設立しました。メンバーには妹のダニエラのほか、ジャック・クラーク、サム・マッキャンドリッシュ、トム・ブラウン、クリス・オラー、ジャレッド・カプランが含まれる。
このグループの名前自体が、当時の彼らの状況を表しています。まだ話していますが、出発する準備ができています。
保留条件について交渉がまとまらなかった場合、双方は弁護士を雇い、社内で離婚と呼ばれるものの交渉を開始した。
ルース氏の報告書によると、アルトマン氏は、1年以内に引き抜きを行わないことと引き換えに、OpenAIの従業員を採用するためにこれらの人々に数週間の猶予を与えることに同意したという。両者は公の場でお互いを軽蔑しないことにも同意した。
2020年12月、OpenAIは全社員を対象としたオンライン会議を開催した。
始まりはいつもと同じように見えます。アルトマン氏は研究の進捗状況を報告し、新入社員を紹介し、その後アモデイ氏にメッセージを引き継いだ。
次にアモデイ氏は、他の6人のリーダーとともにAIセキュリティに焦点を当てた新しい組織を設立するために退職すると発表した。
ルース氏の説明によると、チャット ウィンドウはすぐに驚きのメッセージや表情でいっぱいになりました。会議の終わりに、ジャック クラークさんがチャット ボックスに「皆さんを愛しています」という一文を入力すると、画面が突然真っ暗になりました。
ダリオ・アモデイ氏と妹のダニエラ・アモデイ氏を含むOpenAIの中心メンバー7人が同時に会議から追放され、電子メールとSlackのアクセス許可がその場で取り消された。
そして 2021 年初頭に Anthropic が設立されました。
恨みはいつ終わったのですか？
そして、新しいビジネスを始めても、アモデイは彼を悩ませていた問題を取り除くことができませんでした。
Anthropic は資金を調達し、コンピューティング能力を拡張し、より強力なモデルを開発する必要もあります。最先端のテクノロジーを習得することによってのみ、最先端のリスクを研究することができます。しかし、最先端であり続けるためには、投資を継続し、競合他社の追求に立ち向かう必要があります。会社が成長するにつれて、Amodei はよくある質問に答えなければなりません。セキュリティ、ビジネス、競争が衝突したとき、どちらが先に道を譲るでしょうか?
双方の相互の恨みは全く消えていない。
事情に詳しい関係者によると、アモデイ氏はかつてアルトマンとOpenAIを「悪」と呼んだことがあるという。同時に、OpenAI 内の一部の人々は、アモデイ兄弟が自らを道徳モデルとしてパッケージ化しているが、同様に権力に熱心であると信じていました。彼らは、Anthropic が競争への参加を加速する一方で、AI のリスクについて公に警告していることに特に不満を抱いていました。
ルーズ氏は本の中で、これらのAIリーダーを「絡み合った敵意の蜘蛛の巣」と表現している。ハサビスはアルトマンを見下し、アモデイはアルトマンを見下し、アルトマンはアモデイを見下し、アルトマンはマスクを見下している。
数年が経ちましたが、このネットワークは解けていません。その代わり、それぞれが新たな悩みを抱えている。ブルームバーグによると、アンスロピックは早ければ11月中旬にも株式公開を目指しており、目標評価額は最大2兆米ドルに達するという。しかし目論見書には別の側面も示されている。2025年の売上高は約46億ドルだが、営業損失は80億ドルを超え、将来的にはコンピューティング能力の構築に5,000億ドル以上を投資すると約束している。アルトマン氏は、セキュリティと連携が解決するまで急いで上場する必要はないと述べ、IPOには慎重だが、OpenAIは最近AIセキュリティインシデントにも悩まされている。
アモデイ氏はアルトマンを信頼できなかったため退職し、セキュリティの約束が本当に重要な会社を設立したいと考えていました。現在、彼自身の会社も同じ問題、つまり成長の持続性と安全性への懸念に直面しなければならず、どちらの側も緩めることはできません。彼らはまだこの質問を提出していません。