106/ The Optimist Sam Altman, OpenAI, and the Race to Invent the Future

サム・アルトマンの伝記として本人協力の元で書かれた本

PROLOGUE

アルトマンは、Y Combinatorを共同設立したハッカー、起業家、エッセイストであるポール・グレアムの教えを受けた「ゼロを追加する」というシリコンバレーの精神を体現している。グレアムのスタートアップへのアドバイスは、ほぼ常に、小さく考えすぎるのをやめ、ビジネスモデルをどのように高めるか、収益予測のスライドデッキにある「数百万」を「数十億」に置き換えるかを考えることだった。

アルトマンの理想主義について尋ねられたとき、ティールは、「私たちは彼を、よりメシア的な人物として扱うべきだ」と言った。

ポール・グレアムはかつて、アルトマンの途方もなく野心的なプロジェクトのポートフォリオについて、「彼の目標は、未来全体を作ることだと思います」と語った

彼は、単に新しいテクノロジーを作成して世界に提供したいのではなく、最初の発見者である投資家であるパトリック・チュン氏の言葉を借りれば、「歴史の偉大な人物」になることを常に願ってきた。

影響を受ける人々の賃金は、普遍的なベーシックインカム、つまりUBIに置き換えられ、それ自体が、これらの新しいロボット奴隷が生産する富の一部から派生する可能性がある。

1990年代後半に中西部のゲイのティーンエイジャーであることの気まずさを乗り越える方法を発見した。バロウズでは、自分の性的指向に対する不寛容さの表れとして自分が認識したことに対して発言するというアルトマンの決断は、人生を変える可能性のある大きなリスクを取る価値について彼に教えることになった。

CHAPTER 1

サム・アルトマンの父、ジェリー・アルトマンの話

CHAPTER 2

サムは常にカードゲーム「サムライ」で勝った、とジャックは後に冗談めかして回想した。「なぜなら、彼は常に自分をサムライのリーダーだと宣言していたからだ。『僕は勝つんだ、そして僕がすべてを仕切るんだ』ってね。」7 感謝祭の休暇中には、家族でタッチフットボールをした。スポーツに関しては、結果は異なった。サムとジャックは高校で水球をしていた。「僕は彼より断然うまかった」とジャックは『ジャーナル』に語った。

サムは、家族の中で知性よりも、大人との奇妙で早熟な快適さにおいて、より特別だった。大人との世界、そしてコニーに逆らうことを拒否したことだ。「彼を10歳でニューヨーク市に放り込んでも、自分の人生を理解し、都市の仕組みを理解できたはずだといつも言っていた」とコニーは言った。

サムの両親は、彼の8歳の誕生日に、箱型のベージュ色のMac LC IIを彼に買ってくれた。それは技術的には家族全員のためのコンピューターだったが、数年間、父親が仕事で使い始めるまで、サムの部屋に置かれていた。「とてもエキサイティングでクールだった」とサムは言った。彼は小学校のコンピューターラボでプログラミングを独学で学んだ。「[Apple] IIGSがあって、BASICプロンプトで起動して、『1から100万までの素数をすべて表示』のようなプログラムができたのを覚えている」と彼は回想した。しかし、彼はすぐにその単純な言語に飽きてしまった。「コンピューターが自分で考えるようになり、ただBASICのコードを一行ずつ書く必要がなくなったらどうなるだろう、と長い間考えていた」と彼は言った。

「彼は間違いなくクラスで一番賢い人物だった」とローディンガーは言った。最も高度なクラスをすべて受講していたにもかかわらず、彼はSF作家のアイザック・アシモフやアーサー・C・クラークを読むこと、そして学校のカリキュラムをはるかに超えたコンピュータープログラミングなど、自分の興味のための時間も持っていた。「彼は、その年齢でC++プログラミングの本を本棚に持っていた唯一の人物だった」とジャンプは言った。彼は学校のコンピューターサイエンス教師であるジョージアン・ケプチャーと親しくなり、AIがまだSF的な概念と広く見なされていた頃に、2時間目のAPコンピューターサイエンスの授業に早く来て彼女とAIについて話した。「ケプチャー先生は、私の人生において信じられないほど重要な存在だった」と彼は最近の同窓会イベントで語った。

サムは酒もドラッグもやらなかった、とワッターズは言ったが、速い運転には弱かった。「彼はスピードを出すのが大好きだった」と彼は言った。「彼はこれらのトリックを知っていた。コーヒーショップへ行く途中にこの道があって、小さな大通りなんだけど、4車線分を横切って、ワッターズを怖がらせるためにただ『ドン！』と突っ込むんだ。」「彼は車にとても夢中で、その見せびらかし、そのスピードのすべてに夢中だった。」

しばらくの間、サムはJ.Crewで放課後のアルバイトをしており、彼らはモールに彼を訪ねに行った。しかし、ほとんどの場合、パーニコフが彼をパーティーに引きずり込むことが多かった。ほとんどの場合、彼らはサムの母親のアキュラに乗って郊外を走り回り、サード・アイ・ブラインドを大音量で流していた。

大学に出願する時期が来たとき、サムは準備万端だった。彼は3つの選択肢に目を向けた。ハーバード、スタンフォード、そして国内最古の奨学金で、応募者の3パーセントに無料の奨学金を与えるノースカロライナ大学チャペルヒル校のモアヘッド・ケイン奨学金だ。彼は3つすべてに合格したが、スタンフォードは幼い頃からの夢だったにもかかわらず、UNCに行くことを申し出た。「彼は、『ママ、あと3人子供を大学に通わせる必要があるのは分かっている。お金を使う必要はないよ』と言った」とコニーは回想した。…コニーは、ゲイのユダヤ人の息子が、コンピューターサイエンスプログラムを始めたばかりの南部の大きな州立大学に行くことを想像して顔をしかめた。「彼がとても良い子で、とても勤勉だったのに、彼を罰しているように感じた」と彼女は言った。彼女とジェリーは、彼に夢を追うように伝えた。

CHAPTER 3

彼は立ち止まって、まず自分が本当に何をしたいのかを決めるべきだと気づいた。一枚の紙を手に取り、リストを書きなぐった。上から順に、AI、原子力エネルギー、教育が挙げられた。

棚ぼた式に儲けたときはいつでも、Apple株を買った。大学時代の友人たちは、彼が株価を執拗に追跡していたことを覚えている。「私は大のAppleファンボーイだった」とアルトマンは言った。

Looptのアイデアのブレーンストーミング

数週間後、アルトマン、デシュパンデ、デミングはパロアルトのPFチャンズで夕食をとり、ブレインストーミングを行った。モバイル位置情報データで最も有用なことは何か？明らかな答えはGoogleマップのようなものだったが、そのアプリは数週間前に公開されており、チームはとにかくそれは難しすぎると判断した。彼らは皆、コミュニティ要素が必要であることに同意した。最終的に、アルトマンは最も明確なアイデアを持っていた。それは、友達があなたを見つけるのに役立つ位置情報サービスに基づいたソーシャルネットワークだった。 Viendoは、友人のリアルタイムの位置を表示する地図を提供することで、ユーザーの「どこにいるの？」という質問に答えるものだった。その日、自転車を持っていなかったためにランチに誘うのが面倒なほど友人が遠くにいるかどうか、あるいは図書館でコーヒーを飲むためにすぐに連絡できるほど近くにいるかどうかを自動的に確認できるものだった。

テクノロジーの世界では静かな革命が起こっていた。すべてがより速く、より安く、より良く接続されるようになり、ハーバード大学の学生数人が寮の部屋でTheFacebookを立ち上げることができた。

彼に会った誰もが彼の知性に感銘を受けたが、彼を真に際立たせたのは、数ヶ月後に会社に加わるマーク・ジェイコブスタインの言葉を借りれば、彼の「超自然的な自信」だった。「彼は現実歪曲フィールドを持っていた。」アルトマンは、「RDF」の元祖であるスティーブ・ジョブズを崇拝していた。ピッチのために、彼はメッセージをほとんどアップルらしいシンプルさに磨き上げていた。

CHAPTER 4

グラハムは、Lispというプログラミング言語から富の本質まで、幅広いトピックに関するエッセイを自身のウェブサイトPaulGraham.comに2001年から投稿し、ギーク界の有名人となっていた。Googleの初期には、彼はビートルズや使徒よりも先に「ポール」として検索結果に表示された。今日に至るまで、「エッセイ」という言葉を検索すると、彼の記事が上位に表示される。「それは良い文章の力を示している」と、アルトマンとViendoを最初に発見したNEAのパートナー、パトリック・チャンは感嘆した。「ポールは正直で、役立つものを書き、人々はそれを読んで尊敬した――私たちがやったような、何百ものスタートアップを漁って投資先を探すようなことはしなかった。彼は創業者たちが、彼の文章の力と真実に魅了されて、彼のもとに来るようにしたのだ。」

アルトマンはゴールドマン・サックスのテック職に就く予定だった。「彼らは最も難しい技術面接で有名だった」とアルトマンは説明した。

「これは何だ？この人たちは誰だ？」とアルトマンは回想した。「これまでスタートアップの人たちに会ったことがなかった。当時は、かなり人気のないことだったんだ。」YCの4人の共同創設者の前での彼の面接は、まるで一目惚れのようなものだった。「彼に会ってから3分もしないうちに、私は『ああ、ビル・ゲイツが19歳の頃はこんな感じだったに違いない』と思ったのを覚えている」とグラハムは数年後に書いた。面接はわずか25分間だった。「私たち全員がサムに圧倒された」とリビングストンは後に書いた。「彼の落ち着きと知性、そして彼の人柄そのものに。彼には何か特別なものがあると感じた。」

PGは1964年生まれなので、31歳で起業、34歳で50億円でMA、37歳でBlogでエッセイを書き始めた、意外と遅咲き

1995年1月、お金が必要だったグラハムは、親友のロバート・タッパン・モリスを説得し、彼と一緒にArtixという会社を立ち上げた。6ヶ月以内に、彼らはArtixのアイデアを捨て、Viawebという新しい会社を設立した。Viawebは、人々がブラウザを通じて自分自身のウェブサイトを構築できる最初のウェブベースのアプリケーションだった――つまり、「ウェブ経由」だ。3年後、彼らはそれをYahoo!に4900万ドルで売却し、Yahoo! Storeとなった。新たに得た富によって得られた自由な時間を使って、彼は2001年から自身のウェブサイトPaulGraham.comでエッセイを書き始めた。

彼のビジョンは非常に狭かった。それは、23歳から38歳の間で、夕食後に仕事に戻り、週7日午前3時までハッキングする意欲があり、ケンブリッジ、パロアルト、バークレーのような一流大学の近くの、クールで歩きやすい場所に理想的に位置していることだった。ああ、そして創業チームにはコンピュータープログラマーが含まれていなければならなかった。この最後の条件は不可欠だった。なぜなら、ハッキングは非常に専門的なスキルであり、それなしでは創業者は良いプログラマーと悪いプログラマーを区別することができないからだ。ハッカーは顧客サービスをこなせるが、非ハッカーは決してハッキングできない、と彼は主張した

「サムは他の皆とは違う雰囲気を持っていた」とハフマンは言った。「ほとんどの連中――ジャスティンとエメットとアーロンとクリスとザック――は、いわばオタクの中のオタクだった。テクノロジーが本当に好きで、世界にはほとんど無関心だった。私たちは、次のしばらくの間、ビジネスとしての自分たちを成長させる必要があったと思う。サムは、他の誰よりもビジネスと成功志向が強いように見えた。」彼は付け加えた。「彼は急いで来たように感じた。他にいるべき場所があるように感じた。」

今、リーはチャンが次のキラーアプリを持ってきてくれることを期待していた。アルトマンが話し始めると、リーは最初の混乱にもかかわらず、釘付けになった。Facebookはすでにセンセーションを巻き起こしており、アルトマンは自分の会社を「モバイル版のFacebook、ただし一ひねりある」と売り込んだ、とリーは回想した。FacebookはIPアドレスを使ってユーザーのおおよその一般位置を推測するだけだったが、Radiateはモバイルキャリアの正確な位置データを使って、リーが最も望んでいたもの、つまりモバイルデータだけが提供できる新しい体験を提供できるはずだった。

ジャスティン・カン、黎明期にカレンダーアプリ作ってGoogleに踏み潰されてる

カンとシアのカレンダーアプリは、YCの応募で可能性として警告していた通り、Googleによってアリのように潰された。彼らはそれをeBayで25万ドルで売却し、グラハムからシード資金を得て別の会社Justin.tvを設立した。Justin.tvは、カンがカメラを頭に装着して自分の人生全体をライブストリーミングするというものだった。その会社は、2014年にAmazonが約10億ドルで買収したビデオゲームストリーミング会社Twitchへと発展した。

CHAPTER 5

サムは誰と話しても評価される

アルトマンと会って間もなく、メイリアードはマカドゥーとランチを共有していた。「あなたに一つ話がある」と彼女は彼に言った。しかし、彼女は創業者たちがスタンフォードを卒業していないことを彼に警告した。「スタンフォードの退学者からたくさん稼いだので、それは問題ないと思います」とマカドゥーは答えた。「ああ、いや、これはセルゲイとラリーが博士課程を中退するのとは違う」と彼女は言った。「この3人の創業者は3年生だ。」マカドゥーはさらに興味を持った。メイリアードは、会社のリーダーであるサム・アルトマンが、これまで出会った中で最も興味深い創業者の一人だと語った。「たとえアイデアがあなたにとって適切でなくても、サムには会うべきだ」と彼女は彼に言った

このレベルの起業家と並び称される

「サムは非常に珍しい人物で、彼に会ってすぐに、この人は並外れて好奇心旺盛で、思慮深く、洞察力があり、オープンマインドで、抜け目がなく、カリスマ的だ――この順序で、と思った」と彼は言った。「私はサムをイーロン、ビル・ゲイツ、パトリック・コリソン、スティーブ・ジョブズと同列に置く。彼に会ったとき、すぐにそう感じた。」

Looptの株、結構渡してる (NEA+Sequoia 50%、Sama 40%、共同創業者2人で10%)

2005年10月7日までに、最終的なタームシートが準備された。NEAとセコイアは500万ドルの投資を分け合い、会社の半分を得ることになった。友人や家族からの約5万ドルを含めると、この取引で会社の評価額は1000万ドル強となった。「彼は初日に50パーセントを諦めた」とNEAのパトリック・チャンは語った。比較すると、セコイアが同じファンドから投資したYouTubeは、シードラウンドとシリーズAで、オンラインビデオポータルを1500万ドルと評価されたほぼ同じ規模の投資で、株式のわずか30パーセントをセコイアに譲渡していた。これは、そのような初期段階で譲渡される割合としてははるかに典型的だった。ある意味で、この違いは、Radiateの理論的に莫大な潜在力と、その時点でそれを証明する能力との間のギャップを反映していた。YouTubeは、プラットフォームがセルフサービスでオンラインだったため、ユーザーの牽引力を投資家に見せることができたが、Radiateはユーザーを獲得する前に通信会社と取引を結ぶ必要があった。共同創設者の中で、アルトマンが最も多くの株式を所有していた。当初、彼、デシュパンデ、シヴォは株式を3等分することを話し合っていたが、アルトマンがY Combinatorに行き、共同創設者たちが夏のインターンシップを選んだとき、彼らは collectively で彼が40パーセントを得ることに決めた。メイリアードは、アルトマンがこれほど多くを諦めることに意欲的だったことに感銘を受けたことを覚えている。「彼のやり方は謙虚で、ウィンウィンを望むものだった」と彼女は言った。「最初から、彼は株式を持っていたが、100パーセントの支配権を主張することはなかった。」

CHAPTER 6

予告なしにオフィスに行って契約を取る

アルトマンはワイナーのオフィスに予告なしに現れ、わずか10分の時間を求めました。ワイナーは彼らを会議室に通し、カーゴショーツ姿のアルトマンが、自分の体には大きすぎるように見える椅子に「インディアン座り」で座り込み、部屋を支配する様子を見守りました。「彼は多分、ずぶ濡れで110ポンドくらいだったでしょう。そして彼は、その福音をただ受け入れている中年大人たちに囲まれていました」とワイナーは回想しました。「彼は自信を放っていました。」約1時間後、ワイナーは会議室を出てBoostの製品担当副社長ニール・リンゼイのオフィスに入り、Boostは「オフィスに現れたばかりの男」と組むために方針を変えなければならないと説明しました、とワイナーは回想しました。Radiateチームは、ワイナーが望む機能を構築できたことで、「彼らが機敏で、理解している」ことを証明していました。ワイナーはSequoiaに人物と財務の照会を求め、そしてその若い会社に初のワイヤレス契約を与えることを決めました。

Looptの社名の由来、Samがビジネスマンなことが伺える

彼らは「Flipt」という名前を検討しましたが、商標の問題にぶつかりました。Facebookがちょうど人気が出始めた頃で、ダブルオー（二重の「o」）を持つ名前には何か幸運なものがあるように思えました。Facebook、Google、Yahoo!（そして最終的には、HBOの風刺ドラマ『シリコンバレー』の架空のHooli）。彼らは多くの名前を検討し、最も不可欠なパートナーであるBoostの延長のように聞こえる名前に落ち着きました。彼らが今後9ヶ月間かけて構築する製品の名前は、Boost Looptという響きになり、会社自体はRadiateからLooptに変わることになりました。

サムのピッチ力でも契約が取れないこともあった

アルトマンのピッチングの腕前にもかかわらず、会社はより多くのワイヤレスキャリアを獲得するのに苦労していました。彼らの会議のいくつかは、ジェイコブスタインが「良い会議病」と呼ぶものに悩まされました。「『ねえ、それは本当に面白いね、もっと教えて』は、契約が締結されたのと同じではありません」と彼は言いました。幹部たちはアルトマンのビジョンやアイデアを聞くのは喜んでいましたが、それを自社の製品に適用しようとしました。「私たちは彼らに多くのことを教えていました」とジェイコブスタインは言いました。Looptの最初のワイヤレス製品が稼働してからほぼ1年が経っても、サービスはたった1つのワイヤレスキャリア、つまり市場シェアが低下している3位のSprintでしか利用できませんでした。ジェイコブスタインは、自分の採用が時期尚早だったと感じ始めました。Looptはまだ、スタートアップの世界で「プロダクトマーケットフィット」と呼ばれるものを探していました。

技術的にはより簡単なTwitterが急成長、Looptはタイミングが早すぎた

一方、ほぼ同時期にローンチされたTwitterは急成長していました。それがLoopt内で不満を引き起こしました。ジェイコブスタインは回想します。「実際、会話は『それって面白くない？あれなら週末で構築できるのに』という感じでした。そしてそれはほとんど軽蔑的でした。『なんて単純なものを作ったんだ』と。」しかし、それがポイントでした。彼らは週末で構築できるものを作ったのです。対照的に、Looptは、位置情報にアクセスするために各ワイヤレス会社にカスタムAPIを構築し、それぞれとのアクセス契約を交渉する必要がありました。「振り返ってみると、最も興味深い質問の一つは、これほど才能あるグループが、なぜこれほど長い間、解決されることのない手に負えない問題に取り組んでいたのかということです。このサービス、Looptが構築していた製品に対する需要は、決して現れませんでした。そしてスマートフォン以前は、このサービスを利用する人々のクリティカルマスを持つというアイデアは、文字通り100種類のデバイス、5、6、7種類の異なるモバイルネットワークに展開しなければならなかったことを考えると、振り返ってみれば一種のばかげたことでした。」

サムは19歳の時点で、核融合に興味があると言っていた + ハゲることを極度に恐れていた？

アルトマンにLoopt以外に何を考えているか尋ねました。アルトマンには2つの答えがありました。脱毛症の治療と核融合です。

サムはLooptの中でも二枚舌、ハードワークを従業員に押し付けてしまって組織面で失敗

シニアマネジメントの多くが取締役会にアプローチし、アルトマンをCEOから交代させるよう圧力をかけました。彼らの不満には、アルトマンが時々真実ではないことを言ったり、従業員に厳しかったりすることが含まれていました。取締役会は彼らの不満を却下し、仕事に戻るように言いました。「18歳か19歳の頃は、悪名高いほど一緒に仕事をするのが難しかった」とアルトマンは数年後、投資家リード・ホフマンに語りました。「会社の創業者で、週に100時間働いて、非常に集中して生産的になりたいなら、それはクールです。しかし、特に会社が大きくなるにつれて、あなたが雇う他のほとんどの人は、他の生活があり、それを理解する必要があります。」

CHAPTER 7

App Storeができた経緯、めちゃくちゃ面白い

進取の気性に富んだ開発者たちはデバイスを「ジェイルブレイク」し、そのコードをオンラインで共有し始めました。夏が終わる頃には、ハワードはLooptのiPhoneアプリのバージョンを稼働させていました。アルトマンはハワードのオフィスで多くの時間を過ごし、彼のデモを見ていました。彼は最終的にハワードのジェイルブレイクされたアプリのいくつかを自分のiPhoneにインストールし、LooptアプリをiPhoneに搭載するためにできることは何でもするとハワードに約束しました。当初、ジョブズはジェイルブレイクを阻止しようとしました。「スティーブは私のオフィスに怒り狂ってやってきました」と、iPhoneのソフトウェア開発チームを率いていたスコット・フォースタルは語りました。ジョブズは、これ以上開発者がiPhone用のサードパーティアプリを構築する方法を見つけられないように、すぐにソフトウェアアップデートを出荷するようフォースタルに命じました。しかし、2007年10月までに、ジェイルブレイクによって構築されたアプリの品質がジョブズの考えを変え始めました。彼はフォースタルに、クリスマスまでにApp Storeを構築するよう指示しました。わずか2ヶ月後です。フォースタルは代わりに、翌年3月の基調講演でアップルが計画を発表し、iPhone 2が発売される翌年6月までにApp Storeに何百ものアプリを揃えるために開発者と協力することを提案しました。

LooptがSequoiaのツテをつかってジョブズにアプローチしようとしたが断られたエピソード

ジョブズはソーシャルネットワークを嫌っていました。「サムを売り込まなければならないだろう」とモリッツはマカドゥーに言いました。モリッツはジョブズに紹介し、マカドゥーはアルトマンの個人的な話についてメールチェーンで補足しました。「Sequoiaが投資した中で最年少の創業者で、スタンフォード大学中退者だ。スティーブは共感できるだろう」とマカドゥーは言いました。彼は、リード大学中退者であるジョブズにその話が響くだろうと正しく推測していました。ジョブズはLooptを見てみることに同意しました。数週間が経っても返事がありませんでした。最終的にマカドゥーはジョブズに催促し、Looptについてどう思うか尋ねました。ジョブズはたった3つの言葉で答えました。「それは弱かった。」マカドゥーはラップトップを手に取り、モリッツのオフィスに歩いて行って彼に見せました。「これどうすればいい？」と彼はモリッツに尋ねました。モリッツはバレンタインのメモを取り、ただ首を振りました。「分からない」と彼は言いました。

weakからcool、ジョブズカッコ良すぎる

アップルの開発者会議の切望されたステージに立つため、アルトマンはジョブズ自身に売り込む必要がありました。アップルの開発者関係チームは、アルトマンとハワードがプレゼンテーションの台本を作成し、彼らにそれを徹底的に練習させました。最終的に彼らはアップルのクパチーノキャンパスにある建物に連れて行かれました。アルトマンとハワードは、ジョブズが元のマッキントッシュチームにインスピレーションを与えるために購入したベーゼンドルファーのグランドピアノがあるロビーで待ち、アップルの美学へのこだわりを象徴するそのピアノの横で待機し、その後講堂に案内されました。座席の中央にはジョブズが座っており、数人のアシスタントに囲まれていました。アルトマンとハワードが予想していた黒いタートルネックではなく、ショートパンツとTシャツを着ていました。彼らは緊張で口が渇いていました。ステージではアルトマンが話し、ハワードが電話でデモを操作し、それが大きなスクリーンに映し出されました。彼らが終わりまで来ると、ただそこに立って見つめていました。一呼吸置いて、ジョブズはたった一言言いました。「クール。」

Appleにバックアップされたの、大きい

プレゼンテーションは、ローンチ時にLooptがiPhoneユーザーに無料で提供されるというメモで締めくくられました。⁴LooptはiPhoneの位置情報機能を披露する手段としてアップルにとって非常に価値があったため、アップルはLooptがiPhoneでどのように機能するかを示す全国テレビコマーシャルまで費用を支払いました。

WWDCのプレゼンでファッションセンスが終わってる男として一躍有名になったのか

2008年6月の彼のプレゼンテーションは、22歳のアルトマンをテック界の即席のスターにしましたが、彼の大胆なファッションセンスのためにテックブログ界では笑い者にもなりました。世界がまだ彼の名前を知らなかったとしても、少なくとも今では「ダブルポロ襟の男」を知っていました。

サムですら、ジョブズに激詰めされた

アップル社内では、Looptは大成功を収めました。ダウンロード数が急増し、数ヶ月後にアップルがiPhoneを国際的に発売する準備をした際、ジョブズはLooptの位置情報技術が、彼が公に発表したすべての言語と国で機能することを保証するよう求めました。当時の技術状況を考えると、これは大変な要求でした。ジョブズがある会議に到着し、Looptが彼が期待するほど広くサービスを提供できないと聞くと、彼はアルトマンに激しく詰め寄りました。その夜、アルトマンはマカドゥーと彼らのお気に入りの寿司屋で夕食に現れ、まだ対立のショックから震えていました。「ジョブズとの会議が今までで一番大変だった」とマカドゥーに語りました。（マカドゥーとチャンは両方とも、アルトマンがジョブズにペンを投げつけられたと話したことを覚えています。アルトマンは投擲物があったことを否定しています。）

ジョブズと仕事できたことが、サムを作った

マカドゥーは、ジョブズとの数ヶ月間の仕事がアルトマンに大きな影響を与えたと語りました。「その時期のアップルとの彼の交流は、起業家として、そして高性能な人々のリーダーとして、彼を本当に良い方向に形作ったものがありました」とマカドゥーは言いました。「あの世界では、わがままな人だからといって手放すことはありません。それはあり得ないことです。あのレベルで活動する人々の半分は、何らかの形でわがままな人だと見なされるでしょう。彼らをどう活用するかを学ぶ必要があります。そして、サムがそれをできるようになったのは、アップルがiPhoneの初期にどのように機能していたかを内側から見て学んだ結果、大きく向上しました。」

一時はfacebookを超える勢いもあった

一瞬、アップルはLooptをソーシャルメディアの王族の領域にまで引き上げました。LooptをフィーチャーしたアップルのテレビCMは、iPhoneでのLooptのダウンロード数をFacebookやMySpaceのそれを上回るほどに押し上げました

リーマンショック前にfacebookから巨額の買収オファーが来ていたが、サムは断っていた

その年の初め、世界経済が破綻する前、FacebookはLooptを約1億5000万ドルで買収するという口頭での提案をしていました。これは最終的に売却される価格の3倍以上でした。Sequoiaのマイケル・モリッツはアルトマンにそれについてどうするつもりか尋ね、アルトマンはパスすると答えました。彼は大規模な独立企業を構築したいと考えていました。「それが正しい答えだ」とモリッツは答えました。

「創業者は時に投資家よりも会社を早期売却したがるものだ」マイケル・モリッツ

モリッツはアルトマンに与えたアドバイスを支持しました。「Looptの軌跡には、将来が非常に有望に見え、したがって早期の売却は時期尚早に見えた時期がありました」と彼は言いました。「投資家は早期に売却したがるという汚名を着せられることが多いですが、私の経験では、長期投資家よりも創業者の方がそうしたがる傾向があります。」アルトマンは、偶然にも、Sequoiaの最も重要なテストに合格していました。

CHAPTER 8

サムですら、Focusができていなかった時期があった

前年、アルトマンは社内で「ゲイ向け出会い系アプリ」と呼ばれ、正式にはLoopt Mixと名付けられたプロジェクトを推進していました。これは、ユーザーが近くにいる新しい人々と出会えるようにするものでした。それはコア製品から多くのエンジニアを引き離し、一部のスタッフを不快にさせました。後にそれは独自のアプリとしてスピンオフされました。ある元Looptのシニア従業員は、アルトマンを「キラキラ症候群」と表現しました。

収益化が難しく、「小さなビジネスしか作れない」状態に苦労していた

会社で確実に収益を上げていた唯一の部分は、社内で「プラットフォーム」ビジネスと呼ばれていたもので、これはワイヤレスキャリアに提供するサービスで、電話の位置情報を検索するコストを削減するものでした。エリック・カーが位置情報技術担当副社長を務めていました。Looptはクアルコムの子会社から一部の技術をライセンス供与し、このサービスを提供していました。これにより、位置情報検索が十分に安価になり、キャリアがその上に実際の位置情報に基づいた広告ビジネスを構築できるようになることを期待していました。そして、年間数百万ドルの収益を上げていました。²一部のシニアエンジニアは、プラットフォームの上に十分なビジネスを構築して、会社を1億ドルで売却できるようにしたいと考えていましたが、アルトマンもLooptの投資家もこれを許容できる結果とは見なしていませんでした。「サムが抱えていた課題は、それで本当に大きな会社にはなれないということでした」とマカドゥーは言いました。「チームが理解していなかったと思うのは、キャリアビジネスを戦略的とは考えていなかったということです。」エンジニアたちは収益性への道がないことを心配し、アルトマンがそれを築くことに興味がないように見えることをさらに心配していました。「サムは彼らの懸念に共感しているとは見なされていなかったと思います」とマカドゥーは言いました。「彼らはヒットを打つことには興味がない」と元Loopt従業員の一人はSequoiaについて語りました。

キラキラ症候群と収益化の問題によって、解任騒動

この緊張は2009年春に頂点に達しました。会社のシニアリーダーの約12人が、Sequoia本社2階の会議室で、ある者が「来い、イエス」会議と呼んだ取締役会との会議を招集し、アルトマンをCEOから交代させるよう求めました。アルトマンを含む会社の共同創設者全員がそこにいました。また、カー、タナ、レモン、ナップ、マーケティング責任者シャリ・ヨーダーを含むトップリーダーもいました。会議中、エンジニアたちは、アルトマンの「キラキラ症候群」が会社を傷つけ、コアのLooptアプリをスケールアップさせることができず、唯一の収益源である事業を追求することも妨げていると述べました。アルトマンは、この会議を本質的に戦略に関するものだと見ていました。「数人が本当に良いエンタープライズビジネスを構築したいと考えていた、深刻な戦略的意見の相違がありました」とアルトマンは語りました。

サム・アルトマンはネットワーク・リファラル力が高すぎてSequoiaのスカウトとして貢献していたと

アルトマンは他の面でもSequoiaにとって役立つことを証明していました。「彼はLooptのオフィスで常にスタートアップとの会議をしていました」とある従業員は回想しました。2009年までに、Sequoiaはアルトマンのネットワーキングの才能を正式に活用し、秘密の「スカウト」プログラムに彼をスカウトすることを決定しました。アルトマンはすぐにSequoiaのスター・スカウトになりました。

PG「サム、お前も投資しろよ」

2009年2月、コリソンはパロアルトのグラハムの家のキッチンでくつろぎながら、彼がブログに書いたばかりのことについて話していました。それは、インターネット上に銀行を設立し、手数料や実店舗の銀行の摩擦なしに人々がお金を移動できるようにするというアイデアでした。これはイーロン・マスクのX.comの元のビジョンに似ており、後にPayPalに統合されました。グラハムは反射的に投資を申し出ました。数分後、偶然アルトマンが到着すると、グラハムは彼にも同じように投資するよう促し、機会を彼と分けると言いました。彼らは両者とも15,000ドルの小切手を書き、会社にはまだ名前がなかったので「宛名」の欄は空白でした。アルトマンが一つ提案しました。「彼は、ナショナル・アメリカン・バンク・カンパニーのような、非常にレトロなアメリカ風の名前を付けるべきだと提案しました」とコリソンは語りました。結局、彼らはPayPal以前と同様に、インターネット銀行のアイデアを断念しました。それはあまりにも難しすぎたからです。代わりに、彼らは決済会社となり、わずか9行のコードでウェブサイトがクレジットカードを受け入れられるようにするエレガントなAPIを提供しました。1年後、コリソンと彼の兄が正式に会社を設立したとき、彼らはそれをStripeと名付けました。アルトマンのStripeへの15,000ドルの投資は、今日700億ドル相当の会社の2パーセントを獲得しました。これは米国で最も価値のあるスタートアップの一つであり、アルトマンのキャリアで最も成功した投資です。StripeはSequoiaのスカウト投資だったため、アルトマンは収益のほぼ半分を自分自身で保持することができました。Sequoiaはその後、2010年にStripeにシード投資を行い、2011年にはピーター・ティールを含む投資家と共にシリーズA投資を行いました。「サムはそれをナビゲートするのに非常に役立ちました」とコリソンは語りました。「私たちはアイルランドから来た、明るい目をした、毛むくじゃらの世間知らずで、ピーター・ティールやマイケル・モリッツといった人々を、私たちにとっては一種の神様のように扱っていました。そしてサムは、いつものように、彼らの誰にも全くひるむことなく、非常に役立つ助言をしてくれました。」

Looptは上手く行っていなかった

彼はシュトライトにアルトマンを紹介することを申し出ました。モリッツが最初の売り込みで言及しなかったのは、Looptの状況がかなり絶望的だったということでした。2010年後半までに、Looptはユーザーを失血していました。「彼らはその馬をかなり強く叩きましたが、走ることはありませんでした」とシュトライトは言いました。「その頃には、Facebookなどがソーシャルメディアの競争に勝っていました。」

Looptの買収はアクハイヤーだった

2012年3月、両社はGreen DotがLooptを現金4340万ドルで買収すると発表しました。これにはLooptの30人の従業員に対する980万ドルの保持金が含まれていました。「それはアクイハイヤーでした」とシュトライトは言いました。Looptの製品は閉鎖されることになりました。

Looptは人々のテクノロジーの使い方を読み誤ったのが敗因

Looptの失敗については、デジタル技術を人々がどのように使うかについての彼の誤読が原因だと彼は考えていました。「私たちは、位置情報がすべて重要だという楽観的な見方をしていました」と彼は同誌に語りました。「悲観的な見方では、人々はソファに寝そべってコンテンツを消費するだけだ――そしてそれが起こったのです。人間がやりたくないことをさせることはできないと学びました。」

CHAPTER 9

ピーター・ティール、意外とコンプレックスが原動力でコントラリアンになった説

彼の伝記作家マックス・チャフキンによれば、リベラルなクラスメートからのいじめと相まって、ジラールとの研究は、ティールの生来の反骨精神を加速させるのに役立った。学部生時代、この傾向は保守的なスタンフォード・レビューの創設という形で現れた。30歳で、彼はキャンパスの多文化主義を非難する本を出版した

サムはLoopt M&A Exit時に当時のレートで5億円のCashを得た、意外と少ない Looptでは結構株をVCに放出していた (最初のFinanceでNEA+Sequoia 50%、Sama 40%、共同創業者2人で10%)ためか？

アルトマンはLooptから去った後、打ちのめされ、約500万ドルを得た。契約条件によれば、彼はグリーン・ドットの取締役を務め、同社のモバイルバンキングアプリ開発を支援することになっていた。彼は特に、同社の収益の70パーセントを占め、契約解除を脅かしていたグリーン・ドットの最も重要な顧客であるウォルマートとのひどい会議に出席した。その後、アーカンソーの駐車場で、アルトマンはストレイトに冷静に言った。「うわあ、ひどい会議だったね。」しかし、全体的には、彼は自分の人生を再考する自由を得た。

Exit後はニート期間を作って、世界旅行、起業家あるある

「会社を立ち上げることを考えた」とアルトマンは語った。「投資することも考えた」。セコイアは彼を彼らのベンチャーキャピタル帝国にさらに引き込もうとしたが、彼は断った。ヨーロッパをバックパックで旅し、東南アジアには何度も足を運び、日本も訪れた

サムとピーターのコンタクト

アルトマンとティールは何年か前から知り合いだった。アルトマンは最初に、核エネルギーへの共通の関心から、この年上の投資家にアプローチした。「私が真剣にエネルギーについて考え始めたとき、誰かが私に『彼は今、核について考えている唯一の投資家だから、彼と話すべきだ』と言ったんだ」とアルトマンは語った。

ピーター・ティールは世界を加速させるためにVCをやっている、The End of the futereから一貫しすぎてる
サムと一緒にHelionへの投資も行なった

政府がこの問題を解決しないのであれば、ティールはベンチャーキャピタルを通じて自ら解決することを決意した。新しい世代の核技術に投資することは、世界をより良い場所にする可能性のある一発逆転に資金を投じるだけでなく、進歩そのものを脅かす忍び寄る力と直接戦うことでもあった。後に、アルトマンが核融合を実用化するコードを解読することを目指すヘリオン・エナジーをYコンビネーターに誘致した後、ティールは自身の会社ミスリル・キャピタルを通じて、アルトマンの個人的な出資と並行して、同社のシードラウンドに資金を投じた。

Stripe応援団、レジェンドのバーゲンセール、勝ち確すぎて草

Stripeがセコイア、ティール、PayPal共同創業者マックス・レフチン、単独投資家エラッド・ギルから1800万ドルのシリーズA資金調達ラウンドを行っていた際、コリソンがパロアルトのオフィスと自宅の間を自転車で移動する間に、何十回もの電話でプロセスを説明し、不可欠なアドバイザーの役割を果たしたのはアルトマンだった。最終的に、このラウンドは若い決済会社を1億ドルと評価した

エグい、ピーター・ティールからマーク・ザッカーバーグ以上だと評価される、この時点で？

ティールはアルトマンを「非常に、非常に賢い」だけでなく、「非常に原則的で、非常に厳格で、非常にバランスが取れていて、おそらく少し楽観的すぎる」と感じた。彼の主な魅力は、彼が知っていることではなく、彼が誰であるかだった。プロローグで述べたように、ティールにとってアルトマンは「シリコンバレーの絶対的な中心、いや、シリコンバレーの時代精神の絶対的な中心」にいた。ティールは、FacebookのCEOマーク・ザッカーバーグ（Facebookの最初の外部投資家になった後、彼が指導した）と、ザッカーバーグが良くも悪くもミレニアル世代の顔として描かれていたが、実際には完璧な適合ではなかったことについて、長い間話し合っていた。「もしあなたがミレニアル世代のテック系人物を代表する人物を一人挙げるとすれば、それはアルトマンだろう」とティールは語った。

めちゃくちゃ良い。サム・アルトマンは良いやつ、ピーター・ティールは捻くれ者、サムはピーターの批判的思考を尊敬している

ティールのデフォルトで反骨的な世界観は、アルトマンが人々を幸せにしたいという傾向とは相容れない。しかし、アルトマンがティールに何よりも尊敬しているのは、アルトマンが同意するかどうかにかかわらず、斬新な思考を生み出すために常識に逆らう彼の性向である。「彼は世界を深く制約のない方法で考えているようだ」とアルトマンは最近のポッドキャストで語った。別のインタビューで、アルトマンは、独創的なアイデアが世界で最も希少な商品の一つであると示唆した。そして、それはティールが豊富に持っている資源の一つである。

「時には、ただロケットに乗ってみたいだけなんだ」とティールは言った。ピーター・ティールも単純な投資をするんだなぁ

「もし何かが極端に過小投資されているなら、全く反骨的である必要はない。ただ時代精神に乗っていたいだけだ。サムはそれを極めてうまくやったと思う。」ハイドラジンは、エンタープライズソフトウェアから専門食品まで、明確なテーマを持たずに様々な業界に資金を投じた。投資を結びつける唯一の共通点は、そのほとんどがYコンビネーターを経由していたことだった。これには、HRスタートアップのZenefits、サプライチェーン物流プラットフォームのFlexport、ビデオチャット言語学習サービスVerbling、デジタル建設市場BuildZoom、食事代替会社Soylent、オンライン離婚サービスWevorceなどが含まれる。唯一の例外は、アルトマンのLoopt時代の旧友サム・ヤムが共同設立した自己ストリーミング収益化プラットフォームPatreonだった。ハイドラジンは本質的にYCのインデックスファンドであり、ティール自身が避けていた「愚かなくらい単純な」投資だった。

ピーターですら、お友達同士で紹介し合って投資してる

ハイドラジンはYCのいくつかの企業に投資したが、ティールのファウンダーズ・ファンドはアルトマンがその年最高のYCスタートアップだと述べたものに投資した。2012年にはAirbnbだった。「勢いが過小評価されている世界では、おそらく年に一度、最高のYC企業を選ぶべきだ」とティールは語った。ファウンダーズ・ファンドはAirbnbに25億ドルの評価額で投資した。現在、その価値は約2000億ドルに達する。翌年、彼らはStripeに17.5億ドルの評価額で投資した。現在、その価値は約650億ドルに達する。「その頃サムと私が交わした会話は、『何が一番良いか？』というものだった。」

Eliezer Yudkowskyの影響結構あるな

サミットに参加したSkype共同創設者ヤーン・タリンは、ユドコフスキーに触発され、AIによる実存的リスクを軽減するための研究の主要な資金提供者の一人となり、当初はOpenAIに資金を提供し、後にOpenAIのライバルであるAnthropicに資金提供を切り替えた。

エリーザー・ユドコウスキーがシェーン・レッグとデミス・ハサビスにピーター・ティールを紹介し、ピーター・ティールは会社設立前にDeepMindに投資した

2010年、ユドコフスキーがサミットで講演に招いたAI研究者の一人に、ニュージーランド生まれの数学者、コンピューター科学者、バレエダンサーであるシェーン・レッグがいた。その後、ロンドン大学ガツビー計算神経科学ユニットの博士研究員として移籍した。この研究室は、神経科学、機械学習、AIを網羅していた。そこで彼は、シンガポール人の母とギリシャ系キプロス人の父を持つロンドン出身のゲームの天才、デミス・ハサビスと出会った。ハサビスはかつて、14歳未満で世界第2位のチェスプレイヤーだった。現在、彼は人間の脳に触発されたAIの構築に注力していた。レッグとハサビスは、共通の、深く時代遅れのビジョンを共有していた。レッグは、それがアカデミーで構築できると考えていたが、すでにスタートアップを試みて失敗していたハサビスは、よりよく知っていた。それを実現する唯一の方法は、産業界を通じてだった。そして、始めるべき明白な投資家が一人いた。ピーター・ティールだ。ユドコフスキーは彼らをティールに紹介した。ハサビスは冷静を装い、難しい売り込みを避け、ティールの心に深く響くチェスから話を始めた。彼らはティールに、ワークアウトを終えたばかりのティールのダイニングテーブル越しにピッチを行った。ハサビスは、人間の脳に触発されたAGIを構築しており、最初はゲームをプレイする訓練によってその進捗を測定し、コンピューティング能力の進歩が彼らのブレークスルーを推進すると確信していると語った。ティールは最初はためらったが、数週間のうちに225万ドルを投資することに同意し、まだ名前のない会社の最初の主要投資家となった。数か月後、ハサビス、レッグ、そして彼らの友人である起業家ムスタファ・スレイマンは、正式にDeepMindを共同設立した。

デミス・ハサビスの「私の超知能は火星まで人類を追いかけるでしょうね」
イーロンはルーク・ノセックの紹介でデミスに会った、一旦DeepMindに投資して、動向を見ることにした

翌年、PayPalとファウンダーズ・ファンドの共同創設者で、マスクの友人でありSpaceXの取締役でもあるルーク・ノセックが、ハサビスをマスクに紹介した。マスクはハサビスをロサンゼルスのSpaceX本社に案内した。二人が会社のカフェテリアで昼食をとるために座ったとき、彼らは宇宙的な会話を交わした。ハサビスはマスクに、自分が世界で最も重要なこと、つまり超知能AIに取り組んでいると語った。マスクは、自分こそが世界で最も重要なこと、つまり人間を火星を植民地化することで惑星間種族に変えることに取り組んでいると答えた。ハサビスは、もし暴走AIがマスクを火星まで追いかけて人類を滅ぼさない限り、それは素晴らしいことだと答えた。それは素晴らしいことだ、暴走AIがマスクを火星まで追いかけて人類を滅ぼさない限りは。マスクは非常に静かになった。彼はそのことについて本当に考えたことがなかった。彼はDeepMindの技術に投資することで、その動向を追うことにした。

DeepMind → ピーター・ティール → サム・アルトマンという経路

DeepMindの成果—混沌とした世界を理解し、目標に向かって働くことができる汎用知能への大きな一歩だった—の意味は、同社がその発見に関する論文をジャーナル『Nature』に発表するまで、1年以上広く理解されていなかった。しかし、DeepMindの投資家であるティールは、それらをよく理解しており、アルトマンと議論した。2014年2月、GoogleがDeepMindを買収した1か月後、アルトマンは自身の個人ブログに「AI」と題した投稿を書き、このテクノロジーが人々が十分に注意を払っていない最も重要な技術トレンドであると宣言した。

CHAPTER 10

外から見たら「え、サム・アルトマン？誰？」状態だった

ポール・グラハムがYコンビネーターのトップを辞任し、その手綱を28歳の失敗したスタートアップ創業者サム・アルトマンに引き継ぐと発表し、シリコンバレーを驚かせたばかりだった。「サムが誰だか誰も知らなかった」と、電話充電スタートアップDobletの創業者であるドクター・ガーソンは語った。「ポール・グラハムと仕事をするのを楽しみにしていたので、少しがっかりした人もいた」。「サム・アルトマンのことは聞いたことがなかった」と、その年YCに参加していた身元調査自動化会社Checkrの創業者ダニエル・ヤニスは回想した。「彼の経歴を調べてみると、買収前に彼の会社Looptがそれほど大きくならなかったことに驚いた。彼の特別な才能やスキルは何なのか、ただ興味があった。それを理解するのに少し時間がかかった。」アルトマンは、内向的で技術的、そしてオフィスアワー中には時折ぶっきらぼうな印象を与え、雑談を飛ばして、どうすれば助けられるかという質問にまっすぐ入っていった。

サム・アルトマンはYCのPresidentをやりたくはなかった

アルトマンは依頼されて光栄に思ったが、最初は確信が持てなかった。「メンターからそう言われるのは嬉しい」と彼は言った。「でも、しばらくはやりたくなかった」。エンジェル投資—特に他人の金を使うこと—は、彼が「役に立つこと」と呼んだアドバイス提供や恩義の交換と同様に、すべて問題なかった。これらのスキルは、彼がバレー全体にわたって熱心な忠実なネットワークを築くのに役立っていた。しかし、彼はまだ、これらすべてが「すること」のためであり、「教えること」のためではないと考えていた。「私は会社をやりたかった。投資家になるのは非常に向いていると分かった。でも、当時は自分を投資家とは全く思っていなかった」。特に、彼は核分裂スタートアップをやりたかった。

サム・アルトマンの思想のバックボーンは、ピーター・ティールの「民主主義は成長に支えられている」

アルトマンのYC拡大のビジョンは、ティールの技術停滞に関する不満に深く影響されていた。彼が職に就く前年、アルトマンは自身のブログで、PGスタイルで個人的な哲学エッセイを発表し始めていた。初期のエッセイの一つは、彼の最も深く、最も持続的な信念の一つを述べていた。「経済成長がなければ、民主主義は機能しない。なぜなら、有権者はゼロサムシステムを占有するからだ」と彼は書いた。人間が分かち合うことを教えるのは不可能だった。成長は、それをしなくても済むような一種の精神的なハックだった。この主張を裏付ける歴史的証拠もいくつかあった。アテネ民主主義は200年未満しか続かなかったが、それは主に奴隷を通じて、近くの銀鉱山から莫大な富を抽出していなければ、おそらく全く存在しなかっただろう。民主主義が銀鉱床が枯渇したのとほぼ同時期に衰退したことは、おそらく偶然ではない。

CHAPTER 11

2015年からイーロンは超知能リスクについて心配していて、学会にも行っていた

2015年1月、プエルトリコのサンフアンにあるビーチサイドのカリブ・ヒルトンでの集まりは、コーネル大学コンピューターサイエンス教授バート・セルマンにとっては典型的な学術会議のように見えた。しかし、会議室のドアの近くに警備員が集まっているのを見て、彼は驚いた。同じ屈強な男たちが参加者の昼食に同行したとき、これが普通の会議ではないことが明らかになった。学者やGoogleの従業員、そして奇妙なほど大勢の若いバークレーの数学博士たちの中に、特に熱心な一人の億万長者、イーロン・マスクを含むかなりの数の億万長者がいるようだった。マスクは、熱で頬を赤らめ、髪は少し乱れており、前夜にテスラの机の下で寝たかのようだった。彼は漫画の宇宙飛行士が描かれた黒いTシャツを着ていた。当時、彼はテスラとSpaceXの両方のCEOだったが、世界初のAI安全に関する会議のあらゆる部分に熱心に参加し、薄毛で眼鏡をかけたボストロムと共にステージに立ち、人間が創造主を気にかけるというより良い保証なしに賢い機械を構築することの危険性について警告を繰り返した。昼食中、マスクはテーブルを回り、集まったAI研究者たちに、人類が超知能のリスクをどのように制御できるか尋ねた。「イーロン・マスクはそれを実存的なものだと本当に見ていた」とセルマンは回想する。「当時、機械が支配することについて心配するのは少しとんでもないことのように思えた。」

Skypeの共同創業者のヤーン・タリンはエリーザー・ユドコフスキーの影響を受けてAI安全性界隈に入った

この会議は、MITの物理学者マックス・テグマークが設立したFuture of Life Instituteによって、設立から1年足らずで開催された。この研究所は、Skypeの共同創設者で効果的利他主義者であるヤーン・タリンからの年間10万ドルの誓約によって資金提供されていた。2005年にSkypeがeBayに売却されて億万長者になった後、タリンはユドコフスキーのAIリスクに関する著作に出会い、次の行動を模索していた。彼は当初懐疑的だったが、サンフランシスコ国際空港近くのパネラブレッドでユドコフスキーと4時間座って話した後、改宗した。すぐに、彼はAIの実存的リスクについて警鐘を鳴らす最も著名な人物の一人となり、Centre for the Study of Existential Riskを設立し、DeepMindに早期投資を行った。¹学術的なものよりも政治的な力を持つようになった

この会議で AIの三原神が揃ってた

参加者のほとんど—マスク、スティーブン・ホーキング、そして多くのAI研究者を含む合計8000人以上—は、AI研究の目標が、テグマークの言葉を借りれば「無方向な知能ではなく、有益な知能」であるべきだと呼びかける公開書簡に署名した。この書簡は、AIが「有益」であり続けることを確実にするための研究の拡大を求め、「私たちのAIシステムは、私たちが望むことを実行しなければならない」と付け加えた。この書簡の内容はほとんど物議を醸すものではなかったが、それが存在するという事実自体が、長らく異端と見なされてきた一連の信念を主流にする大きな飛躍となった。署名したAI実践者の中には、DeepMindのデミス・ハサビスと、2人のAI研究者、イリヤ・サツケバーとダリオ・アモデイがいた。

イーロンとサムの関係の始まり

アルトマンとマスクは、マスクが様々な会社を巡ってベイエリアに来る毎週水曜日に定期的に夕食を共にするようになった。彼らは数年前から知り合いだった。YCパートナーのジェフ・ラルストンが彼らを紹介し、アルトマンがロサンゼルスのSpaceX工場を見学する手配をして以来だ。「彼はロケットのあらゆる部品の製造について詳しく話してくれたが、記憶に残っているのは、火星に大型ロケットを送ることについて話したときの彼の顔の絶対的な確信の表情だった。私は『ふむ、それが確信の基準というものか』と思った」とアルトマンは数年後に書いた。

ビッグサーとニュージーランドだけしか生き残れない

アルトマンがその会話を特徴づけたのは次の通りだ。「イーロンと私は話していた。世界は終わろうとしている。安全な場所は2つしかないと計画した。ビッグサーとニュージーランドだ。私はここに場所を持っている。彼はそこに場所を持っている。そして、私たちは構築し、複製し、このAIが現実のものだと気づいている。それは本当に悪いことかもしれないが、本当に大きくて重要であり、私たちは安全であることを確認しなければならないし、良いことをしなければならない。」（マスクのスターリンクはニュージーランドに存在しているが、アルトマンが話していたのは、マスクのPayPalマフィアの仲間であるティールで、彼もニュージーランドに場所を持っている可能性が高い。）

サムがイーロンにAIのマンハッタン計画を行う非営利団体を提案

同じ月、アルトマンはマスクに「人類がAIの開発を止めることが可能かどうかについて、たくさん考えている。答えはほぼ間違いなく不可能だ。もしそれが起こるなら、Google以外の誰かが最初にそれを行うのが良いだろう」と書いた。アルトマンは、Yコンビネーターが「AIのためのマンハッタン計画」を開始することを提案した。これは、ハサビスが2010年にDeepMindを売り込む際に使ったのと同じ言葉だ。さらに、「技術が何らかの非営利団体を通じて世界に属するように構造化できるが、それが機能すれば、そこで働く人々はスタートアップのような報酬を得る。もちろん、私たちはすべての規制に準拠し、積極的に支持するだろう。」

サム・アルトマンもStripeへのエンジェル投資で財を成したが、グレッグ・ブロックマンもStripeでキャリアアップした

ブロックマンは2010年にMITを中退し、Stripeの4番目の従業員として加わった。Stripeは彼に夢のスタートアップライフを与えた。Stripeの従業員は、ブロックマンが午前7時に到着し、机で寝落ちし、音楽が大音量で鳴り響き、ピザの箱が散乱し、夜通しコーディングしていたことを覚えている。彼はオフィスを靴下で歩き回り、「コード洞窟」と呼ばれる場所で長時間過ごすのを好み、時には誰も頼んでいない完全に完成した製品を持って現れた。ブロックマンを際立たせたのは、彼の知性（コリソンはすべてのエンジニアにとって必須だと言った）以外に2つのことだった。それは、Stripeのビジネスが一部であったより広範なシステム（この場合はオンラインでのクレジットカード決済）に対する彼の幅広い好奇心と、「彼のほとんど比類のない意志と生命力」だった。コリソンは「グレッグほど決意の固い人はほとんどいない」と語った。

Stripeの社内でLess Wrongの輪読会をしていた

Stripeでは、エリザー・ユドコフスキーが2009年に設立し、深層学習の革命が、潜在的に優れた創造物について人間が何をすべきかという倫理的な問題を提起していた合理主義コミュニティの中心となっていたブログ「Less Wrong」の週刊読書会を設立した。アルトマンもAIプロジェクトに取り組んでいると述べた。

サムアルトマンのやりたいことは結構変わってる

アルトマンは薄っぺらな木製のステージに立ち、レッドウッドの間から光が差し込む中、人類を根本的に変えることができる3つのことがあると宣言した。YC社長としての最初のブログ投稿以来、彼の優先順位リストは少し変わっていた。今や機械超知能がトップにあり、次いで核エネルギーとパンデミックが続いた。「これが私が取り組みたいすべてだ」と彼は折りたたみ椅子に座る何百人もの創業者たちに語った。

サムが当時のニューラルネットワーク研究でレジェンドだったイリヤに声をかけた話
イリヤの風貌、かっこよすぎる

アルトマンはまた、AIに関する講演をオンラインで調べて感銘を受けた人物にコールドメールを送っていた。イリヤ・サツケバーは、アレックス・クリジェフスキーとジェフ・ヒントンと共著した2012年の「AlexNet」論文で、ニューラルネットワークへの関心を再燃させたことで、すでにAIの世界ではアイコン的存在だった。彼は、彼らの小さなニューラルネットワークスタートアップをGoogleが買収した後、Googleで働くようになった。Googleでは、前年12月の神経情報処理システム会議（NIPSと略されていたが、後にNeurIPSと呼ばれるようになった）で発表された最近の論文を含む画期的な研究を行っていた。それは「シーケンス・トゥ・シーケンス」学習に関するもので、最近のAIの進歩の原動力となる最初のスケーリングパラダイムを力強く明確に示した。しかし、彼は落ち着きがなかった。サツケバーは、あらゆる場面でキャンプ用品を好む傾向があった。強風に備えてストラップ付きのつば広ティリーのセーリングハット、高く締め上げた黒いパタゴニアのファニーパック、速乾パンツなど、まるでいつでもワイルドな冒険に飛び出せるかのようだった。

イリヤ、神童すぎる

ソビエト連邦でユダヤ人の両親のもとに生まれたサツケバーは、5歳の時に家族と共にイスラエルに移住した。同じ年齢で、彼は自身の意識を突然認識した。「まるで人間として目覚めたかのようだった」と彼は語った。「ただ、とても衝撃的だった」。その瞬間は彼の中に残り、後にAIが意識の謎を解き明かすのに役立つのではないかと考えるようになった。「魂に興味があった」と彼は語った。「魂がするであろうことは学習かもしれない、なぜならコンピューターは学習できないからだ。だから、もしコンピューターが学習できるなら、魂について何が言えるだろうか？」。幼少期から、彼は「学習とは何か」という「未解決の大きな問題」と、コンピューターがそれをできるかどうかということに魅了されていた。

イリヤの天才エピソード、17歳でジェフリー・ヒントンを唸らせた
脳のアナロジーでニューラルネットワークを拡張することがAGIにつながると最初から信じていた

16歳の時、彼の家族はカナダに移住し、彼は11年生として1ヶ月間高校に通った後、トロント大学に3年生として入学するために中退した。サツケバーと彼の両親が、高校の学位なしで大学に彼を受け入れるよう激しくロビー活動を行ったが、大学が彼を受け入れるとすぐに、彼は伝説的なAI研究者ジェフ・ヒントンのドアに向かった。彼は17歳で、彼の主な仕事は近くのパラマウント・ワンダーランド遊園地でフライドポテトを売ることだったが、彼はヒントンに、機械学習を彼と一緒に研究できるか尋ねた。日曜日の夜、ヒントンはサツケバーに、本当の会話のために後日戻ってくるよう提案した。サツケバーはしつこく食い下がった。そこでヒントンは彼に、バックプロパゲーションに関する彼の画期的な論文を渡し、それを読んだら戻ってくるように言った。数日後、サツケバーが戻ってくると、彼は理解できなかったと言った。「ただの基本的な微積分です」とヒントンは答えた。「いや、そうじゃない」とサツケバーは言った。「私が理解できないのは、なぜ微分を取って、それを適切な関数最適化器に与えないのかということです。」¹⁷ヒントンがその点に到達するまでには何年もかかっていた。彼はそのティーンエイジャーに別の論文を家に送り返し、サツケバーは同様の洞察を持って戻ってきた。「彼は、『ニューラルネットを一つのことをするように訓練し、それから別のことをするように訓練する。なぜ両方同時に訓練しないのか？』と言った」とヒントンは回想した。「彼は私がこれまで持っていたどの学生よりも良いアイデアを持っている」とヒントンは語った。彼はサツケバーを自分の研究室に招いた。正式な学校教育では他の学生に遅れをとっていたにもかかわらずだ。サツケバーはトロント大学で数学の学士号を取得し、その後ヒントンを指導教員としてコンピューターサイエンスの博士号を取得した。「彼は数学がとても得意だが、一番重要なのは、自分で考えること、そして考えることがとても得意だ」とヒントンは語った。「彼は知的に正直で、恐れを知らない。彼は、ただ自分がそう考えたからといって、あるアイデアに固執することはない。」これらの特性の組み合わせにより、彼は洞察力に富み、他者のアイデアにも非常にオープンな、需要の高いリーダーとなった。しかし、彼は初期からニューラルネットワークの可能性について深い確信を抱いていた。「イリヤはニューラルネットベースのAIに非常に強い信念を持っており、初期から、これらのニューラルネットワークをスケールアップすれば、より良く機能するという非常に強い信念も持っていた。多くの人はそう信じていなかった」とヒントンは語った。多くの人は、そのアイデアが、ニューラルネットがまだうまく機能しない言い訳に過ぎないと考えていた。「イリヤは、それが大きくなればより良く機能することを理解しており、おそらくその見解に最もコミットした研究者だった。」サツケバーは、間違いを犯していないことを確認するために、まず他のすべてのAI形式を注意深く研究し、排除のプロセスを通じてこの確信に至ったと語った。「最終的に、私は、他のすべてのAI形式が絶望的である理由について、極めて明確で、単純で、説得力のある説明を形成することができたと信じている」と彼は語った。サツケバーの見解では、AI研究の分野は、著者たちが賢く聞こえるような印象的な定理を含む漸進的な論文を発表するという学術的な要請に支配されていた。彼は、これらの学者を駆り立てているものを「数学への嫉妬」と名付けた。そして、彼は自身の数学の学位がそれに免疫を与えていると感じていた。「もしそれがあなたを導くものなら、証明できる定理があるものを好むだろう。一方、ニューラルネットベースのAIは、複雑すぎるため定理を証明できない」と彼は語った。「しかし、問題は、私たちが学ぶ必要があるものは複雑だということだ。だから、もしあなたのAIが単純すぎると、それは絶望的だ。決して機能しない。複雑でなければならない。」サツケバーの確信は、人間の脳がAGIへの効果的な地図であるという彼の信念に基づいていた。ヒントンが言うように、私たちはタクシー運転手の脳内で何が起こっているのか理解できないが、だからといって自信を持ってタクシーに乗り、行きたい場所に行けることを期待しないわけではない。「ニューラルネットベースのAIが理解不能であるという事実が、その成功を推進する重要な特徴だ。私たちは理解不能な問題に理解不能な解決策を使っている」とサツケバーは語った。「しかし、はるかに強力な点は、人間の脳も小さな単純なニューロンから構築されたニューラルネットであるという事実だった。もし脳がそれをできるなら、適切に訓練されたニューラルネットができないはずがないだろう？問題は、何が『適切に訓練された』を意味するのかを解明することだ。」ヒントンの研究室全体は、ニューラルネットワークが機能し、その可能性の限界を押し広げようとするという前提に基づいていた。人間の脳は1000億個のニューロンで構成されており、それらは効果的に小さなスイッチとして機能し、信号の強さに応じて、一方の端から入ってくる信号—樹状突起—を通過させるか否かを決定する。1940年代に初めて提案された人工ニューロンは、これらのスイッチの粗い近似であり、樹状突起に入る信号の強さのアナログは「重み」と呼ばれる数値で記述された。ヒントンの1980年代の大きなブレークスルーであるバックプロパゲーションは、重みを訓練するための数学的公式を含んでいた。

イリヤがOpen AIにジョインすることになった経緯
イーロンが深く関係している

「少し脳のようになる」とサツケバーはバックプロパゲーションについて語った。「それは、ニューラルネットワークが実際に興味深いことを学習できることを意味する」。しかし、長年、ニューラルネットは、その支持者たちが望んでいた結果を出せなかった。そして2010年頃、ゲームを変える新しい技術が登場した。グラフィックス処理ユニット、つまりGPUだ。元々はビデオゲームのグラフィックスを実行するために設計されたGPUは、同時に多くの計算を高速に処理する独自の能力を持っていた。これにより、研究者たちは過去よりもはるかに大きなニューラルネットワークとデータセットで作業できるようになった。ついに、彼らは人間の脳のサイズと複雑さに近づくことができた。「このアナロジーに従うなら、大きなものが必要だ。なぜなら、脳は多くのニューロンでできているからだ」とサツケバーは語った。ヒントンとサツケバーは、ニューラルネットワークがコンピュータービジョンを解決するための様々な要素が揃っていると信じていた。それを証明するために、サツケバーは、スタンフォード大学が開催する毎年恒例のコンペティションに参加することを研究室に提案した。スタンフォード大学は、ImageNetとして知られる世界最大の画像データベースを構築し、研究者たちに機械に画像を正しくラベル付けさせることを課題としていた。毎年、エラー率が最も低い研究チームが優勝した。ヒントンは研究室のためにGPUを購入し、サツケバーのラボパートナーであるアレックス・クリジェフスキー（GPUから性能を引き出す才能あるエンジニア）に魔法をかけさせた。彼はモデルに写真を投入し、それが認識するものを命名できるようになるまで調整を続けた。一方、サツケバーは、機械がより消化しやすいようにデータを準備することに集中した。最終的に、彼らのモデルはImageNetコンペティションで圧倒的に優勝し、クリジェフスキーにちなんでAlexNetと口語的に呼ばれるようになったその後の論文は、AIにおけるニューラルネットワークが実行可能な道であることを示した。ただし、それを実現するには膨大なエンジニアリングの技巧と計算能力が必要だった。¹⁸ 「あなたのニューラルネットワークは適切なタイプである必要があります。すべての詳細が適切である必要があります。一度そうなれば、それを大きくするのです。私たちはそれをすべてやりました。そして、それは機能しました」とサツケバーは語った。「もし人工ニューロンと生物学的ニューロンが似ていると信じるなら、人間の脳のサイズであるニューラルネットは、原則として、人間ができることなら何でもできるはずだと明らかになります。」 2012年の論文は、この分野と著者たちの人生の両方を一変させた。彼らが設立したスタートアップDNNresearchは、多くの大手テック企業の間で買収合戦の対象となった。Googleが勝利した。長年シリコンバレーについて読んできたサツケバーは、Googleのマウンテンビューキャンパスに移り、自分の幸運に身を摘んだ。「まるで未来にいるようだ。誰もがAIに興味を持っている」と彼は語った。彼はGoogleを愛していたが、冒険をより愛していた。だから、アルトマンがローズウッドに招待するメールを送ってきたとき、彼は興味をそそられた。特にアルトマンがマスクも夕食に来ると言ったときには。「イーロンがそこにいると知って、とても興奮した。この夕食に駆けつけた。」グレッグ・ブロックマンは、メインイベントに間に合わなかったと心配して遅れて現れたが、マスクはさらに遅く、1時間後まで到着しなかった。その間、アルトマンはブロックマンを、サツケバーを含むまだ知らない研究者たちに紹介した。マスクは、彼らが中に移動し、長いテーブルに座った後、Googleや他のテック企業が莫大な先行者利益を持っていることを考えると、AIラボを始めることがそもそも可能なのかという問題について議論した。「誰もが不可能である理由を考え出そうとしていたが、誰も十分に説得力のある理由を提示できなかった」とブロックマンは語った。「見込みは非常に低いが、ゼロではないと感じた。」アルトマンはその夜、ブロックマンを車で街まで送った。車の中で、ブロックマンは、夕食会で唯一の無職の人物として、彼らが夢見ていたラボをすべて構築することを申し出た。翌日、サツケバーはアルトマンにメールを送った。「もしあなたのラボを率いる人物を探しているなら、私はかなり興味があると思う」と私は言った。ブロックマンとサツケバーは本当に意気投合した。数週間後、彼らは昼食を共にして、AIができることについて似たビジョンを持っていること、そして補完的なスキルセットを持っていることに気づいた。サツケバーはマスクと働くことに魅力を感じていたが、彼のメンターであるヒントンは、「イリヤも非常にグレッグ・ブロックマンに感銘を受けた。それは採用にとって非常に重要だった。彼は非常に賢く、技術的に非常に強く、イリヤが全く知らないビジネスのあらゆる種類のことをこなすことができた。」機械学習の初心者であるブロックマンは、AI研究者のチームを編成するのに最も適した人物ではないことを知っていた。そこで、アルトマンの提案で、彼はモントリオール大学のコンピューターサイエンス教授であるヨシュア・ベンジオに連絡を取った。ベンジオは、ヒントンやヤン・ルカンといった人物と共に深層学習革命を牽引した人物だ。¹⁹ベンジオはAIのリスクに関するマスクの懸念を共有し、彼らのプロジェクトに共感し、サツケバーが関与していると聞いて感銘を受けた。「OpenAIの創設者たちが私に連絡してきたとき、彼らは良い話を持っていた」とベンジオは語った。「それは非営利団体になることだった。オープンサイエンスになることだった。AIを私が理にかなっていると思う方向に進めることだった。だから私はその話を受け入れ、自由にアドバイスを与えた。」彼は数ヶ月間、この新興ラボに助言を与え、ブロックマンが連絡すべきAI研究者のリストを作成した。これには、Google Brainでコンピュータービジョンに取り組んだ後、Facebookに移ったヴォイチェフ・ザレンバや、DeepMindで夏の間働いた深層学習の博士課程学生ダーク・キンマが含まれていた。「一人一人に、他に誰と話すべきか尋ねた」とブロックマンは語った。最初の1ヶ月間、ブロックマンは、彼自身、サツケバー、ダリオ・アモデイ、クリス・オラを含む数人のコアメンバーで組織が始まると考えていた。彼らは会社の価値観と文化がどうあるべきかを議論し始めた。彼が話した別の研究者、アンドレイ・カルパシーは、ImageNetデータセットの作成者であるフェイフェイ・リーの下でスタンフォード大学で博士号を取得したばかりのコンピュータービジョン専門家だったが、ブロックマンがこの分野の外部出身者であるため、このプロジェクトに懐疑的だった。ブロックマンがカルパシーの友人であるジョン・シュルマンと話し、新しいラボについて彼を説得すると、カルパシーの見方は変わった。シュルマンの信頼票が、カルパシーとザレンバの両方を参加へと傾けた。「私はそれが非常に興味深いラインナップだと思った。なぜなら、彼ら全員を知っていたからだ。彼ら全員を尊敬していたし、非常に強力で小さなチームだと思った。」しかし、採用活動が勢いを増すにつれて、アモデイとオラは、小さなラボがやろうとしていることについて明確な理由がないと確信できず、離脱した。二人とも Google Brainに行った。ブロックマンは、彼が確保した研究者たちとの契約を締結する必要があった。「全員にイエスと言わせるのは難しかったが、サムが『オフサイトに連れて行こう』というアイデアを出したんだ」とブロックマンは語った。そのアイデアは、ワインと美しい景色を楽しみながら、採用候補者たちを集めてコミットメントを得るというものだった。「うまくいった」とブロックマンは語った。2015年11月、ブロックマンはバスを借り、10人の将来の従業員をナパバレーのブドウ畑への日帰り旅行に連れて行った。そこで彼らは午後をかけて敷地内を散策し、最初のプロジェクトの一つについてブレインストーミングを行った。それは、AIエージェントにウェブをナビゲートする方法を教える強化学習環境だった。AIの分野では、「エージェント」とは、意思決定を行い、目標を達成するために環境と相互作用できるシステムのことだ。帰り道、彼らは交通渋滞に巻き込まれたが、誰も気にせず話に夢中だった。「ただ歩き回って話しているだけだった—ビジョン、ミッション、研究課題、すべてだ」とカルパシーは回想した。「みんな楽しそうで、お互いを尊敬していた。本当に良い気分だった。それが、実際に参加したいという自信を私に与えてくれた。」旅行の終わりに、ブロックマンは彼ら一人一人に3週間考えて決める時間を与えた。当時、マスクの関与は不確かだった。新しいラボは、アルトマンが10月に発表し、自身の資金1000万ドルを投じてシードしたYC Researchという新しい非営利部門の派生だった。アルトマンは、YC Researchが、スタートアップ投資家が通常扱えるよりも長い時間軸で、大規模な科学的ブレークスルーに取り組むと宣言した。「スタートアップは、質問を知っていて、それにどう答えるかを知っているときに最もよく機能する」とアルトマンはThe Informationのジェシカ・レッシンに語った。彼はYC Researchを、トランジスタ、レーザー、Unixオペレーティングシステム、Cのようなプログラミング言語が1930年代から70年代にかけて発明された新しいベル研究所にしたいと考えていた。YC版のそれは、10人の研究者、全員がYCの正社員で、給与の一部としてYCの株式を得ることから始まるだろう。アルトマンは、大手テック企業が提供する豪華な株式パッケージと競争しなければならなかった。彼は、研究者によって開発された知的財産は、公開することが安全でないと判断されない限り、自由に利用可能にすると約束した。

設立の経緯でどれだけイーロンが重要だったかが分かる、10億ドルをコミットしていた

非営利団体という構造は、AI研究者を採用する上で役立つセールスポイントとなった。「AIは非常に重要になる。営利団体がこれを担当するのを望まない。なぜなら、利益追求の動機は決して終わらないからだ」とカルパシーは語った。「それは私にとってかなり魅力的だった。」非営利団体という売り込みは、最終的にマスクにも魅力的だった。11月、ブロックマンは彼にこう書いた。「私たちは、広く協力し、対話を特定のグループや企業が勝つことではなく、人類が勝つことへとシフトする中立的なグループとしてこの分野に参入することを望んでいます。（それが、私たちが主要な研究機関となるための最善の方法だと思います。）」マスクはラボへの資金提供に同意し、その名前をOpenAI Institute、略してOpenAIと名付けた。²¹ セコイアのマイケル・モリッツは、アルトマンに非営利団体というアイデアに反対するよう助言した。彼の見解では、それはアルトマンの性質に反するものだった。「彼は非常に商売気のある人物だ」と彼は言った。「彼は市場のために作られた人間だ。だから、OpenAIを非営利団体として設立することは、彼が異国の地にテントを張っているように思えた。」グラハムの見解では、アルトマンは非営利団体としてOpenAIを設立するしか選択肢がなかった。なぜなら、彼にはすでに仕事があったからだ。YCを運営しながら営利企業を共同設立することはできなかっただろう。「人々は、彼がOpenAIを非営利団体として始めて、それを営利団体に転換することで、一種のベイト・アンド・スイッチ作戦を仕掛けていると考えている。しかし、これは世界最悪のベイトだろう！もし彼が時間を巻き戻して営利企業として始めることができたなら、そうしなかったと誰が思うだろうか？」グラハムは言った。「彼は資金調達の神だから、簡単に十分な資金を調達できたはずだ。彼が非営利団体としてそれを行った理由は、彼にすでに仕事があったからだ。」理由が何であれ、2015年12月8日、OpenAIはデラウェア州で非営利団体として法人化された。その証明書には、「結果として得られる技術は、公共の利益に資するものであり、適用可能な場合には公共の利益のために技術をオープンソース化することを目指す」と記載されていた。²²数日後、チームはモントリオールに飛び、年次NIPS会議で新しいラボを発表した。しかし、彼らがそこに着くと、問題に直面した。サツケバーが気が変わっていた。サツケバーがGoogleの上司に新しいラボに参加するために辞めると告げて以来、彼らは彼を引き戻そうと試み、市場価格の何倍もの給与を提示し、もし彼が残るなら彼自身のラボを運営する機会さえ与えた。サツケバーは当初OpenAIから撤退したが、アルトマンがマスクがプロジェクトにコミットしたと告げると、彼は「うわあ、分かった、それは状況を変えるね」と言った。「もし彼がやっていなかったら、私はおそらく参加しなかっただろう。」彼は新しいラボにコミットしてモントリオールに到着したが、その後、Googleのジェフ・ディーン（巨大なAI研究を監督する非常に尊敬される人物）に引き止められ、彼は約600万ドルの給与を提示し、サツケバーの理想主義とGoogleの同僚への愛に訴えかけた。サツケバーは決断にさらに時間が必要となり、OpenAIは発表を数日間遅らせることを余儀なくされた。最終的に、会議の最終日、ブログ投稿の発表予定時刻から数時間後、彼らはサツケバーの有無にかかわらず発表するしか選択肢がなかった。ブロックマンは、サツケバーに連絡を取り、「見てくれ、本当に君と一緒にこれをやりたいんだ。やるのか？」と言って契約を締結した。土壇場で、サツケバーは、ブロックマンへの賞賛の強さから、最終的に同意した。「グレッグの才能に本当に感銘を受け、彼を非常に信頼していた。彼の才能は私の才能と非常に相補的だと感じた。私は彼らについて正しかった。」数分後、12月11日、ブロックマンとサツケバーが共同執筆したブログ投稿で、OpenAIが、マスク、アルトマン、ジェシカ・リビングストン、ピーター・ティール、アマゾン・ウェブ・サービス、インフォシス、YCリサーチからの10億ドルの資金提供を受けて非営利研究会社として立ち上げられたことが発表された。この驚くべき数字はマスクのアイデアだった。「GoogleやFacebookが使っている金額に比べて絶望的に聞こえないように、1億ドルよりもはるかに大きな数字にする必要がある」とマスクは11月22日にブロックマンに書いた。「10億ドルの資金コミットメントから始めると言うべきだと思う。これは現実だ。他の誰も提供しない分は私が負担する。」彼はまた、新しい採用者の契約を甘くする株式がYCのものだけでなく、SpaceXのものであるべきだと提案した。

AI界のゴッドファーザーの1人、ヤン・ルカンはOpenAIを失敗すると言っていた

「私たちの目標は、金銭的利益を生み出す必要に制約されず、個人の人間の意志の延長として、自由の精神に基づき、可能な限り広く均等に分散される形で、デジタル知能を人類全体に最も利益をもたらすように進歩させることです」とブロックマンとサツケバーは書いた。「この事業の成果は不確かであり、作業は困難ですが、私たちは目標と構造が正しいと信じています。これがこの分野で最も重要なことだ。」その後、Facebookが主催したカクテルパーティーで、同社のAI研究責任者ヤン・ルカン—ヒントンとベンジオと並ぶ「AIのゴッドファーザー」の3人目—は、サツケバーに、彼らには上級機械学習科学者がいないため、チャンスはないと告げた。「君たちは失敗するだろう」と彼は言った。

CHAPTER 12

イリヤはホワイトボードを楽器として使う音楽家

グレッグ・ブロックマンはかつて、イリヤ・サツケバーを「機械学習（そして時には絵画）を通して自己を表現する芸術家」と評した。しかし、日常のやり取りでは、サツケバーはむしろ、好んで使う楽器がホワイトボードである音楽家のような存在だった。ホワイトボードマーカーは常に新しく、たくさん必要だった。人工ニューロンや数式を図示する場所がなければ、彼は考えることさえできないかのようだった。それら—光沢のある白いラミネートにきしむカラフルなフェルトペン—を使って、彼は「ただ動きたいだけだ」とか「AGIを感じろ」といった、感覚を拡張するマントラを純粋な確信をもって発する神託者だった。

DeepMindのAlphaGoが圧倒的すぎて、イーロン始めOpenAIのメンバーは焦った

これらの漠然としたアイデアが飛び交う中、DeepMindは恐ろしい力を見せつけ続けた。IBMのDeep Blueが1997年に世界チェスチャンピオンのガルリ・カスパロフを破って以来、AI研究者たちは、はるかに古く、複雑で、頭を悩ませる囲碁で機械が人間を打ち負かすまでにどれくらいの時間がかかるかについて推測してきた。19×19の盤面で2人のプレイヤーが利用できる選択肢の数は、既存のコンピューターが計算するにはあまりにも多かった。最近のニューラルネットワークの進歩があっても、ほとんどの人はさらに10年はかかると考えていた。しかし、2016年1月下旬、OpenAIの最初の月が終わる前に、DeepMindはNature誌に論文を発表した。権威あるジャーナルはデミス・ハサビスのお気に入りの媒体だった。その論文では、彼らのAIシステムであるAlphaGoが、前年の10月に非公開の試合で元ヨーロッパ囲碁チャンピオンを破ったと発表された。

その勝利はマスクを動揺させ、彼は2月にアルトマンとブロックマンにメールを送り、会社が「最高の才能を得るために必要なことをする」必要があると主張した。「もっと高く行こう。もし、ある時点で、既存の人々がどれくらいの給料をもらっているかを見直す必要があるなら、それでいい。世界で最高の人間を得るか、DeepMindに打ち負かされるかだ。彼らが勝てば、彼らの『世界を支配する一つの心』という哲学にとって、本当に悪いニュースになるだろう。彼らは明らかに大きな進歩を遂げているし、そのレベルの才能を考えれば当然だ」。

そして3月には、世界中の2億人が、6ヶ月賢くなったAlphaGoが世界囲碁チャンピオンのイ・セドルを打ち負かすのを見守るために視聴した。Googleの共同創設者セルゲイ・ブリンとCEOエリック・シュミットはソウルに飛び、自社の機械の創造を応援した。AlphaGoは5つの対局のうち1つを、一部の囲碁解説者が当初間違いだと思ったほど奇妙な手で勝利した。それは、盤面の開けた場所に、行動の塊から遠く離れて、まるでランダムに置かれたかのような黒い石だった。「人間の手ではない」と、AlphaGoが10月に打ち負かしたファン・フイはWiredに驚嘆して語った。「なんて美しいんだ」。一つの決定的な世界的イベントで、DeepMindはAGIがそれほど遠くないかもしれないことを世界に示した。

イリヤは一貫して「脳」のアナロジーでニューラルネットワークを考えていた

ブロックマンとサツケバーは毎日1時間、奥のサーバー室で、機械を人間の能力を超えさせるためにどれくらいの計算能力が必要かを計画しようとしていた。「私たちは、人間の脳がこれくらいの計算能力を使っている、だから、計算能力の成長率から判断すると、数年後には脳サイズのニューラルネットを訓練できるようになるだろう、そして計算能力があれば、詳細を解明するのは簡単だろう、というような文書を書いていました」とサツケバーは言った。

DeepMindに対して研究者が少ないという弱点があったからエンジニアがものをつくるカルチャーを作った

これらのセッションで、彼らは採用のアプローチについても話し合った。AI研究者とソフトウェアエンジニアが平等な立場に立ち、何に取り組むかを選ぶ平等な機会を持つ会社を構想した。彼らは数学的な嫉妬を避けるだろう。「私たちはDeepMindとは非常に異なる採用哲学を持つことになりました」とブロックマンは言った。「私たちはエンジニアに物を作ってほしかったし、確立された博士号を持つ人ははるかに少なかった。これらすべては、私たちが弱者であるという理解から来ていました」。

初期のOpenAIでは、イーロン・マスクとサム・アルトマンは週1進捗確認に来る程度

この期間中、マスクとアルトマンは週に一度ほどOpenAIのメンバーの進捗状況を確認しに来た。テスラ、スペースX、その他多くの会社を経営していたマスクは、明らかに手一杯だった。そしてアルトマンにとっては、シリコンバレーで最も強力なネットワークであるYCを率いるという要求も、これらの週ごとの訪問以上のことをするには大きすぎた。

サムはアラン・ケイと話して、ゼロックスのパルアルト研究所と同じような規模のことをするため、OpenAI構想には大きな資金が必要だと気付いた

アルトマンが前年にOpenAIを構想していたとき、彼はケイに質問を投げかけた。第二次世界大戦後のアメリカ政府の科学支出の黄金時代は、どれくらいの経済的価値を生み出したのか？ゼロックスはPARCに資金を投入していたが、その資金の約3分の1は、エネルギー省や国防高等研究計画局（DARPA）のような政府機関から来ており、ケイはそこでの時間を、政府資金による広範な研究運動の一部と見ていた。「それはすべて、冷戦のために政府が資金提供した大きなコミュニティでしたが、すべてのIPは完全にオープンでパブリックドメインにありました」と、灰色の髪とふさふさした口ひげ、オーケストラの指揮者のように腕を表現豊かに振るケイは、その年のパネルで説明した。彼はゼロックスPARC単独の経済生産高を35兆ドルと見積もった。「企業は非常に低い目標を設定していました」とケイは言った。「彼らは数百万、数十億を望むだけです。しかし、本当に良い研究者は数兆を望みます。なぜなら、それはまったく新しい産業を創造することを含むからです」。ケイの語るところによると、アルトマンとの会話がYCリサーチの設立につながったという。「サムはこれらすべてを吸収し、素晴らしい計画を思いつきました。それは、産業界が何らかの形でこれに資金を提供すべきだというものでした。なぜなら、政府はさまざまな理由で、どれも良い理由ではありませんが、これを行うのをやめてしまったからです」と彼は言った。「だから、彼は資金集めを始めたのです」。

サムは大統領になろうと思っていた

2016年頃、アルトマンは、彼の高まる野心を政治の舞台で実現しようとますます考えていた。その秋、彼の高校時代の元恋人ネイサン・ワッターズが、新しいボーイフレンドの就職面接に同行してサンフランシスコを訪れた。ワッターズのボーイフレンドが外出している間、ワッターズとアルトマンは、ドロレス公園近くのカフェでランチを共にした。アルトマンの500万ドルのヴィクトリアン様式の家からそう遠くない場所だ。話題は、ヒラリー・クリントンとドナルド・トランプの次期大統領選挙に移った。ワッターズによると、アルトマンは、クリントンが勝たず、トランプが勝てば、彼が大統領選に出馬すると言ったという。「『もし彼女が勝たず、トランプが勝つなら、もうそんなことは許されない。私はやる。私は勝てると思う』と彼が言ったのを覚えています」。ワッターズは「彼が勝てると思っていたのは確かです」と語った。アルトマンはこれを否定し、大統領選に出馬したかったことは一度もないと述べている。 10月初旬、『ニューヨーカー』誌はアルトマンの11,000語に及ぶプロフィールを掲載し、彼の野心の全貌を初めて一般に明らかにした。「シリコンバレーの誰もがそうであるように、アルトマンも世界を救いたいと公言している。しかし、そこにいるほとんどの人と異なり、彼にはそれを実行する計画がある」と『ニューヨーカー』の記者タッド・フレンドは書いた。この記事は、彼の兄弟たちが彼をからかうような、彼の大統領としての野心を冗談として扱っていた。

サム・アルトマンは大統領になれると信じていたが、ピーター・ティールやマイケル・モリッツなどが止めた？

ジョンソンはアルトマンをカリフォルニアの政治関係者に紹介した。アルトマンは、英国首相ボリス・ジョンソンの元顧問ドミニク・カミングスや、ビル・クリントン大統領の元顧問クリス・レーンなど、両陣営から助言を求めた。2017年4月、Vice News Tonightの記者ネリー・ボウルズがステージ上でのインタビューで、アルトマンに公職への出馬を検討するか尋ねた。「カリスマ性は私の強みではないと思います」と彼は答えた。しかし、アルトマンは個人的にカリフォルニア州知事への出馬を検討し続け、5月にはサンフランシスコの元市長ウィリー・ブラウンを訪ねて助言を求めた。その会合で、アルトマンはテクノロジーを使って所得格差をなくし、デジタルで有権者にリーチする計画をブラウンに売り込んだ。ブラウンはすぐにアルトマンを売り込み、サンフランシスコ・クロニクル紙のコラムにその会合について書いた。「私は彼に、カリフォルニアには自費で公職に立候補する億万長者の歴史があると言いました」とブラウンは書いた。「ほとんどはコンサルタントに多額の費用を払い、負けて終わります」。ティールやセコイアのマイケル・モリッツなど、アルトマンの人生における多くのビジネスパーソンは、彼に公職への出馬を思いとどまるよう助言した。「彼がそうするのは狂っていると思いました」とモリッツは言った。「多くのビジネスパーソンが政府を見て、すべてがめちゃくちゃだと思い、自分たちの民間部門での経験から、政府をより効率的に運営する方法を知っていると考える、この無邪気さが原因だと思います。そして、政治の世界で成功するには、政治の場に根ざしている必要があることを彼らは過小評価しています。それがどう機能するかを理解する必要があるのです」。

2017年のアシロマールAI原則

2015年にプエルトリコで開催された最初のFuture of Life会議には、AI研究者とAI安全の専門家という2つの部族が集まり、少数の億万長者も参加していた。今回の会議は、さらに多くのスターパワーと、より大きな緊急感を誇っていた。アルトマンは、マスク、サツケバー、ブロックマン、ダリオ・アモデイ、ハサビス、そして他のDeepMindの共同創設者たちと共に参加していた。会議の終わりに、サツケバー、ハサビス、スティーブン・ホーキングらと共に、後にアシロマールAI原則として知られるものに署名した。このAI安全ガイドラインは、プエルトリコで合意されたものよりもはるかに過激だった。署名者たちは、技術的能力の軍拡競争に関与しないこと、AIシステムを開発するチームは「安全基準における手抜きを避けるために積極的に協力する」こと、そしてAIは「人間の価値観と整合する」ことを誓約した。さらに物議を醸したのは—DeepMindとOpenAIの間の競争激化と、AGIを最初に達成する国にとってすでに明白な地政学的影響を考慮すると—、この文書に署名した各人が、「AIによって生み出される経済的繁栄は広く共有されるべきであり」、「超知能は広く共有される倫理的理想に奉仕し、一つの国家や組織のためではなく、全人類の利益のためにのみ開発されるべきである」と約束したことだった。後に署名者の中には、効果的利他主義の創設者として広く知られるオックスフォードの哲学者ウィリアム・マカスキルもいた。

OpenAIは初期にEAコミュニティから支援を受けた、これが後にサム・アルトマン解任に繋がることになる

2017年3月、アシロマール会議の2ヶ月後、Open PhilanthropyはOpenAIに3000万ドルを寄付し、ホールデン・カーノフスキーがOpenAIの理事会に加わった。この発表には、ダリオ・アモデイとポール・クリスティアーノ（当時OpenAIの研究者として参加していた）が「Open Philanthropyの技術顧問であり、ホールデンと同じ家に住んでいる」という開示が含まれていた。カーノフスキーはダリオの妹ダニエラと結婚することになり、彼女自身もOpenAIのピープルチームに参加し、率いることになる。そしてOpen Philanthropyは、この助成金を慈善事業というよりも、社内でAI安全を提唱することを可能にする「パートナーシップ」として位置づけた。また、彼らはOpenAIが、マスクとアルトマンが初期のインタビューで表明したOpenAIのオープンソース計画を再考することを望んでいることも明らかだった。マスクは長年オープンソース技術の強力な支持者であり、テスラの特許のほとんどを公開していた。しかし、Open Philの助成金に関する投稿には、OpenAIのオープンソース計画に反対するSlate Star Codexのエッセイが含まれていた。それは、人類の破滅につながる、軽率で無節操な、あるいは悪意のある人々が技術を悪用するという理由に基づいていた。OpenAIの助成金と共に提出された更新されたミッションステートメントでは、アルトマンの研究所は利益と製品を非難し、オープンソース技術のアイデアについて少し曖昧な表現を使い始めた。「私たちは私的な利益のために情報を非公開にすることはありません」とOpenAIの新しいミッションステートメントには書かれていた。「しかし長期的には、安全上の懸念がある場合には、技術を非公開にするための正式なプロセスを作成する予定です」。それはマスクのオープンソースの夢の終わりの始まりだった。しかし、別の意味では、この新しい資金ブロックは、アラン・ケイ、エクストロピアン、SF作家、そして現在のサム・アルトマンの長年くすぶっていた未来のビジョンを実現するための重要な一歩となった。この声明はまた、ケイの「未来を予測する最善の方法は、それを発明することだ」という言葉を復活させた。しかし、OpenAIがEAと手を組むために最終的に支払う代償は、アルトマンが想像していたよりもはるかに高くなるだろう。

CHAPTER 13

YC時代からサティア・ナデラとビル・ゲイツと交友があり、Azureを60億円分使わせてもらった

彼の次のツイートに注目する人は少なかっただろう。「マイクロソフトのAzureクラウドコンピューティングプラットフォームの使用に感謝の意を表したい。これには莫大な処理能力が必要でした」。アルトマンが数ヶ月前にマイクロソフトのCEOサティア・ナデラに電話をかけ、OpenAIがAIシステムで世間を賑わせるために6000万ドルの計算能力を要求したのだ。これはマイクロソフトの二番手クラウドプラットフォームの宣伝にもなり、バグを見つけ出すのにも役立った。当時、マイクロソフトAzureのクラウドコンピューティング市場シェアは、Amazon Web Servicesの60パーセント以上に対し、約15パーセントだった。アルトマンは、Looptを経営していた頃からナデラを知っており、ほぼ10年来の付き合いだった。両者とも2014年にそれぞれの組織を率いるサプライズな人選だった。アルトマンは前年からマイクロソフトの共同創設者ビル・ゲイツとも定期的に会合を始めていた。ゲイツは会社の正式な役割からは退いていたが、取締役会には留まり、AIに強い関心を持っていた。

OpenAIのDota PJはイーロンの発案、ここで最初の成果を得た

マスクはOpenAIにDotaプロジェクトに取り組むよう主張した人物だった。彼はDeepMindのAlphaGoに激怒し、彼らの勝利に恥をかかされ、OpenAIがゲームの分野で彼らのライバルに何らかの答えを出すよう主張した。囲碁がチェスよりも複雑なら、彼らは囲碁よりも複雑なものを見つけなければならない、ということになった。それは、ウェブ対応のニッチでは非常に人気があるものの、人間の99パーセントが聞いたこともないゲームにつながった。OpenAIの研究者の多くは、それが研究の行き止まりだと考えていたが、マスクは主張した。もし彼らが彼の継続的な資金提供を望むなら、ゲームの世界で自分たちの名を残すだろう—その結果、ある億万長者が別の億万長者とプライベートジェットで共有できるようなビデオ再生が生まれた。 DotaプロジェクトはOpenAIにいくつかの科学的進歩をもたらした。特に規模の面で。「ヤクブが週末に最初に訓練したエージェントを覚えています。それは小さなことしかできませんでしたが、毎週来ると、CPUコアの数が2倍になり、エージェントの性能も2倍になっていました」とブロックマンは言った。彼はいつもの情熱を持ってプロジェクトを率い、元ニューヨーク・タイムズの記者ジェニファー・8・リー率いるドキュメンタリーチームを雇って映画を制作するほどだった。派手なデモは投資家、特にマイクロソフトの注目を集めた。「単一の技術が大規模に非常にうまく機能することを示すことができました」とサツケバーは言った。

社内に複数の研究者グループがあり、各々が好きな分野の研究をしていたのがよく分かる、ロボットハンドでルービックキューブを解くという研究もやっていた

マクグルーは、ヴォイチェフ・ザレンバが率いる別のOpenAIプロジェクトに志願していた。それは、ロボットの手でシミュレーション上でルービックキューブを解こうとするものだった。「ロボットの手を動かすのに苦労していました」とマクグルーは言った。Dotaプロジェクトの成功後、ザレンバはDotaチームの研究リーダーだったヤクブ・パチョツキに、同じ技術をロボットの手に適用するよう依頼した。「そしてすぐに、2本指の爪でボールをかろうじて掴める状態から、完全に5本指の手—たくさんの関節、たしか25個の関節—で物体を掴んで操作できるようになりました。そしてそれから間もなく、数週間で、実際にルービックキューブを解くことができました」とマクグルーは言った。「これはまさに『ユーレカ！』の瞬間でした」。

言語モデルの研究をやっていたアレック・ラドフォードのチームが成果を出した、今はThinking Machines Labに行ったレジェンド
その後、Attention Is All You Needをイリヤが読んで、即座にインパクトを理解した

しかし、根本的な意味で、彼らは間違った方向に向かっていた。Dotaとロボットハンドプロジェクトがヘッドラインを追求する一方で、アレック・ラドフォードという隠遁した単独研究者は、はるかに重要なプロジェクトを静かに探求していた。ラドフォードは2016年にオリン・カレッジを中退してOpenAIに加わった。オリン・カレッジはマサチューセッツ州ニーダムにある小さな名門工学学校で、彼は数人の学生と機械学習会社を立ち上げたが、本当に興味があることにはどれだけの計算能力が必要かを知った。ラドフォードは、自分の命令を実行できるエージェントよりも、言語モデルがスピーチの意味を学習できることに興味を持っていた。OpenAIでの彼の最初のプロジェクトは、20億のRedditコメントで訓練するもので、うまくいかなかった。そこで次のプロジェクトでは、規模を縮小し、1億のAmazon製品レビューで訓練した。目標は、モデルがレビューの次の文字を予測するだけだった。しかし、それは飛躍を遂げた。レビューが肯定的か否定的かを判断したのだ。「まったくの驚きでした」とラドフォードはWiredに語った。2017年4月、ラドフォード、サツケバー、そして別のOpenAI研究者ラファウ・ヨゼフォヴィッチは、人間が事前にデータをラベル付けすることなく、文が肯定的か否定的かを理解できる「感情ニューロン」と呼ぶものに関する論文を発表した。 2ヶ月後、サツケバーはGoogleの研究者8人による「Attention Is All You Need」という論文のプレプリントを読み、それがラドフォードが行っていた研究をはるかに効率的にする方法を提示していることをすぐに認識した。Googleの論文は、一度に1文字ずつ処理するのではなく、テキストの大きな塊を並行して処理できる方法を示していた。これは、「アテンションメカニズム」と呼ばれる技術を洞察的に応用し、そのテキスト入力の重要な部分に動的に重要度を割り当てるものだった。この技術はまた、GPUチップが複数の計算を並行して実行できる能力も活用していた。サツケバーは、この論文の完全な重要性を理解することができた。

TransformerはイリヤのSeq2Seqに基づいている

後に「トランスフォーマー論文」と呼ばれるようになったのは、彼の自身の研究、特に2014年の「Sequence to Sequence」論文に基づいており、それが機械翻訳と要約の進歩を達成するためにアテンションメカニズムを使用したからだった。

イリヤの「天才になるための方法」

「イリヤと私がよく話していた、天才になるためのファインマンメソッドというものがあります」とブロックマンは言った。マンハッタン計画に携わりノーベル賞を受賞した有名な物理学者リチャード・ファインマンのことだ。「ファインマンメソッドとは、あなたが気にかけている一連の問題があり、欠けている部分が何であるかを知っていて、自分自身か他の研究者がその欠けている部分を発明するのを待つというものです。そして、その欠けている部分を差し込むだけで、あなたは天才になる。解決したでしょう？そしてある程度、トランスフォーマーは私たちの天才の公式の最後のピースと見なすことができます。それが起こることは知っていましたが、いつ、私たちが準備したすべてのピースを実行できるモデルがいつ登場するかという問題でした」。

GPT誕生

彼らは、ウェブサイトQuoraからの質疑応答ペア、中国人学生向けの英語試験の文章、多肢選択式の科学試験を使用した。合計で、モデルは1億1700万以上のパラメータを持ち、かなりのエンジニアリング上の課題を提示した。OpenAIは、複数の研究プロジェクトから、世界中でこれまでに見られた中で最も大規模なモデルを訓練することに単一の焦点を当てるように、自らを再編成する必要があった。ブロックマンとサツケバーが信じていたように、研究者とエンジニアは対等なパートナーになる必要があった。「エンジニアは苛立たしい作業をするのが得意です」とサツケバーは言った。「学者はそうではありません。学者は美しいアイデアを愛しますが、汚い作業をするのは好きではありません。OpenAIでは、『私たちは汚い作業をする会社だ』と考えていました」。モデルの訓練を終えたとき、彼らは、訓練されたデータからの質問に答える際にベンチマークを打ち負かすだけでなく、「ゼロショット」と呼ばれる現象で、訓練されていないことについても質問に答えられるように見えたことを発見した。数年後、アルトマンはその結果を「いくらか印象的だが、それがどう機能するのか、なぜ機能するのか深い理解はない」と表現した。ラドフォード、サツケバー、そしてチームは、そのモデルを「生成的に事前訓練されたトランスフォーマー」、略してGPTと呼んだ。

最初はDeepMindがやっていたGameのAgent路線で開発していたが、それでは上手くいかず、アレック・ラドフォード手動で言語モデルに賭けたのがイノベーション

「正しいやり方は、そういったものをすべて無視して、言語モデルを訓練することです」と彼は言った。「言語モデルはエージェントではありません。彼らはただ次の単語を予測しようとしているだけです。しかし、インターネット全体でこれを行っているため、ニューラルネットワークは世界について大量の情報を学習せざるを得ません」。 AIに飛行機のチケットを買わせたいなら、まずGPTのような大規模言語モデルから始めるべきだ。それは、それらについて読むことで「ボタン」や「テキストフィールド」が何であるかを知っており、ランダムにそれらを埋めようとして報酬を得るために偶然にたどり着くよりも良い。エージェントが引き出すための汎用的な「脳」を訓練し、その脳を使って特定の行動について「ファインチューニング」と呼ばれるプロセスでエージェントを訓練する方が、計算上はるかに簡単な問題であることが判明した。多くのつまずきが排除された。「私たちはDeepMindがやっていたことをコピーしようとしていましたが、これは間違った道で、失敗しました」とカーパシーは数年後に語った。「そして、OpenAIのアレックが最初のGPTを訓練していました。そして今、DeepMindはここで起こったことをコピーしています」。

OpenAIは非営利団体として資金を集めようとしたが、不可能だったため、営利化しようとした
最初はイーロン・マスクがCEOの予定だったが、決定権を持っていたグレッグ・ブロックマンとイリヤ・サツケバーが、サム・アルトマンに説得された

OpenAIにはもっと多くの資金が必要だった。サツケバー、ブロックマン、マスク、アルトマンは、資金を生成するためにイニシャル・コイン・オファリング（ICO）を行う可能性について話し合ったが、マスクは最終的にそれが彼らの信頼性を損なうだろうと主張した。彼らは非営利団体として1億ドル以上を調達する計画を立てた。しかし、見込みのある寄付者との会合を始めると、これが非現実的であることにすぐに気づいた。ある著名なシリコンバレーの投資家との会合で、彼らは、非営利団体がこれほどの巨額を調達しようとするのは途方もないことだと言われた。「それが、ミッションへのアプローチという点で、よし、大人になる時が来た、と気づかせた移行のきっかけでした」とブロックマンはジャーナルに語った。その7月、OpenAIのDota 2ボットが人間との1対1の戦闘で勝利を収めるまであと1ヶ月という好成績を収めていたとき、サツケバーはマスクにOpenAIの進捗状況をメールで報告し、会社がまもなく「営利構造の設計」を開始すると述べた。営利団体への移行を検討する中で、共同創設者たちはマスクと誰がそれを率いるかについて長い交渉を行った。マスクは、過半数の株式、取締役会の支配権、CEOの肩書きを完全に掌握することを望んだが、サツケバーとブロックマンは、彼が会社に割ける時間がごくわずかになることを懸念していた。CEOを誰にするかの決定は最終的に、より上級のフルタイム共同創設者であるブロックマンとサツケバーに委ねられ、彼らは当初マスクを選んだ。その後、アルトマンはブロックマンに電話し、マスクとは仕事が難しいと説得して彼に考えを変えさせた。ブロックマンはサツケバーにも考えを変えさせ、アルトマンを支持するよう説得した。「OpenAIの最初から、彼をCEOに迎えようとしていました」とブロックマンは2023年にジャーナルに語った。「何年もの間、意図的にサムの形をした穴を開けていました」。その9月、ブロックマンとサツケバーはマスクとアルトマンにメールを送り、彼らの窮状を説明した。「あなたと協力したいという私たちの願望は非常に大きく、株式、個人的な支配権を放棄し、簡単に解雇されることになっても構いません—あなたと協力するためなら何でもします」とブロックマンとサツケバーはマスクに語った。しかし、彼らは続けて書いた。「現在の構造では、あなたがAGIを一方的に絶対的に支配する道筋が提供されています。あなたは最終的なAGIを支配したくないと述べていますが、この交渉中に、絶対的な支配があなたにとって非常に重要であることが示されました」。彼らはさらに、OpenAIが「AGI独裁を避けるため」に設立されたことを考えると、「もしあなたが望むなら独裁者になれるような構造を作るのは悪い考えだ」と思われたと付け加えた。しかし、彼らはアルトマンに対しても、特に彼の政治的野心を考えると、疑念を抱いていた。「このプロセス全体を通して、あなたの判断を完全に信頼することができませんでした。なぜなら、あなたのコスト関数を理解できないからです」と彼らは、中学生の数学の言葉で書いた。「なぜCEOの肩書きがあなたにとってそれほど重要なのか理解できません。あなたの述べた理由は変わっており、何がそれを推進しているのか本当に理解するのが難しいです。AGIが本当にあなたの主要な動機なのでしょうか？それはあなたの政治的目標とどうつながるのですか？あなたの思考プロセスは時間とともにどう変わりましたか？」これらはブロックマンの感情というよりもサツケバーの感情だったが、両者ともある程度共有していた。

イーロン・マスクはCEOではないと揉めた後、OpenAIをテスラに統合する提案をしていた

この公平であろうとする試みにもかかわらず、マスクはメールを読んですぐに「みんな、もうたくさんだ。これが最後だ」と返信した。「自分で何かをするか、OpenAIを非営利団体として続けるかだ。私は、あなたがスタートアップを作るための無料資金を提供しているだけの馬鹿者になるつもりはない。議論は終わりだ」。彼は資金提供を停止したが、しばらくの間家賃は払い続けた。そして、LinkedInの共同創設者でピーター・ティールの大学時代の友人であるリード・ホフマンが、OpenAIの従業員の給与やその他の経費を負担するために介入した。 2017年末までに、マスクはカーパシーを引き抜き、テスラの人工知能部門の責任者に任命し、同社の自動運転技術を率いることになった。2018年1月、彼はサツケバーとブロックマンにOpenAIをテスラに統合するよう促すメールを送った。「今日のOpenAIは現金を燃やしており、資金調達モデルではGoogle（8000億ドル企業）と真剣に競争できる規模に達しないように思えます」と彼は書いた。「営利団体への転換は、より持続可能な収益源を生み出し、現在のチームで多額の投資を引き込む可能性があります。しかし、ゼロからプロジェクトを構築することはAI研究から焦点を奪い、時間がかかり、企業がGoogleの規模に『追いつく』ことができるかは不明であり、投資家が間違った方向に過度の圧力をかけるかもしれません。私が考えられる最も有望な選択肢は、以前にも述べたように、OpenAIをテスラに付随させて、そのキャッシュカウとすることです」。彼はそれをウィンウィンの関係として提案した。OpenAIの技術はテスラの自動運転車の開発を加速させ、テスラの時価総額を大幅に引き上げ、OpenAIがAGIの探求に資金を提供できるようになるだろう。「2〜3年で完全に自動運転できるソリューションがあれば、たくさんの車やトラックを売ることができます」と彼は書いた。この動きはテスラの時価総額を増やし、OpenAIがその収益をより大規模なAI研究に使うことを可能にするだろうと彼は主張した。「10年以内に持続可能なGoogle規模の資本に到達する可能性のあるものは他にないと思います」。

イーロンがOpenAIを出ていった日

その月の後半、サンフランシスコの異常に寒く荒れた日に、OpenAIのスタッフはパイオニアビルディングの最上階に突然、不吉な全員会議のために召集された。マスクはソファに座り、数十人のOpenAI従業員が彼を取り囲む中、彼がOpenAIを完全に去るという爆弾発言を落とした。テスラでのAIへの進出が利益相反を生み出したと説明した。アルトマンは彼の会社での時間に感謝し、会議を abruptly 終わらせようとした。しかし、従業員は答えを求め、マスクはマスクらしく、彼らを楽しませた。質問が次々と飛び出した。この技術をどう安全に開発するのか？制御不能に陥る可能性のあるAI開発の競争を激化させるなら、なぜテスラでライバルとなる取り組みを強化するのか？最終的に、マスクはキレて若い研究者を「ジャッカス」と呼び、従業員を完全にショック状態に陥らせた。マスクがオフィスを飛び出し、OpenAIの従業員の間で二度と姿を見せることはなかったが、アルトマンは彼らを落ち着かせようとした。彼は、マスクが当初約束していた10億ドルの資金の大部分がすでに確保されていたため、マスクの退職が設立されたばかりの研究室を脅かすことはないだろうと彼らに告げた。

サム・アルトマンがCEOになり、のちのCTOミラ・ムラティが登場

公式にはさらに1年後になるが、アルトマンは事実上OpenAIのCEOとなった。彼はすぐに、研究所の膨大な計算能力の需要を満たすことに目を向けた。短期的には、ヤーン・タリンやジュリア・ガレフといった著名なEA関係者を含む、より多くの寄付者やアドバイザーを確保することだった。ガレフは前年のEAグローバル会議でゴードン＝レヴィットとステージを共にした合理主義の公共知識人だった。長期的には、いくつかの大きな問題に対処することだった。Nvidiaからチップを購入するのか、大手テック企業からレンタルするのか、それともゼロから構築するのか？これらの問題を乗り越える彼のパートナーは、テスラで最も若いプロダクトマネージャーの一人だった新しい採用者、ミラ・ムラティだった。

OpenAIの初期の資金調達
リターンにキャップがあるのに投資したビノッド・コースラ、レジェンドすぎる

アルトマンは、マイクロソフトのナデラと階段で偶然出会い、5分間会話した。アルトマンが語ったところによると、「『ねえ、私たちはたくさんのお金を集めようとしているんだ。ちょっと変な話なんだけど、話したい？』と聞いたら、ナデラは興味を示した。実際、彼はすぐに話したがった」。アルトマンは、マスクが去った後、OpenAIが「キャップ付き利益」モデルを試すことにしたと説明した。これは、投資家が投資額の100倍までのリターンしか得られないという「制限」であり、実際には素晴らしい投資提案だった。「それはとても奇妙なことで、多くの人々を排除しました」とアルトマンは後にウォール・ストリート・ジャーナルに語った。「彼らは『リターンに上限があるって？冗談でしょう。ありえない。原則としてありえない』と言いました。それで多くの人が脱落しました」。この提案に怯まなかった数少ない投資家の一人が、サン・マイクロシステムズの共同創設者で、有名なベンチャー企業クライナー・パーキンスで働いた後、自身の会社Khosla Venturesを立ち上げたヴィノド・コースラだった。コースラ・ベンチャーズは、ウェイデンがLooptのアドバイザーになった直後にデビッド・ウェイデンを雇い、ウェイデンはアルトマンを新しい上司に紹介していた。コースラはアルトマンがYCにいた間も連絡を取り続けており、投資家たちはAIと核エネルギーに共通の関心を持っていた。「『ミッションに関心があり、リターンよりもミッションを重視する数少ないファンドの一つだ』とアルトマンが資金調達中に私に言ったのを覚えています」とコースラは回想する。「収益計画はまったくありませんでした。予測もありませんでした。私たちが目を通した財務諸表もありませんでした」。代わりに、彼らはAGI達成というミッションについて話した。Khosla Venturesは、OpenAIへの最初のベンチャー投資として、過去最大の5000万ドルの小切手を書いた。

サウジアラビアの地政学的リスク

しかし、ネオムの諮問委員会が発表されたちょうどその時、サウジアラビアの反体制派でワシントン・ポストのコラムニストであるジャマル・カショギに注目が集まった。彼は10月2日にイスタンブールのサウジアラビア領事館に入って以来、消息不明となっていた。カショギが暗殺されたという疑惑がさらに報じられるにつれて、アルトマンはネオムへの関与を「停止する」と発表し、事実が明らかになるまで待つとした。米国の情報機関は最終的に、カショギがMBSの命令で拷問され、殺害され、骨のこぎりで切断されたと断定した。アルトマンが王国を訪れるまでには5年かかるだろう。

サム・アルトマン、YCのPresidentなのに他事やりすぎだった

2018年夏までに、アルトマンの関心はYCでの日中の仕事から大きく離れ、YCのパートナーたちは彼がほとんど姿を見せないことに不満を言い始めた。彼らはまた、YCが「ウォーク」で肥大化したと不平を言う者もいて、互いに争い始めた。

ジェシカ・リビングストンも激怒した

YCに戻ると、アルトマンがOpenAIの営利部門のCEOになるというニュースにジェシカ・リビングストンは激怒し、彼にYCのCEOの後任を見つけるよう求めた。この変更は正確には自発的なものではなかったが、アルトマンは異議を唱えなかった。「実際、OpenAIが営利部門を設立し、彼がそのCEOになることになった後、サムにYCの後任を見つけるよう提案したのはジェシカでした」とグラハムはメールで書いた。「だから、もし誰かがサムを『解雇した』としたら、それはジェシカであり、私ではありません。しかし、『解雇した』という言葉を使うのは間違っています。なぜなら、彼はすぐに同意したからです」。それでも、アルトマンは関わり続けたいと考え、YCの会長として、よりハンズオフな役割に退くことを提案した。グラハム、リビングストン、アルトマンが最終的に彼の後任として同意した長年のYCパートナー、ジェフ・ラルストンは、より明確な区切りが良いと考えた。5月、グラハムはマウンテンビューのYCオフィスに飛び、パートナーたちを集めて、アルトマンが去り、ラルストンが彼の後任となることを発表した。リビングストンは、アルトマンがYCを名目上運営しながらOpenAIのためにどれほど多くの時間を費やしていたかを知って驚き、傷ついた。その後何年もの間、彼らは口をきかなかった。グラハムも怒っていたが、許すのは早かった。それでも、アルトマンが最初からYCに全力を注ぐことを期待していたことを明確にしなかったことを後悔していた。アルトマンの野心は諸刃の剣であることが判明した。

リード・ホフマンのレジェンド投資

ホフマンは、Loopt時代からアルトマンを知っており、ダウンタウンのパロアルトで時々彼と偶然会っていた。おそらくアルトマンよりも執拗なネットワーカーで、政治にもっと強い関心を持っていた—彼は長年民主党の最大の献金者の一人だ—ホフマンはマスクを通じてOpenAIに紹介されたが、ベーシックインカムプロジェクトへの関心やYCのスタートアップスクールで自身の話を共有する意欲を通じて、アルトマンのYCと親しくなった。OpenAIの設立時、彼は1000万ドルを約束しており、2016年にLinkedInをマイクロソフトに売却し、マイクロソフトの取締役会に加わった後、全額を支払うことができた。2018年にマスクが資金提供を停止した際、アルトマンはホフマンにOpenAIの給与を支払うための助けを求めた。Mozillaの理事会にいたホフマンは、営利部門のアイデアを考案するのを手伝い、Khosla Venturesと共に最初の投資家の一人になることに同意した。

リードすら利用しているように見える

ホフマンが理事会に加わった直後、アルトマンは彼をOpenAIでの炉辺談話に招待した。OpenAIの従業員を前に、アルトマンはホフマンに衝撃的な質問を投げかけた。「もし私が組織のCEOとして間違ったことをしたら、どうしますか？」ホフマンは、肩幅が広く、愛想が良く、笑顔を絶やさない人物で、一瞬ためらった。「まあ」と彼は神経質に笑いながら答えた。「もちろん、まず直そうとします。でも直せなかったら、あなたを解雇します」。アルトマンは満足そうに頷いた。「ええ、皆に知ってほしかったことです」。

サム・アルトマン、利益相反をがっつりやっていた

アルトマンは社長職を辞任することに同意したが、YCの会長として留まることを望んだ。これは、彼がYCに投資するよう説得したLPを落ち着かせるためでもあった。YCはブログで彼の新しい役職を発表したが、その後撤回し、会長職を削除した。「サムは、それがうまくいく方法、つまり彼が監督者になる方法を見つけようとしていました」と当時のYC関係者の一人は言った。「そして、社内には『いや、あなたはもう終わりだ』という人もいました」。アルトマンはYCブランドをOpenAIの構築に利用し、YCの株式を使ってOpenAIの研究者向けの報酬プールを作成し、マスクとの初期のメールでYCの建物を提案し、YC企業のデータを使ってOpenAIのモデルを訓練することさえした。Infosysのヴィシャル・シッカ、アラン・ケイの弟子などからYCリサーチのために資金を集めた際、その資金がどの正確なバケツに入るのかは常に少し不明瞭だった。シッカは当初、ケイにHARCで新しい研究室を与えるというアルトマンのビジョンに触発されたが、その寄付は最終的にOpenAIの資金となった。シッカは気にしなかった。彼はその資金をアルトマンのより広範なビジョンへの支援と見ていたからだ。しかし、マスクが最初からOpenAIを独立した非営利団体として設立し、その資金がYCリサーチの他のプロジェクトに流れないように要求したため、この資金の流動性は、一部のパートナーにとってますます利益相反—あるいは少なくともアルトマンの個人的なプロジェクトのためにYCブランドを不適切に利用しているように—見え始めた。アルトマンの支持者たちは、彼が単に素早く行動し、既存のものを破壊しているだけだと言う。「サムは良い人で、善意を持っています」と長年のYCパートナーの一人は言った。「彼は道徳的です。正しいことをしようとします。しかし、彼は衝突を避け、優れたコミュニケーターではなく、時には信頼を裏切るほど素早く行動します」。

CHAPTER 14

Redditの大量のWebTextを学習して、GPT-2を作成、恐怖を感じた人も居た

当初から、安全に関する議論はあった。オリジナルのGPTを作成してから1年後、アレック・ラドフォードとチームは、自家製データセットWebTextで15億パラメータのトランスフォーマーを訓練していた。OpenAIの研究者たちは、Redditで3アップボートを獲得した800万のウェブサイトリンクをスクレイピングすることでWebTextを作成した。これは、高品質で人間が厳選したコンテンツを大規模かつ無償で入手する巧妙な方法だった。その結果、GPT-2は、適切なプロンプトを与えれば、説得力のあるエッセイ、ファンフィクション、あるいはニュース記事を書くことができ、さらに、訓練されていないにもかかわらず翻訳までこなすことができた。これは、「次の単語を予測する」技術が汎用人工知能の方向へ向かっていくつかの振る舞いを示し始めていることを示唆していた。パイオニア・ビルディングの内部では、GPT-2が指し示す方向性に、一部の人々が恐怖を感じた。

アレック・ラドフォードがグレッグ・ブロックマンを嫌っていた、そしてそれをダリオ・アモデイが代弁する

GPT-2は技術的な勝利であり、既存の最高の技術を凌駕していた。先行モデルの10倍のデータを使用しており、OpenAIはさらに桁違いの規模でプロセスを拡大することに意欲的だった。GPT-3となる計画会議には、ほぼ10人の上級スタッフが出席した。それまでDotaプロジェクトに注力していたブロックマンは、新しいGPTプロジェクトに取り組みたいと述べた。GPT-2の研究を指揮していたアモデイは、それは問題外だと断言した。何度か議論を重ねた後、アモデイは理由を怒りながら列挙した。その理由の一つは、OpenAIのGPT研究に不可欠であると彼が考えるラドフォードが、人々のプロジェクトを乗っ取ることで評判のブロックマンとは一緒に仕事をしたくないと拒否したことだった。会議に先立ち、ブロックマンはラドフォードと5時間かけて、プロジェクトへの自身の関与の可能性について話し合っていた。温厚だが内向的な性格のラドフォードは、どうすればよいか分からなかった。彼はブロックマンに関わってほしくなかったが、面と向かって彼に伝えることもしたくなかった。そこで彼はアモデイにその事実を伝え、アモデイは今、アルトマン、ムラティ、そして他のOpenAIのシニアリーダーたちがいる部屋でその事実を公表した。結局、アルトマンは、関係を維持するためにブロックマンをGPT-3から外すと言った。アモデイとラドフォードとの関係を維持するために。社内の他の人々は、アモデイの影響力に驚き、それを社内の亀裂の始まりと見なした。

スケーリング則論文『Scaling Laws for Neural Language Models』
https://arxiv.org/pdf/2001.08361/1000

プリンストン大学で物理学の博士号を取得したアモデイは、2015年の最初の誘いを断った後、2016年にようやくOpenAIに加わった。BaiduとGoogle Brainでの勤務を経て、彼はすぐにOpenAIの最も重要な研究者の一人となった。ニューラルネットワークのスケールアップが結果をもたらすという確信と、社会がその結果にまだ準備ができていないかもしれないという懸念の両方に突き動かされていた。2019年を通じてGPT-3に取り組むことに加えて、アモデイと数人の他の研究者は、「スケーリング法則」に関する論文を発表した。この論文は、研究者がデータ、計算、ニューラルネットワークのサイズを増やすにつれて、大規模言語モデルの性能が一貫して向上することを示していた。会社のために資金を調達しようとするCEOにとって、これは天からの恵みだった。機械に投入された資金が、知識の境界を確実に押し広げるという科学的証明だった。アルトマンはこの洞察を21世紀で最も重要な発見となる可能性を秘めていると呼んだ。「モデルがスケールとともに良くなることを知ることは一つのことだ」と彼は言った。「モデルがスケールとともに予測可能に良くなることを知ることは別のことだ。それは本当に、本当に大きなことだった。」

自社の製品で売上を作らないと資金が足りないという状況で、ジョン・シュルマンがAPIを作ることを提案し、グレッグ・ブロックマンがAPIのプロトタイプを作ってきた

当初の動機は単なる資金調達だった。OpenAIは、望む計算能力を支払うために、いつか人々が実際に現金を出してその製品を購入するという、どんなにわずかな証拠でも投資家に見せる必要があった。しかし、社内の研究者たちは、LLMの現実世界での応用を作ることに熱心ではなかった。彼らはAGIに到達したいだけだった。GPT-3のように計算集約的なモデルでは、Microsoftの10億ドルの計算クレジットではあまり遠くまで行けないことは明らかだった。OpenAIは、Microsoftが自社の技術を「製品化」する方法を見つけるパートナーになることを望んでいたが、Microsoftのスタッフとの会議を何度重ねても、大企業にチャンスを与えることはできなかった。（Microsoftは最終的にGPT-3から製品を作ったが、それらをリリースしたのは2021年、約2年後だった。）そこでOpenAIは、自社で製品を作る方法を考え出すことにした。リーダーたちは、どのような分野でそれが使えるかを想像し始めた。ヘルスケアプロジェクト？教育？機械翻訳？クリスマス直前、ジョン・シュルマンはOpenAIのリーダーシップSlackチャンネルにこの提案を投稿した。「APIを作ってみませんか？」彼は、ソフトウェアアプリケーション同士が通信できるようにするアプリケーションプログラミングインターフェースを指していた。GPT-3にAPIを搭載すれば、ヘルスケアポータルからビデオゲームまで、あらゆる種類のアプリケーションがOpenAIの最先端のテキスト予測モデルに直接アクセスできるようになる。シュルマンは彼らの見込みに楽観的ではなかった。その時点では、GPT-3は事前に確立されたパターンで次の単語を推測できたが、指示の受け取り方を知らなかった。APIが何に役立つのか不明確で、誰もそれにお金を払うとは思わなかった。それでも、他に良いアイデアがなかったので、ムラティのリーダーシップの下、試してみることにした。 LLMに関するあらゆる興奮にもかかわらず、この時点ではLLM製品は存在しなかった。それらはクールなおもちゃや研究プロジェクトだったが、誰もそれが実際に何に役立つのか分からなかった。特に、まだでたらめを言う傾向があったため、それは「幻覚」として知られる習慣だった。しかし、ブロックマンはクリスマス前後の静かな時期を何よりも愛していた。クラスターがアイドル状態で、誰もSlackで彼に連絡してこないとき、彼は真に集中できた。OpenAIの最新のLLM（この時点では世界最高）が未使用のまま放置されていることは、彼にとってほとんど不道徳に感じられた。そこで彼はコードの洞窟に入り、1月最初の数週間までに、OpenAIはGPT-3 APIのプロトタイプを完成させた。あとはユーザーが必要だった。実際、本当に良いユーザーが一人いれば十分だった。

コリソン・インストール

Stripeの初期の頃、このスタートアップは、ポール・グラハムがエッセイで宣伝した積極的なユーザー獲得方法で有名になった。「YCでは、彼らが発明した技術を『コリソン・インストール』と呼んでいます。より控えめな創業者は『ベータ版を試してみませんか？』と尋ね、もし答えがイエスなら、『素晴らしい、リンクを送ります』と言います。しかし、コリソン兄弟は待つことはありませんでした。誰かがStripeを試すことに同意すれば、『じゃあ、ラップトップを貸して』と言って、その場で設定してくれました。」

GPT-3のAPIリリース後、ダリオ・アモデイらが離反

アモデイと彼の支持者たち（その多くは、その年に発表されたスケーリング法則に関する論文の共著者だった）は、感銘を受けなかった。社内の上層部での争いは激しさを増した。「サムとグレッグはYCとStripe出身で、古典的なシリコンバレーの『とにかく出荷してスケールアップしよう』という姿勢が強かった」と当時のOpenAIの従業員の一人は言った。対照的に、アモデイは学術的な背景を持ち、自身の仕事の安全上の影響にますます執着していた。彼のチームは、モデルはよりゆっくりと、より多くの制限を設けてリリースされるべきだと考えていた。ダリオ・アモデイは友人に、アルトマンによって精神的に虐待されていると感じていると語った。アルトマンは同僚に、この緊張が彼の仕事を嫌いにさせていると語った。アモデイと彼のチームは、もし彼らが会社を辞めるなら、今がその時だと知っていた。「私たちは皆、これがどこへ向かっているか分かっている」とアモデイの側近の一人は言った。「自分たちのことをする時が来たら、それは遅かれ早かれだ。なぜなら、この種のものの資本要件は、スケーリング法則のために本当に大きくなるからだ。」2021年までに、アモデイと他の10数人のOpenAIスタッフは、Anthropicという競合会社を立ち上げるために退社した。アルトマンは、そのトラウマを完全に乗り越えることはなかった。

CHAPTER 15

DALL-Eの語源

2021年初頭、OpenAIはGPT-3を使って、テキストの指示から画像を生成できるモデルを動かした。彼らはそれをDALL-Eと名付けた。ディズニーのWALL-Eとサルバドール・ダリの両方へのオマージュだった。
サム・アルトマンが2021年3月に発表したエッセイ「Moore’s Law for Everything（すべてに対するムーアの法則）」
https://moores.samaltman.com/

これらの進歩により、アルトマンは社会を再構築する上での自身の役割について、これまでで最も力強い主張をすることができた。「OpenAIでの私の仕事は、ほとんどの人が信じているよりも早く来る社会経済的変化の大きさを毎日思い出させます」と彼は2021年3月のエッセイ「すべてに対するムーアの法則」で書いた。「思考し学習できるソフトウェアは、人々が現在行っている仕事の多くをますます行うようになるでしょう。ますます多くの力が労働から資本へと移行するでしょう。」 AIは、ほとんどすべてのものを安くすることで富を生み出すだろうと彼は主張した。「十分に強力なAIが『労働力に加わる』と、多くの種類の労働（商品やサービスのコストを左右する）の価格はゼロに近づくでしょう」と彼は書いた。「AIは商品やサービスのコストを下げるでしょう。なぜなら、労働はサプライチェーンの多くのレベルで主要なコストだからです。もしロボットが、あなたがすでに所有している土地に、現場で採掘・精製された天然資源と太陽光を使って家を建てられるなら、その家を建てるコストはロボットを借りるコストに近くなるでしょう。そして、もしそのロボットが他のロボットによって作られるなら、それらを借りるコストは人間が作った場合よりもはるかに安くなるでしょう。」残念ながら、AIが安くしない主なものは土地だった。このエッセイは、未来について大胆な主張をし、たまたま自身のビジネスのマーケティングピッチとしても機能する、典型的なベンチャーキャピタリストのマニフェストだった。しかし他方で、それはアルトマンの多くのペットプロジェクトや執着（AI、UBI、手頃な住宅、テクノ・ユートピア主義）が、一つの世界観に統合された印象的なものだった。そして、彼はこれまで以上に権威を持っていた。彼が皮肉なしに「これから何が起こるか、そしてこの新しい状況をどう乗り切るかの計画が続く」と書いたとき、彼を信じようとする人々は増えていた。

Worldcoinに取り組み始めた

Forbesにリークされた2023年のWorldcoin従業員サミットでの音声によると、アルトマンのWorldcoinの当初の目標は、「私たちの中心的な機関、最も強力な政府は、弱体化し続けるか、悪化し続けるかのどちらかだ」という彼の信念から生まれたものだった。「国家が行っていた目標の一部を、テクノロジーがどこまで達成できるかという実験を行うのは面白いだろう」と彼は考えていた。⁵サミットの別の時点で、彼はWorldcoinトークンが政府の許可なしに世界規模でパスポートのような政府識別システムの役割を担う能力に感嘆した。「Worldcoinが政府の許可なしに世界規模でこれをできるという考えは本当にエキサイティングだ。」

サムは数百億円の資産を一気にバイオ領域の寿命延長系スタートアップに投資

アルトマンのテクノ・ユートピアでは、政府も生物学も人間の意志を縛る必要はなかった。2023年にも、アルトマンは自身の流動資産のほぼすべてを2つの会社に投資した。そのうちの1つ、彼が1億8000万ドルを投資したRetro Biosciencesは、老化の根本原因を攻撃することで人間の寿命を10年延ばすことを目指していた。Retroは、ピーター・ティールとイーロン・マスクが10年以上前に支援した遺伝子改変会社の自動化を率いていた、スポーティーなジェネレーションX世代のジョー・ベッツ＝ラクロワが運営していた。その会社はHalcyon Molecularと呼ばれ、その目標は、安価なゲノムシーケンシング技術を開発して老化を治療することだった。彼が創業者たちに初めて会ったとき、ティールはその可能性に熱狂していた。「彼は実際に飛び跳ねていました」とHalcyonの共同創業者ウィリアム・アンドレッグは、マックス・チャフキンがティールに関する著書『The Contrarian』で語った。「彼は、『これを解決しなければ、私たちは皆死ぬぞ』と言っていました。それが最初の会話でした。」 Halcyonが倒産した後、ベッツ＝ラクロワはHealth Extension Foundationを設立し、ベイエリアの不死愛好家のための会議を運営した。様々なスタートアップを立ち上げる傍ら、ベッツ＝ラクロワはYCのパートタイムパートナーとなり、2018年1月、YCは人間の寿命や健康寿命を延ばす企業に最大100万ドルを提供するという募集を出した。YCの冬のバッチには、Nectomeという会社が含まれていた。この会社は、人々の脳を保存し、アップロードすることを目的としていた。脳は新鮮でなければならないため、末期患者にのみサービスを提供でき、彼らは生きたまま防腐液を脳に注入することに同意する必要があった。Nectomeの創業者ロバート・マッキンタイアは、MIT Technology Reviewに、彼の会社がデモデーで「100パーセント致命的」である唯一の会社として際立つだろうと自慢した。アルトマンは、待機リストに加わるために1万ドルを預けた最初の25人のうちの一人だった。「私の脳はクラウドにアップロードされると仮定しています」と彼は雑誌に語った。

核融合のHelionにも数百億円投資

アルトマンがその年に行った2番目の大きな投資は、核融合から安価な電力を生成しようとしているスタートアップHelionへの追加の3億7500万ドルだった。HelionはYCの2014年夏のバッチの一部だった。アルトマンは当初1000万ドルを投資し、取締役会の議長となり、それ以来資金調達を主導してきた。2021年には、ティールやダスティン・モスコヴィッツなどの以前の投資家を含むラウンドを主導し、執行会長となった。TechCrunchのインタビューで、HelionのCEOデビッド・カートリーはアルトマンを「物理学を実際に理解している大使。それは本当に素晴らしい」と称賛した。彼はMIT Technology Reviewに、Helionが2024年までに原子炉を動かすのに必要な電力よりも多くの電力を生成することを目指しており、最初の顧客はデータセンター（AIの訓練と実行に必要な種類）になる可能性が高いと語った。データセンターの利点の一つは、通常、人口密集地域から離れた場所に位置する傾向があることだとカートリーは述べた。

終末シナリオでの逃げ道だけは意識した資産配分をしていた

アルトマンは、世界をより良い場所にするというシリコンバレーの決まり文句を全く別のレベルで捉えているようだった。しかし、利他主義に関するあらゆる話の中で、彼は自身のライフスタイルを向上させていた。2016年、彼はThe New Yorkerに、ミッション地区の4寝室の家、5台の車（マクラーレン2台とテスラ1台を含む）、ビッグサーの所有地、そして残りの人生を暮らすのに十分な利息を生み出す1000万ドルの貯蓄以外はすべて手放すことに決めたと語っていた。残りは人類の改善に充てられるだろう。¹⁰しかし2020年、彼はすぐにプライバシーがもっと必要になることに気づき、買い物を始めた。彼は長年兄弟と共有していたミッション地区のビクトリア朝の家をインフィニティプール、アートギャラリー、街の絶景を望む2700万ドルのラシアンヒル複合施設と交換した。快適な週末の休暇には遠すぎることが判明したビッグサーの物件を、ナパワインカントリーにある1570万ドル、950エーカーの牧場と交換した。そして2021年7月には、ハワイ島のビッグアイランドに、自身のオーシャンインレットと複数の家屋を持つ4300万ドルの邸宅を購入したとBusiness Insiderが報じた。マーク・ザッカーバーグ、ジェフ・ベゾス、ティールもその時点でハワイに物件を購入していた。

Github Copilotが世に出されて、エンジニアが度肝を抜かれたGithub Copilotの時期にCodexをもう出していたのか

2022年初頭までに、OpenAIのモデルは、もはや注目を集めるためにロボットやビデオゲームの競技会を必要としないほどに良くなっていた。GPT-3の予期せぬコーディング能力は、同社に、より多くのコードで訓練し、2021年秋にプライベートテスト版をリリースするよう促した。彼らはそれをCodexと呼び、ソフトウェアエンジニアがコードを書くのを助けることを意図していた。その秋、Microsoftも、Github Copilotと呼ぶこの技術のプレビュー版を、開発者向けのツールであるVisual Studioに組み込んだ。この技術により、経験豊富なプログラマーは少しコードを入力し、「Tab」を押すだけで、AIが残りを埋めることができるようになった。製品はバグだらけだったが、アルトマンの心の中では、軌道は明確だった。彼の長年の仮定に反して、ロボットはまず高級な仕事のためにやってくるだろう。

GPT-3.5に繋がるRLHF

2022年1月、OpenAIはInstructGPTという製品をリリースした。これはGPT-3の最悪の傾向を抑制しようとするものだった。GPT-3が嘘やその他の反社会的な発言を吐き出す傾向を克服するために、研究者たちは、人間が人間が実際にどのように振る舞ってほしいかを、人間からのフィードバックによる強化学習（RLHF）と呼ばれるプロセスを使って教えた。人間は応答が期待にどれだけ合致するかを評価し、そのフィードバックがモデルを文明化するフィルターの作成に役立った。

GPT-3.5にUpdateしたらAPIが使われ始めた

2ヶ月後、OpenAIはAPIをGPT-3.5にアップグレードして再び更新した。今回は、研究論文も、訓練されたパラメータの数についても言及がなかった。しかし、何が変わったにせよ、このツールはOpenAIの顧客にとって格段に魅力的になった。リリース前、製品チームは、GPT-3の売上不振がAPI自体が役に立たないためなのか、それともモデルが期待外れだったためなのかを判断するのに苦労していた。GPT-3.5がリリースされると、彼らは答えを得た。新しいモデルが売れ始めたからだ。「顧客は、望むことをする可能性が高いアラインされたモデルを求めていました」と、このプロジェクトに取り組んだOpenAIのシニアエグゼクティブの一人は言った。

のちにChatGPTとなるWebGPT、ジョン・シュルマンのチームが開発

それでも、インターネットのフェイクニュースへの欲求を考えると、AIの正確性の問題は大きな懸念だった。GPT-3.5の幻覚を起こす傾向を解決するアイデアの一つは、ウェブブラウザを使ってその答えをファクトチェックする方法を教えることだった。WebGPTと呼ばれるこのプロジェクトは、OpenAIの共同創業者ジョン・シュルマンの強化学習チームで働いていた研究者で熱心なEAであるジェイコブ・ヒルトンが率いていた。シュルマンはこのプロジェクトを支持したが、モデルを真実性へと導く別の手段、つまり対話に、より興奮していた。それは、ソクラテスがアテネのアゴラを闊歩して以来、人間の心が訓練されてきたのと同じ方法だった。ヒルトンと彼のチームは2021年後半にWebGPTプロジェクトを終え、クリスマス休暇から戻ると、会話型モデルの開発に取り組み始めた。彼らは対話をアライメントツールとして使い、生徒に教えるようにモデルを教えた。

ビル・ゲイツがGUIの再来だと思ったというデモ

GPT-4の最初のデモンストレーションを見た理事会は、その能力に驚愕した。1年前、アルトマンとブロックマンはシアトルを訪れ、ビル・ゲイツに会い、彼を本当に感銘させるには何が必要か尋ねた。彼の答えはこうだった。モデルがAP生物学の試験で5点を取れること。理事会の前のモデルはそれができるだけでなく、コードも書けた。しかし、それだけではなかった。ジョークも言えた。
GPT-4が既にできていたが、GPT-4の知能とChat Interfaceを両方出すのは世界に取って大きすぎると思い、あえてChat Interface(ChatGPT)からリリースした

GPT-4が8月に訓練を終えると、彼らは翌1月にチャットインターフェース付きでGPT-4をリリースする計画を立てた。しかし、より多くの人々がそれを使うにつれて、その計画は変わり始めた。「どういうわけか、このチャットインターフェースは人々が思っているよりもはるかに大きなものだ」とアルトマンは思い出す。「人々がそれを使っているのを見ていました。私自身がどう使っているかにも気づいていました。そして、これは二つのものを分けるべきだと感じました。」アルトマンは、GPT-4の大学レベルの知性と、奇妙なほど人間らしいチャットインターフェースという二つの進歩が同時に起こる衝撃は、世界にとって大きすぎると考えた。「GPT-4とチャットインターフェースを同時に行うことは、世界にとって大規模なアップデートになるだろうと私は思いました。そして、振り返ってみても、この決定は正しかったと思います。中間的なものを提供した方が良かったのです。」ライバルのAnthropicがすでに独自のチャットボット「Claude」を構築しており、リリースに十分な安全テストを待っているだけだという噂があったが、それは真実であることが判明した。 GPT-4は新年早々にリリースされる予定だったので、古いモデルに接続されたチャットインターフェースを少し早めにリリースするのが理想的だった。しかし、アルトマンが言うように、「休暇中にローンチすることはできない」ので、彼は感謝祭の直後、チャットインターフェースのローンチを早めるよう推し進めた。「これを早くやりたい、と私は言いました。」全体的に、それは非常に控えめなもので、技術的には単なる「研究プレビュー」であり、彼らはそれを「Chat with GPT 3.5」という分かりやすい名前で提供するつもりだった。「OpenAIは名前付けが下手で有名です」とアルトマンは言った。「でも、そんな名前にはしないつもりでした。」彼らはChatGPTに落ち着いた。 2022年11月30日、アルトマンは、彼の特徴であるすべて小文字のスタイルで、短く控えめな発表をツイートした。「今日、ChatGPTをローンチしました。ここで試してみてください：chat.openai.com」と、恥ずかしそうに付け加えた。「これは可能なことの初期デモです（まだ多くの制限があります—非常に研究リリースです）。」

Chatインターフェースの発明だけがきっかけだった

OpenAIの内部では、ChatGPTの作成者たちはその反応に困惑していた。ChatGPTの背後にあるコア技術は2年間利用可能であり、更新されたモデルはほぼ1年間APIに組み込まれていた。理論的には、OpenAIがアクセスを販売していたモデルにチャットインターフェースを置けば、誰でもいつでもChatGPTを自分で作ることができたはずだ。しかし、チャットインターフェースには何か特別なものがあった。「標準的なベンチマークで評価される生来の技術的能力は、モデル間で実質的に違いはありませんが、ChatGPTはよりアクセスしやすく、使いやすいのです」とジョン・シュルマンはMIT Technology Reviewに語った。1月までに、ChatGPTは1億人のユーザーに達し、史上最速で成長する消費者向けテクノロジー製品となった。「彼が何をリリースしているのか、全く分かっていなかったのが見て取れました」とアルトマンの友人ブライアン・チェスキーは言った。「まるで彼が火を発見し、それを世界にリリースしようとしていたのに、今や料理ができ、人々を暖かく保ち、動物を寄せ付けないことができるとは気づいていなかったかのようでした。彼らが製品にあまりにも近視眼的だったのが見て取れました。」

ノーム・シャジア、Transformer論文の著者の1人で、Google Brainの中心人物、LaMDAの開発もやってたのか

Google Brainの内部では、ダニエル・デ・フレイタスという研究者が、ウェブからスクレイピングされたソーシャルメディアの会話で訓練された26億パラメータのチャットボットMeenaを2020年に開発するのを手伝っていた。しかし、Googleは安全上の懸念から、チームがそれを一般公開することを許可しなかった。そこで彼らは、Google Brainのトランスフォーマー論文の研究者の一人であるノーム・シャゼールらの助けを借りて、その開発を続けた。彼らはそのモデルをLaMDA（Language Models for Dialog Applications）と改名した。それは論争の的となった。

サムが日本に来ていたのもブライアン・チェスキーのススメだったのか

ブライアン・チェスキーの勧めもあって、アルトマンは5週間の世界ツアーに出発し、英国のリシ・スナク首相、フランスのエマニュエル・マクロン首相、スペインのペドロ・サンチェス首相、ドイツのオラフ・ショルツ首相、イスラエルのアイザック・ヘルツォグ大統領、ドバイのシェイク・マクトゥーム・ビン・モハメド・ビン・ラシード・アル・マクトゥーム、インドのナレンドラ・モディ首相、韓国のユン・ソクヨル大統領、その他の世界のリーダーたちと会談した。ツアーのペースは非常に速く、パリではOpenAIの政策チーム（アンナ・マカンジュが率いる）は街を楽しむ時間がなく、ホテルの部屋でパワーバーを食べていた。「彼は必要な国の3倍もの国に行ったと思います」とチェスキーは言った。チェスキーは、Airbnbの初期の成功が全国の自治体にサービスを禁止させようと促した後、政府の注目を浴びることがどのようなものかを肌で知っていた。彼はクリントン政権のホワイトハウス顧問クリス・レハネを雇い、カリフォルニア州で短期賃貸を禁止する法案に反対するためのショック・アンド・オーのロビー活動を主導したが、政治家たちにも積極的に働きかけた。「政治家たちはすでにあなたのことを話していますよ」とチェスキーはアルトマンに言った。「でも、彼らがあなたのことを話しているなら、直接会って彼らに会うことが本当に重要です。なぜなら、古いことわざにあるように、情報がないと汚い情報で埋め尽くされるからです。そして、人々を恐がらせたくない。恐怖への解毒剤は情報です。」

CHAPTER 16

ポーズだけ取って引き伸ばすやり方

2022年秋、ChatGPTの華々しいリリース後、アルトマンは全社ミーティングで、取締役会にAI安全の専門家を追加したいと従業員に語った。これは好評を博し、特にアルトマンが会社を構成すると時々説明する3つの「部族」—学術、安全、スタートアップ—のうち2番目の部族で歓迎された。しかし、取締役会のメンバーが追加すべき人物の提案を提出しても、何も進展しなかった。OpenAIの取締役会は、Open PhilanthropyのAI安全専門家であり、バークレーのEA学生グループの創設者であるクリスティアーノの妻、アジェヤ・コトラに面接したが、アルトマンとブロックマンの引き延ばしにより、プロセスは停滞した。アルトマンはその後、他の取締役会メンバーが彼に何らかの形で恩義があると感じる人物のリストを提示した。「ちょっとした権力闘争がありました」と、アルトマンが提案した将来の取締役会メンバーの一人であるブライアン・チェスキーは語った。「サムが名前を言えば、彼らはサムに忠実でなければならない、だからノーと言うだろう、という基本的なことでした。」

リード・ホフマンもOpenAI取締役だったのにInflection AIを作って、ピーター・ティールとサム・アルトマンに激怒された
Inflection AIはマイクロソフトにアクハイアーか

状況は、アルトマン支持派の現取締役3人が立て続けに辞任した後、さらに悪化した。アルトマンがOpenAIの商業化を検討するのを助け、マイクロソフトとの重要なつながりであったリード・ホフマンは、競合するAI企業Inflection AIを立ち上げることを決定し、アルトマンとティール双方を激怒させた。彼はこの利益相反のため、2023年3月にOpenAIの取締役会を辞任した。（ホフマンはその後、Inflectionをマイクロソフトに売却し、共同創設者で元DeepMind共同創設者のムスタファ・スレイマンをマイクロソフトの新しいAI製品部門の責任者に据えた。）

OpenAIの取締役会はぐちゃぐちゃ

同じ月の後半、長年アルトマンと親交があり、マスクに近いAI専門家でニューラリンクの幹部であるシヴォン・ジリスも辞任した。前年の夏、OpenAIの取締役会メンバーは、ジリスが前年11月にマスクとの体外受精で双子をもうけたことを知って驚愕し、激怒した。子供たちの存在は、Business Insiderが、彼らの名前を父親の姓にし、母親の姓をミドルネームの一部にするよう求める裁判記録を掘り起こした後、初めて公になった。独立した取締役会メンバーはジリスの退任を望んだが、アルトマンは、気まぐれなマスクとの重要な連絡役であると主張し、彼女の留任を推し進めた。しかし、マスクが3月に自身の競合AI企業xAIを設立した後、OpenAIの取締役会は、利益相反が大きすぎるため彼女の留任はできないと合意した。

サム・アルトマン派の取締役が少なくなったのでサムは不安になった

これらの辞任はアルトマンを非常に不安にさせた。特に、残りの取締役会メンバーであるクオラCEOで元フェイスブック幹部のAdam D’Angeloが、過去1年間でOpenAIの企業統治の改善にますます関心を持つようになり、取締役会の問題にかなりの時間を割くようになったからだ。D’Angeloは、アルトマンに報告する2人の従業員—ブロックマンとサツケバー—が、アルトマンを監督することになっている取締役会に座っているという、取締役会の基本的な構造に懸念を抱いていた。これらの懸念は、2022年夏にGPT-4のデモを見て、自分たちの決定が潜在的に重大なものになりつつあることを認識した後、取締役会の数人のメンバーにとって、はるかに緊急性の高いものとなった。

アルトマンとブロックマンは、取締役人事や発言権の調整において、利益相反の指摘を「都合の良い時だけ」持ち出す傾向があった
「GPT-4が安全委員会の承認を得た」と嘘をついた

トナーはまだ納得していなかったので、アルトマンは電話で話し合うことに同意した。会社が2人の取締役を失ったばかりだったので、トナーはD’Angeloを取締役会に残す解決策を見つけられないかと考えた。電話で、アルトマンは同意し、D’Angeloに電話すると言った。トナーはその後、そのことについて何も聞かなかったが、アルトマンがD’Angeloと電話し、Poeに関する利益相反の認識さえ持ち出さなかったことを後に知った。D’Angeloは取締役会に残った。この一件で、トナーとマッコーリーは、アルトマンとブロックマンが、自分たちの望むことを実現するために、利益相反の見た目を利用して、話を変えるだろうという印象を抱いた。（取締役会の他のメンバーは、Poeの利益相反が正当な懸念であると引き続き信じていた。）おそらくトナーとマッコーリーは、アルトマンへの信頼を失い始めていたため、最悪の事態を信じる準備ができていたのだろう。2023年春、OpenAIの従業員が取締役会に、会社が「安全面で脱線している」と伝えた。OpenAIとマイクロソフトの関係が深まるにつれて、両社は新製品のリスクをリリース前にレビューするための展開安全委員会（DSB）を設置した。取締役会は、利益を追求するのではなく人類に利益をもたらすことを誓うOpenAIの憲章に対する義務として、DSBの機能を監視することを主要な役割の一つと見なしていた。しかし、アルトマンはDSBの役割を真剣に受け止めていないようだった。2022年冬のOpenAI取締役会会議で、取締役会がGPT-4のやや物議を醸す3つの機能強化をどうリリースするか検討していた際、アルトマンは3つすべてがDSBの承認を得たと主張した。トナーは懐疑的で、文書を要求したところ、APIに関するものだけが実際に承認を得ていたことが判明した。

勝手にプロジェクトや投資を行っていた
アルトマンは後から「これらはOpenAIのため」と説明するが、取締役会はほとんど報道で初めて知る状態

毎日、アルトマンの課外活動に関する新たな驚くべき報告がもたらされるようだった。彼は、マイクロチップの世界的な供給を拡大するという野心的なベンチャーのために資金を調達するため、中東を旅していた。彼は、自身が投資していたYC卒業生の核分裂会社Okloを、特別買収目的会社（SPAC）を通じて上場させようとしていた。OpenAIの最も重要な企業パートナーであるマイクロソフトは、アルトマンの核融合会社Helionからエネルギーを購入する契約を結んだ（持続可能な核融合エネルギーの実際の発明を条件とする）。彼は、伝説的なiPhoneデザイナーのジョニー・アイブと、何らかの新しいAIデバイスについて会っていた。これらの活動はそれぞれ、アルトマンからの免責事項付きで、時間が経つにつれてアルトマンは、チップの資金調達やジョニー・アイブとの提携のようなプロジェクトはOpenAIのために行われていると述べた。しかし、取締役会は彼の活動を報道で読むにつれて疑問を抱いた。

OpenAI Startupファンドを個人で所有していた
収益はOpenAIの株主には還元されないこの構造を、取締役会は2023年夏の雑談ベースで初めて知った

そして、2023年夏のある夜、OpenAIの取締役会メンバーは、ディナーパーティーで、OpenAIのスタートアップファンドからの収益がOpenAIの投資家に行かないのは不適切だという話を聞いた。そのファンドは、OpenAI製品への早期アクセスなど、希少なリソースを利用できたのだから。これも取締役会にとっては初耳だった。この人物は何を言っているのか？OpenAIは2021年にスタートアップファンドを立ち上げ、当時、マイクロソフトなどからの投資を受けてOpenAIが「管理する」と述べていた。このファンドは、AI駆動の法律スタートアップHarveyやその他いくつかの企業に投資していた。しかし、収益がOpenAIの株主に行かないとはどういうことなのか？取締役会はアルトマンに尋ね始め、数ヶ月にわたるやり取りの末、最終的にアルトマンが個人的にファンドを所有しており、LPから資金を調達してファンドを運営していたことを知った。通常の取り決めでは、アルトマンはキャリードインタレスト、つまりファンドの創設者に通常発生する手数料と利益分配を得ることになる。OpenAIは、アルトマンがファンドに金銭的な利害関係はなく、最も速い方法だったから個人的に設立しただけだと述べている。（取締役会への最初の回答は、この構造の税制上の利点についてだった。）しかし、それは奇妙な構造のファンドをさらに奇妙なものにするだろう。独立した取締役会メンバーは、明確な回答が得られないと感じた。彼らはまた、アルトマンがOpenAIに利害関係がないと繰り返し主張していたこと、そしてこの地位が彼が取締役会で務める上でいかに重要であったかを考えると、事前に知らされるべきだったと感じた。

イリヤが取締役会に助言

サツケバーはトナーに翌日話す時間があるかメールで尋ねた。これは非常に異例だった。取締役会は通常、数週間、場合によっては数ヶ月前に予定されていた。翌日の電話で、サツケバーは言葉を濁し、トナーを混乱させる不可解なフレーズを口にした。彼は実際に何を考えているのか言えないと認めた。最終的に、彼は手がかりを咳き込んだ。「もっとミラと話すべきです。」

ミラ・ムラティから見ても、アルトマンは嘘つきで誰かの信頼を失わせるようなことを言うという評価

当時34歳だったミラ・ムラティは、前年5月に正式にOpenAIのCTOに任命されていたが、2020年後半からその職務を実質的に務め、会社を運営していた。ムラティは、どのプロジェクトが計算資源を得るか、どのモデルがリリース前にさらなる安全テストを必要とするかを決定する人物だった。彼女と働いた人々は、彼女が計り知れないほどの感情的知性とほとんどエゴを持たず、他の誰もができない方法で研究者チームをまとめることができたと述べている。「彼女は創設者たちの間で落ち着かせる存在です」と元従業員の一人は語った。「彼女は自分たちを救うためのスキルと忍耐力の両方を持っています。」彼女はまた、聴衆の前に出て、OpenAIの仕事の宇宙的な意味について権威を持って話すこともできた。彼女は2023年3月にウォール・ストリート・ジャーナル紙のオフィスを訪れ、編集者や記者との会議に出席し、黒いパンツ、黒いハイヒールのブーツ、黒いレザージャケットを着用し、まるでサイボーグのスーパーモデルのようだった。彼女はエンジニアのような飾り気のない率直さで質問に答えた。彼女は脚光を浴びることを全く楽しんでいないようだったが、それが彼女の野望を達成するために必要なステップであることを理解していた。その野望は、彼女が若い頃にインターネットアカウントで使っていたハンドル名、すなわち「ユニコーンの母」に最もよく表れていた。偶然にも、トナーは2023年9月29日にムラティとコーヒーを飲んだばかりだった。これは、取締役会とのより良い関係を築くために、アルトマンの知識を得てムラティが始めたものだった。彼らは幅広い会話をしたが、それが緊急の行動の原因となるようには見えなかった。しかし、トナーはサツケバーの助言を受け、再びムラティに電話し、サツケバーとの会話が混乱していること、何か問題が起きているのか、取締役会が知るべきことがあるのかと尋ねた。ムラティは、アルトマンの有害な会社運営スタイルが、特に最近数ヶ月の彼の不安が募る時期に、何年もの間問題を引き起こしてきたと説明した。彼女の経験では、アルトマンには単純な手口があった。まず、自分が望むことをさせるために必要なことは何でも言う。次に、それがうまくいかなければ、あなたの信頼性を損なうか破壊する。アルトマンは、2人の競合する人物に同じ仕事を約束したり、彼女が数ヶ月かけて獲得しようとしていた交渉でマイクロソフトに譲歩したりするなど、人々が聞きたいことを言った。彼女は、ブロックマンとアルトマンの間の力学が、彼女の仕事をほとんど不可能にしていると説明した。社長でありながら直属の部下を持たないブロックマンは、技術的には彼女に報告していたが、取締役会にも所属していた。彼女が誰かのプロジェクトに口出しするのを止めようとすると、彼はアルトマンのところに行き、彼女を迂回した。ブロックマンの行動は、複数の人々を会社から追い出し、アルトマンとブロックマンの間の持続不可能な力学は、チーフリサーチオフィサーのボブ・マクグリュー、そしておそらくムラティ自身を含む、さらに数人を追い出そうとしていた。ムラティは、これらの点について過去にアルトマンにフィードバックを与えたと述べた。

サム・アルトマンの手口にイリヤも気づき始めた

サツケバーがアルトマンの行動パターン—OpenAIのCEOが彼に一つのことを言い、その後別のことを言い、その違いが事故であるかのように振る舞う—を特定できるようになるまでには何年もかかった。「ああ、言い間違えたに違いない」とアルトマンは言うだろう。サツケバーは、アルトマンが不正直で混乱を引き起こしていると感じていた。これはどんなCEOにとっても問題だが、特に文明を変える可能性のあるテクノロジーを担当するCEOにとっては問題だった。

イリヤから推論モデルの研究を受け継いだレジェンド研究者ヤクブ・パチョツキ

サツケバーはOpenAIの次の方向性を計画していた。それは、質問に答えるのに時間がかかり、より遠い未来を計画する推論モデルで、最終的に01の基礎となった。彼はその追求のためにチームを立ち上げた。サツケバーがそのチームを率いてほぼ1年が経った頃、Dota 2プロジェクトの研究を率い、ブロックマンと親しくなった研究者のヤクブ・パチョツキが、サツケバーの推論研究と非常によく似たバリアントを追求し始めた。彼は当初、サツケバーのチームと協力しようとし、文脈における強化学習による推論に関する研究について、毎日サツケバーに連絡を取っていた。その後、パチョツキは2022年までGPT-4の研究に引き込まれた。パチョツキが推論研究に戻った際、サツケバーとパチョツキのチームを統合することが決定された。サツケバーは、その研究が十分に進行しており、最終的に成功すると確信していた。彼はパチョツキに研究を任せ、自身はAI安全に注力した。

サムの二枚舌で内紛が起こった

サツケバーとパチョツキはともに、アルトマンが会社の研究方向を主導することを許可したと信じていた。しかし、アルトマンがサツケバーをチーフサイエンティストの肩書きに留めつつ、パチョツキを研究ディレクターに昇格させるという中途半端な試みは、数ヶ月にわたる内紛と生産性の低下につながった。サツケバーの見解では、これはアルトマンの二枚舌と破滅的な対立回避の最新の例に過ぎなかった。トナーは、サツケバーの主張が深刻であるため、D’AngeloとMcCauleyに話すべきだと考えた。「彼らを信頼しますか？」とサツケバーは尋ねた。「このようなことを彼らに話しても安全ですか？」トナーは彼らを保証した。マッコーリーも同様の懸念を抱いていた。彼女は、サツケバーの質問がアルトマンによって仕組まれた忠誠心テストではないかと心配した。一歩引いて、トナーは周囲に蔓延する恐怖に衝撃を受けた。AI競争をリードする会社のガバナンスについて、その取締役会の半分がCEOについてこのように感じているとしたら、それは何を意味するのだろうか？

サム・アルトマンは嘘つきの二枚舌、グレッグ・ブロックマンはPJに割り込んだり、いじめも行う

取締役会メンバーが互いに頻繁に連絡を取り合っていたからこそ、彼らはアルトマンが嘘をついたことを突き止めることができ、それが決定的な要因となった。10月下旬、サツケバーがマッコーリーと話していた際、アルトマンがマッコーリーに、トナーはあの記事のせいで明らかに取締役会を辞めるべきだと話した、とアルトマンが言ったと述べた。マッコーリーはそんなことは言っていないと知っていた。彼女はD’Angeloに電話し、何が起こったかを説明した。「それは非常に懸念すべきことです」と彼は言った。会社の独立した取締役会メンバー3人の心の中では、この出来事は、アルトマンが皆に好かれ続けるために、自分の真の願望を他人の口から出すという彼の行動様式を明確にしたように見えた。サツケバーの提案で、マッコーリーはムラティに連絡を取り、誘導的な質問をしないよう注意した。ムラティは、アルトマンの経営スタイルの45分間の批判と、ブロックマンとの協力がいかに困難であるかを述べた。彼女は、ブロックマンが文脈をほとんど理解せず、強い意見を多く持ちながら、他人のプロジェクトに割り込む傾向があると述べ、アルトマンとの連携のためにブロックマンにフィードバックを与えられないという、トナーに述べた懸念を繰り返した。彼の主張を証明するため、サツケバーはトナー、マッコーリー、D’Angeloに、Gmailの自己破壊PDF機能を使って2つの長い文書をメールで送った。一つはアルトマンに関するもので、もう一つはブロックマンに関するものだった。アルトマンに関する文書は、ムラティのSlackチャンネルのスクリーンショットを多数含む、数十の嘘やその他の有害な行動の例で構成されていた。そのうちの一つでは、アルトマンがムラティに、会社の法務部門がGPT-4 TurboはDSBのレビューを受ける必要がないと言ったと伝えている。ムラティが会社のトップ弁護士であるジェイソン・クワンに確認すると、彼は困惑し、アルトマンがどうしてそのような印象を持ったのか想像できない、もちろんGPT-4 TurboはDSBを通す必要がある、と述べた。ブロックマンに関する文書は、主に彼のいじめ疑惑に焦点を当てていた。ブロックマンは、アップルのベテランであるスティーブ・ダウリング（会社の元広報責任者）を、あまりにも多くの広報決定を自分で引き継ぎたいという願望を示すことで追い出した。彼はボブ・マクグリューについてアルトマンに日常的に不平を言い、マクグリューが会社に留まることを困難にした。アルトマンはOpenAIの従業員からブロックマンを抑えるよう多くの要求を受けたが、彼は同意するものの、めったに行動しなかった。

サム・アルトマンの政治力が高すぎて、解任には一瞬の隙を狙わないといけなかった

もし行動するなら、サツケバーは迅速に行動しなければならないと警告した。なぜなら、アルトマンは非常に魅力的で狡猾なので、彼らの意図を嗅ぎつけ、支持者を味方につけるだろうからだ。彼は、取締役会がアルトマンの忠実な支持者で固まっていない瞬間を狙って、行動を起こすタイミングを非常に慎重に選んでいた。11月の会議では、取締役会はさらに数人の将来のメンバーとの面接を予定していた。その窓はいつでも閉じる可能性があった。そこで、2023年11月16日木曜日の午後、3人の独立した取締役会メンバーとサツケバーはビデオ通話にログインし、アルトマンを解雇することを投票で決定した。ムラティが、ブロックマンを監督し、かつ取締役会で彼に報告し続ける必要がある場合、暫定CEOになることに同意しない可能性が高いことを会話から知っていたため、彼らはブロックマンも解任することを投票で決定した。投票後、独立した取締役会メンバーはサツケバーに、彼が忠誠心を試すためのスパイとして送られたのではないかと心配していたと伝えた。ムラティは会議に出席していたが、3人の独立した取締役会メンバーとサツケバーから、翌日アルトマンを解雇すること、そして彼女に暫定CEOに就任するよう求める電話を木曜日の夜に受けた。彼女は会社を安定させるためにできることをすると同意した。彼らがなぜ彼を解雇するのか尋ねると、彼らは詳細を共有することを拒否した。

サムが解任された瞬間

翌日、アルトマンとマルヘリンはラスベガスでF1レースを観戦していた。その時、アルトマンはサツケバーとの正午の会議のためにGoogle Meetのリンクをクリックした。彼は驚いたことに、D’Angelo、トナー、マッコーリーの顔が画面に現れたが、不吉なことに、数分前に取締役会から解任されたブロックマンの顔はなかった。サツケバーはアルトマンに短い台本を読み上げ、彼が解雇されることを告げたが、その理由については具体的に述べなかった。ショックを受けたアルトマンは、YCのオフィスアワー時代からの彼の決まり文句で電話を切った。「どうすれば助けられますか？」ニューヨーク・タイムズ紙によると、取締役会は彼に、ムラティが会社を率いるこの移行を支援するよう求めたという。そして彼は同意した。7 ボックスが閉じるとすぐに、アルトマンはコンピューターからロックアウトされた。最初の数分間は純粋な不信感だった。彼は悪い夢を見ているようだった。そして怒りがこみ上げてきた。数分後、OpenAIのウェブサイトに、「彼は取締役会とのコミュニケーションにおいて一貫して率直ではなかったため、その責任を果たす能力を妨げていた」とだけ書かれた簡潔なブログ投稿を通じて、ニュースが公になった。この解雇は、テック系CEOのプライベートWhatsAppグループに原子爆弾のように衝撃を与えた。チェスキーはすぐにアルトマンにテキストメッセージを送った。「ひどすぎる」とアルトマンは答えた。「少し話せますか？」

OpenAIの従業員たちは、次の資金調達で、莫大な富を得る機会を持っていた

午後2時、ムラティとサツケバーはOpenAIの従業員向けに全社ミーティングを主導した。従業員は45分間、様々な形の質問を浴びせた。「サムは何をしたのか？」ある従業員が、いつか分かるのかと尋ねると、サツケバーは「いいえ」と答えた。アルトマンが解雇されたとき、彼は従業員の株式を約900億ドルという、発行時よりもはるかに高い会社評価額で買い取るための投資家資金を調達する最終段階にあり、多くのOpenAI従業員が莫大な富を得る機会を得ていた。

ミラ・ムラティはサムに問題があると思っていたが、解雇は拙速だと思ったので、サム復帰派に

ムラティは、状況を掌握し、従業員を落ち着かせ、新しいCEOを探す間、彼女が責任を負うと彼らに保証していた。しかし、彼女は取締役会に反抗して同僚を率い、ビデオ会議で取締役たちに、なぜアルトマンを解雇したのかと怒って尋ねていた。その夜のある時点で、幹部チームは取締役会に辞任し、幹部チームの3人のメンバーを後任に選ぶよう要求した。これは、会社の監督義務を負う取締役会にとっては受け入れられないことだった。実際には、取締役会は、ムラティが会社を安定させるのを助けるという合意を、彼らがアルトマンを解雇するという決定に同意したと誤解していた。ムラティ自身は、自分のフィードバック—彼女は透明で建設的な批判と見なし、アルトマンとも共有していた—が、取締役会が彼女が彼らの行動を支持していると仮定する原因になるとは思ってもみなかったし、さらに、彼女にはこれほど拙速なプロセスに見える方法で、取締役会がそのような抜本的な措置を講じたことに驚いた。

イリヤは自分がクーデターを起こしたというストーリーが流布されていて、呆然とした

その夜、ビジネス界のアルトマンの多くの同盟者の間で、全体が「イリヤのクーデター」であり、パチョツキの昇進に対するサツケバーの怒りと、アルトマンが彼女を取締役会から追い出そうとしたことに対するトナーの怒りによって引き起こされたという物語が広まった。彼らは、チェスキーのような強力な友人たちに助けられ、午後7時頃にツイートした。「Sam Altman and Greg Brockman have my full support. I’m saddened by what’s transpired. They, and the rest of the OpenAI team, deserve better.」サツケバーは呆然とした。彼はOpenAIの従業員が、アルトマンのガスライティングから解放されて安堵し、彼らの解放を歓呼すると予想していた。しかし、彼らは彼を指差すようになり始めていた。力の誇示として、アルトマンは「i love openai employees so much」とツイートし、彼の元同僚の何十人もの人々がハートの絵文字を付けてそれを引用リツイートした。

Twitch共同創業者のエメット・シアが新しいCEOに任命されたが、受け入れられなかった

交渉は深夜まで続いた。記者たちはOpenAIのドアの前に陣取り、何回もテイクアウトが届けられるのを見ていた。突然、取締役会はムラティに、新しいCEOを任命すると伝えた。それは、初代YCバッチのアルトマンの同期生で、Justin.tvとTwitchの共同創設者であり、AIの慎重な開発を提唱するエメット・シアだった。アルトマンとOpenAIの幹部チームは呆然とした。彼らは取締役会が誠実に交渉していないと感じた。アルトマンは嫌悪感を抱いて建物を出た。前日、ナデラは彼にマイクロソフトに行く機会を提案しており、今、彼はそれを受け入れることにした。全従業員にシアとの全社ミーティングを発表するSlackメッセージが送られた。従業員は中指の絵文字で反応した。

あまりのサム復帰の流れにイリヤも白旗

その夜、ナデラは、マイクロソフトがアルトマンとブロックマンを雇用し、OpenAIの他の従業員にも参加を呼びかけるとツイートした。夜通し、そして月曜日の早朝にかけて、会社の770人の従業員のうち700人以上が、アルトマンとブロックマンが復職し、取締役会が辞任しない限り、マイクロソフトに移籍すると脅迫する痛烈な書簡に署名した。署名の中にはサツケバーのものもあった。「I deeply regret my participation in the board’s actions,」と彼はXに書いた。「I never intended to harm OpenAI. I love私たちが共に築き上げた会社であり、会社を再統合するためにできることは何でもします。」アルトマンはそれをハート3つで引用リツイートした。

CHAPTER 17

OpenAIの営利化に対してイーロン・マスクは激怒
- 最初にイーロンが投資した50億円はどこかに消えた

イーロン・マスクほど怒った者はいなかった。調査がアルトマンを無罪とした同じ月、マスクはアルトマンとOpenAIを提訴し、非営利ミッションを裏切ったと主張した。「OpenAIは、世界最大のテクノロジー企業の事実上の子会社であるクローズドソース企業に変貌した」と彼の訴訟の最初の訴状には書かれていた。「新しい取締役会の下で、彼らはMicrosoftの利益を最大化するためにAGIを開発するだけでなく、実際に洗練させているのであり、人類の利益のためではない。」14 OpenAIは、マスクの訴えを酸っぱいブドウだとし、彼自身が自分の会社でAIを商業化しようとしていると指摘した。しかし、それは公平な疑問だった。マスクが初期の非営利OpenAIに寄付した約5000万ドルはどこへ行ったのか？それはただ消えてしまったのか？彼はこの巨大企業を銀行から支援したことで何も得られないのか？

サム・アトマン解任騒動以降のイリヤ
- o1の論文にはイリヤの名前は大々的には載せられなかった
「あのちょっとした出来事」以来、サツケバーは目立たないようにしていた—あまりにも目立たないので、「イリヤはどこ？」がオンラインミームになったほどだ。彼とムラティが南極に行ったという噂さえあった。レックス・フリッドマンは2024年3月にアルトマンに、サツケバーが安全な核施設に監禁されているのかと半ば冗談で尋ねた。実際には、彼と会社は彼がOpenAIに留まる方法を見つけるために交渉していた。サツケバーはクーデターを企てたかもしれないが、OpenAIは彼の人生の仕事であり、会社が崩壊寸前であることを知ると、彼はそれを救うために何でもすると決意した。彼とOpenAIのリーダーシップチームはともに、彼が他の研究者にとっての道標であり、彼が「将来的には、科学の唯一の目的はAGIを構築することだったと明らかになるだろう」15といった壮大な主張を裏付ける研究実績を持つシンギュラリティの精神的指導者であることを知っていた。AI研究の分野は、彼をその主要な光として認識しており、10年前に発表された論文に対して、過去2年間NeurIPSで「Test of Time Award」という名誉ある賞を授与しており、間もなく3度目の受賞も予定されていた。さらに、会社の次の大きな進歩である、内部コード名「ストロベリー」と呼ばれる推論モデルは、今年後半にリリースされる予定で、サツケバーの先駆的な研究から生まれるものだった。OpenAIは彼に留まるための寛大なパッケージを提示し、サツケバーはそれを受け入れる寸前だった。しかし最終的に、5月14日、彼は「個人的に意味のあるプロジェクト」を追求するために退職すると発表した。関係者全員が、サツケバー、アルトマン、ブロックマン、ムラティ、パチョツキが、サツケバーが描いたエキゾチックな動物の肖像画で埋め尽くされた壁の前で腕を組んでポーズを取り、良い顔をしようと努めた。前年、CNBCにサツケバーが「OpenAIが最終的に成功するための要」だと語っていたマスクは、すぐに彼を勧誘しようとした。OpenAIは本当に物語を変える必要があった。サツケバーとライケの退職がさらなる離反を引き起こすことを懸念し、会社はサツケバーに再考するよう働きかけた。彼の退職から1週間以内に、ムラティとブロックマンはサツケバーに電話し、彼なしではOpenAIが崩壊するかもしれないと伝えた。ブロックマンは、彼が戻ればライケも戻ってくるかもしれないと示唆し、両者がアルトマンを支えるのに役立つだろうとほのめかした。アルトマンの信頼性はNDAの件で傷ついていた。ムラティ、ブロックマン、パチョツキ、そして後にアルトマンも、彼の自宅を訪れて直接彼を説得した。サツケバーは真剣に復帰を検討したが、ブロックマンに提起した懸念が残っていた。懸念を提起してから数時間後、ブロックマンは態度を翻した。サツケバーが経験した感情的な苦痛を認識し、アルトマン、ブロックマン、ムラティ、パチョツキは、彼に与えた苦痛について深く謝罪し、会社が困っているときに復帰を検討してくれたことに感謝する手書きのメモを届けた。アンナ・ブロックマンは、彼の好きな植物であるサボテンさえ持ってきた。サツケバーは最終的にOpenAIを去ることを選択した。なぜなら、リーダーシップチームが混沌として不安定であり、長期的には成功しないだろうと懸念したからだ。数週間後、サツケバーは、元YCパートナーのダニエル・グロスと元OpenAIエンジニアのダニエル・レヴィと共に、Safe Superintelligence Inc.（SSI）という新会社を立ち上げると発表した。サツケバーはXの投稿で、それを「世界初のストレートショットSSIラボ、一つの目標と一つの製品：安全なスーパーインテリジェンス」と呼んだ。「私たちの唯一の焦点は、管理上のオーバーヘッドや製品サイクルによる邪魔がないことを意味します。」25 少なくとも当初は「製品」はなかった。数ヶ月以内に、彼らはSequoia Capitalを含む投資家から10億ドルを調達した。OpenAIが、彼が3年前にチームを立ち上げた推論モデル—当初は「ストロベリー」というコード名だったが、後に01と改名された—を最終的にリリースしたとき、サツケバーは発表にほとんど登場せず、彼の名前は論文に引用された数十人のうちの一人だった。
その後、次々とコアメンバーが退職

9月下旬までに、ムラティ、マクグリュー、シュルマンは全員会社を去った。ChatGPTの驚異的なリリース後、Wired誌の表紙を飾ったOpenAIの4つの顔—ブロックマン、サツケバー、ムラティ、アルトマン—のうち、アルトマンだけが残った。彼は人食い人種の王として、一人で立っていた。