ユヴァル・ノア・ハラリ氏が情報の人類史について書いた本
プロローグ
この本の立場
- AIと戦争への悲観的な見方
10万年にわたる発見、発明、征服の後、人類は実存的な危機に自らを追い込んでしまいました。我々は生態学的崩壊の瀬戸際にあり、技術的な失態によって自滅の危機に瀕しています。人工知能には、私たちを制御し奴隷化、あるいは絶滅させる可能性があります。私たちの種の多くは、これらの実存的な課題に対処する準備ができていないようです。国際的な緊張は高まり、グローバルな協力は困難になりつつあり、各国は終末戦争の武器を蓄積し、新たな世界大戦は避けられないように思えます。
- 人類のネットワークは衆愚的になる特性があり、その構造を理解するための鍵が「情報」である
本書の主な主張は、人類は協力ネットワークを構築することで膨大な力を得るが、これらのネットワークはその力を賢明に使用する傾向がないということです。より具体的には、これは情報の問題です。情報はネットワークを結びつける接着剤です。
The naive view of information
「情報に対する素朴な見方」は、もちろん、数段落で説明できるよりもはるかに洗練されており、思慮深いものですが、その核心は情報を本質的に良いものとみなし、より多くの情報とより多くの時間があれば、それだけ良くなると信じることにあります。十分な情報と十分な時間があれば、私たちはウイルス感染からペスト菌に至るまで、あらゆることについての真実を発見するだけでなく、その力を賢明に使用する方法も発見できるはずです。 これは、進歩主義者や企業が情報技術について表明してきた楽観的な見方です。
マーク・ザッカーバーグはFacebookの目的を「より多くの人々が共有できるようにし、世界をよりオープンにして人々の相互理解を促進すること」だと述べています。 2024年の著書『The Singularity Is Nearer』で、著名な未来学者で起業家のレイ・カーツワイルは、情報技術の約束を検討し、「指数関数的に進歩する技術の結果として、人間の活動のほぼすべての側面が着実により良くなっている」と結論付けています。人類の歴史の長い流れを振り返り、識字率、教育、富、衛生、健康、民主化、そして暴力の減少を含む人間の福祉のほぼすべての側面で「徳の輪」が前進している例を挙げています。 情報に関する素朴な見方は、おそらくGoogleの使命声明に最も簡潔に捉えられています：「世界の情報を整理し、普遍的にアクセス可能で有用なものにする」。
1777年にゲーテが『魔法使いの弟子』を書いた頃、ドイツの子供たちのわずか約50パーセントしか10歳の誕生日を迎えることができないと推定されていました。そして、その数字は1850年までに73.5パーセントになりました。この劇的な改善は、医療データの収集、分析、共有なしには不可能だったでしょう。 素朴な見方は情報の力を正しく指摘しているだけでなく、その使用についても正しい点を指摘しています。近年、人類は寿命と生活の質の両方において驚くべき向上を経験しています。私たちの情報革命は、古代アレクサンドリアの図書館よりもはるかに素晴らしいものを含んでおり、世界中の何十億もの人々を瞬時に結びつけています。
多くの企業や政府は、歴史上最も強力な情報技術であるAIを開発するための競争を繰り広げています。一部の楽観的な起業家、例えばアメリカの投資家のマーク・アンドリーセンは、AIが人類のすべての問題を解決すると信じています。2023年6月6日、アンドリーセンは「AIが世界を救う理由」というエッセイを投稿し、「良い知らせを伝えに来ました：AIは世界を破壊せず、実際にそれを救うでしょう」「AIはすべてをより良くすることができます」などの大胆な声明を含んでいました。彼は結論付けました、「AIの開発と普及は—私たちが恐れるべきリスクどころか—私たちが自分自身、子供たち、そして私たちの子孫に対して負っている道徳的義務なのです」。 レイ・カーツワイルは『The Singularity Is Nearer』で、「AIは私たちが直面している差し迫った課題に対処することを可能にする重要な技術であり、それには病気、貧困、環境劣化、そして私たちの人間の欠点のすべてを克服することが含まれます。新しい技術の約束を実現することは道徳的な命令となっています」と主張しています。カーツワイルはこの技術の潜在的なリスクを十分に認識していますが、それらは成功裏に軽減できると信じています。
より多くの情報が物事をより良くするでしょうか？ 他の人々はより懐疑的です。哲学者や社会科学者だけでなく、ヨシュア・ベンジオ、ジェフリー・ヒントン、サム・アルトマン、イロン・マスク、ムスタファ・スレイマンなどの主要なAI専門家や起業家も、AIが私たちの文明を破壊する可能性があると公に警告しています。2024年にヒントンらが共同執筆した記事は、「無制御のAI開発は生命と生物圏の大規模な損失、そして人類の周縁化または絶滅をもたらす可能性がある」と指摘しました。2023年の2,778人のAI研究者を対象とした調査では、回答者の3分の1が10パーセントの確率でAIが人類を絶滅させる可能性があると考えていました。
- 2つの悲観シナリオ
まず第一に、AIの力は既存の人類の対立を激化させ、人類を自身に対して分断する可能性があります。20世紀に鉄のカーテンが冷戦で対立する勢力を分断したように、21世紀にはシリコンカーテン—有刺鉄線ではなくシリコンチップとコンピュータコードで作られた—が新しいグローバルな分断をもたらすかもしれません。
第二に、シリコンカーテンは、人々を特定のグループから切り離すというよりも、むしろ私たちを相互に分断する可能性があります。私たちがどこに住んでいようとも、操作不可能なアルゴリズムのウェブに包まれ、私たちの生活、おそらく政治や文化、そして私たちの体や魂さえも—を理解し制御することができなくなるかもしれません。21世紀半ばまでに人類のネットワークが成功すれば、それは人間の知性ではなく、AI独裁者によって運営されるかもしれません。
すべての以前の人間の発明は人間に力を与えましたが、新しい力がどれほど大きくても、決定は常に人間の手に委ねられていました。対照的に、AIは独自に情報を処理し、独立して人間の決定を下す可能性があります。それはAI独自のものです。 情報の習得においても、AIは独立して新しい洞察を生み出すことができます。分子から薬への道筋を見つけることから、新しい生命形態を作り出すことまで、科学的発見を自ら行うことができるようになるでしょう。近い将来、遺伝子コードを書くか、無機的な自己複製エンティティを発明することで、新しい生命形態を作り出す能力を獲得するかもしれません。
AIは私たちの種の歴史だけでなく、すべての生命の進化の流れを変える可能性があります。
- Homo Deusでの仮説
2016年、私は『Homo Deus』を出版し、新しい情報技術が人類にもたらす危険の一部を指摘しました。この本は、歴史の真の主人公は常に情報であり、Homo sapiensではなかったと主張し、科学者たちは生物学、政治学、経済学をますます情報の観点から理解するようになっていると論じました。動物、国家、社会的ネットワークは、すべて情報を処理するメカニズムとして見ることができます。情報は実際に私たちから力を奪い、私たちの物理的および精神的な健康を破壊する可能性があります。Homo Deusは、人類が情報の洪水の中で溺れてしまう可能性があると仮説を立てました。
第一部: Human Networks
人間の情報ネットワークの歴史的発展を概観します。情報技術（文字、印刷機、ラジオ）の世紀ごとの包括的な説明を試みるのではなく、いくつかの主要な例を研究することで、人々が情報ネットワークを構築しようとする際に直面してきたジレンマを探ります。私たちが通常「情報的・政治的な対立」と考えるものは、実は情報ネットワークの異なる種類の間の衝突であることが明らかになるでしょう。
第1章: What is information?
情報ネットワークの過去、現在、そして可能な未来を探る前に、一見単純な質問から始める必要があります：情報とは正確に何なのでしょうか？
大規模な人間の情報ネットワークの基礎となってきた二つの原則を検討することから始まります：神話と官僚制です。
第2章: Stories: Unlimited Connections
第2章と第3章では、古代バビロンから現代のデータベースまで、大規模な情報ネットワークが両方の原則に依存してきたことを説明します。例えば、聖書の物語は、キリスト教会の情報ネットワークにとって不可欠でした。しかし困難な点は、すべての情報ネットワークが神話や官僚制という道具を異なる方向に引っ張ることです。制度や社会は、しばしば神話が組織の需要を満たすために見つけた解決策によって妨げられます。キリスト教会は徐々に多くの教会に分裂し、それぞれがカトリックとプロテスタントの教会として、神学と官僚制の間に異なるバランスを取りました。
第3章: Documents: The Bite of the Paper Tigars
第4章: Errors: The Fantasy of Infallibility
第4章では、誤った情報の問題と、自己修正メカニズムの利点と欠点について検討します。カトリック教会のような弱い自己修正メカニズムに依存する制度と、科学的規律のような強い自己修正メカニズムを持つ制度を比較します。弱い自己修正メカニズムは、時として初期の中世ヨーロッパの魔女狩りのような歴史的惨事を引き起こす一方で、強い自己修正メカニズムは時としてネットワークを内部から不安定化させます。寿命、拡大、力の観点から判断すると、カトリック教会は人類史上おそらく最も成功した制度の一つかもしれません。
第5章: Decisions: A Brief History of Democracy and Totalitarianism
第5章では分散型と中央集権型の情報ネットワークの間の対比に焦点を当てて歴史的考察を締めくくります。民主主義システムは、多くの独立したチャンネルを通じて情報が自由に流れることを可能にしますが、全体主義システムは一つのチャンネルに情報を集中させようとします。アメリカ合衆国やUSSRのような政治システムは、情報フローに関して全く異なる価値観を持っていました。
この歴史的な部分は、現在の展開と将来のシナリオを理解するために極めて重要です。AIの台頭は、おそらく歴史上最大の情報革命です。私たちは、その前例と比較しなければ理解することはできません。歴史は過去の一部分ではありません。それは変化の研究です。歴史は、何が同じで何が変わるのかを教えてくれます。多くの人は、AIが人類に対して前例のない価値ある洞察を提示する一方で、前例のない重大なリスクをもたらすと主張します。同様に、スターリンとヒトラーの台頭に関する早期の警告は、AIに関する暗い予感を呼び起こします。
第二部: The Inorganic Network
第2部—「非有機ネットワーク」—は、私たちが作り出している新しい情報ネットワークを検討し、AIの台頭の政治的影響に焦点を当てます。
第2部は、私たちが全く新しい種類の情報ネットワークを作り出していると主張し、その意味を立ち止まって考える必要があることを強調します。ローマ帝国、カトリック教会、そしてUSSRは、すべて炭素ベースの脳に情報処理を依存し、決定を下していました。シリコンベースのコンピュータは、情報を全く異なる方法で処理します。生命や意識、シリコンチップは、私たちが知る人類だけでなく、私たちが知るあらゆる生命形態が持つことのなかった力を持っています。これは社会、経済、そして政治をどのように変えるでしょうか？
第6章: The New Members: How computers are different from printing presses
第6-8章では、世界中の最近の例を議論します—例えば、2016-17年のミャンマーにおけるソーシャルメディアアルゴリズムの民族浄化扇動における役割などです。
第7章: Relentless: The Network is always on
第8章: Fallible: The Network is often wrong
第三部: Computer Politics
第3部かつ最終部—「非有機政治」—は、非有機情報ネットワークの脅威と約束に対処する異なる種類の社会を検討します。私たちは炭素ベースの生命形態として、新しい情報ネットワークを理解し制御するチャンスはあるでしょうか？
第9章: Democracies: Can we still hold a conversation?
第9章では、民主主義が非有機ネットワークにどのように対処できるかを探ります。例えば、金融システムがますますAIによって制御され、お金の意味自体が予測不可能なアルゴリズムに依存するようになる場合、血と血統を持つ人間はどのように金融の決定を下すことができるでしょうか？人々がもはやお互いに人間としてではなく、チャットボットとコミュニケーションを取っているかもしれない時、民主主義はどのように公共の会話を維持できるでしょうか？
第10章: Totalitarianism: All power to the Algolithms?
第10章では、全体主義に対する非有機ネットワークの潜在的な影響を探ります。独裁者はすべての公共の会話を排除することを喜ぶかもしれませんが、彼らもAIに対する懸念を持っています。独裁制は監視と自身の代理人の管理に基づいています。しかし、人間の独裁者はどのようにAIを監視し、制御不能なプロセスを防ぎ、それ自身が権力を掌握することを防ぐことができるでしょうか？
第11章: The Sillicon Curtain: Global Empire or Global Split?
第11章では、新しい情報ネットワークがグローバルレベルでの民主主義社会と全体主義社会の間の権力バランスをどのように変えるかを探ります。AIは一方の陣営を決定的に有利にするでしょうか？世界は敵対的なブロックに分裂し、その対立によって制御不能なAIの餌食になるでしょうか？それとも、私たちは共通の利益を守るために団結できるでしょうか？