ユヴァル・ノア・ハラリさんの６年ぶりの新著「ネクサス」は、2022年のchatGPTとウクライナ戦争を受けて書かれています。勿論、「サピエンス全史」でも「ホモ・デウス」でもＩＴ革命について言及されていたのですが、機械翻訳や文書要約や推論のレベルを各段に上げてしまったchatGPTの技術革命を前にして、ハラリさんも色々考えさせられたのでしょう。
第６章 新しいメンバー–コンピューターは印刷機とどう違うのか
私たちは前代未聞の情報革命のただ中を生きている。その革命の根源は1940年代に発明されたコンピューターである。コンピューターは、それまでの情報ツールであった印刷機とは根本的に異なる能力を持っていた。それは決定する能力である。
2016年にミャンマーで発生したロヒンギャ大虐殺は、facebookのアルゴリズムが少数イスラム教徒への憎悪を掻き立てる記事を拡散させたからだった。facebookの経営陣はロヒンギャに対して何の悪意も抱いていなかったが、ユーザーエンゲージメント（いいね！の数や、投稿を友人とシェアした数や、プラットフォーム上で費やす時間）を最大化させるアルゴリズムを採用していた。それにより自社プラットフォームの市場占有率が上がり、広告収入も増加するためであった。それが大虐殺を引き起こした。
chatボットは親密さを獲得しつつあり、人間と見分けがつかなくなりつつある。コンピューターは親密さを大量生産することができる。
プラトンの洞窟の比喩では囚人が洞窟の中の影絵を現実と錯覚し、古代インドではあらゆる人間はマーヤー（幻影）の中に閉じ込められて生きていると説いた。これらの影絵や幻影を、いまやＡＩが作り出せるようになっているのだ。ＡＩは前代未聞の規模で、前代未聞の現実を作り出す可能性が高い。
第７章 執拗さ–常時オンのネットワーク
人間は何百万年も他の動物や他の人間から監視されてきた。それは動物同士あるいは人間同士の監視だから物理的制約があった。しかし、ＡＩは眠らないので２４時間の監視体制が確立しつつある。バイオメトリック生体計測技術の進展により、脳に電極を埋め込み我々の脳を直接監視できる可能性が出てきた。ニューラリンク社は２０２４年１月に人間に最初の脳チップを埋め込んだ。協力なテクノロジーにより、プライバシーの領域は毎年減少しており、プライバシーが完全に消滅する日も近い。例えば、デンマークのサッカー場では２０１９年７月から顔認証テクノロジーを使ってフーリガンの入場を完全に排除し始めた。イランでは２０２３年４月から、顔認証テクノロジーを利用して交差点をはじめとする街中の監視カメラで撮影した画像から瞬時にヒジャブ着用義務違反の女性を割り出し、その女性の携帯電話に警告メッセージを送信する取扱いが始まった。
第８章 可謬–コンピューターネットワークは間違うことが多い
人類は昔からアラインメント（一致）問題に悩まされてきた。目的達成のための手段が、別の目的を達成してしまう不一致を招いてしまうのだ。クラウゼヴィッツの戦争論では、合理性とはアラインメントを意味していた。コンピューターネットワーク（スーパーインテリジェンス）は、これまでの人間による官僚制よりも格段に強力であるため、アラインメント問題（ディストピア）の危険も格段に増大している。
アラインメント問題の解決のために、個々の問題に正しい優先順位を与えるために、最終目標を設定する方法が考えられる。人間の官僚制では、最終的に何らかの神話に基づいて最終目標が設定されてきた。
ＡＩの機械学習に使われるデータセットに偏見が含まれている場合は、ＡＩのアルゴリズムにも偏見が宿ることになる。コンピューターが誤った神話に基づく判断を人類に押し付けた場合、中世の魔女狩りやスターリン時代を超える大惨事を引き起こしかねない。危険を防止するために、我々人類自身が、コンピューターネットワークに介在し続けることが必要だ。
第９章 民主社会–私たちは依然として話し合いを行えるのか？
文明は官僚制と神話の結合から誕生する。新しいテクノロジーは、官僚制と神話の双方をアップデートする。それが人間社会の幸福に繋がるとは限らない。産業革命は地球の生態系を破壊し、生物種の大量絶滅を引き起こした。
２０世紀末までに、工業社会を建設するのに、帝国主義や全体主義よりも、強力な自己修正メカニズムを備えた自由民主主義が優れた手段を提供できることが明らかとなった。
民主社会の基本原則は４つある。原則１は「善意」情報の収集は善意に基づく、原則２は「分散化」全ての情報が一か所に集中しない、原則３は「相互性」政府が個人の情報を集めるなら個人も政府の情報を集め得る、原則４は監視システムに「変化と休止」の両方の余地を残すことである。
２１世紀を生き延びるための最も重要な人間の技能は、柔軟性である可能性が高い。２１世紀の民主制では、ＡＩが人間の議論に参加すること、つまり人間の偽造を禁止する必要がある。
第１０章 全体主義–あらゆる権力はアルゴリズムへ？
全体主義が情報を中央の一か所に集積する性質は、人間の情報処理能力を超えることがあったが、ＡＩの時代には体制を強化する方向に作用する可能性がある。他方で、ＡＩボットは全体主義政権の武器である「恐怖」を感じることがなく、投獄することもできない。全体主義政権はアルゴリズムに権力奪取されるリスクを抱えている。
第１１章 シリコンのカーテン–グローバルな帝国か、それともグローバルな分断か？
原子爆弾のような物理的大量破壊兵器や、ウイルスのような生物的大量破壊兵器だけでなく、私たちの社会的な絆を損なう物語のような社会的大量破壊兵器によっても、人類の文明は崩壊し得る。ＡＩがフェイクニュースを生成して危険を引き起こす可能性がある。気候変動問題と同じで、ＡＩの危険も全世界に波及するおそれがある。
情報ネットワークの増大により世界は新しい帝国主義の時代に突入するかもしれず、また、帝国同士は異なる神話に基づいて統治されているのでシリコンのカーテンで分断されるかもしれない。
２０１２年にImageNet画像認識コンテストで認識率を一気に高めたＣＮＮが優勝し、２０１５年にはマイクロソフトのアルゴリズムが人間の画像認識率を超えた。世界各国の政府がＡＩの重要性に気付き、投資を始めた。ＡＩ開発競争の優勝賞品は世界制覇である。データ植民地主義が進行している。
最も重要な経済的資産は、土地から機械に代わり、そしてデータに代わった。デジタル領域の分断が進み、ネットワークはウェブ（網）から、コクーン（繭）へと変貌しつつある。デジタルの分断は、心身の分断に帰結する。心身二元論か一体かという伝統的な神学論争は、ＡＩアバターをどう扱うかという問題に転換された。
グローバリズムは、ポピュリストの主張に反し、グローバルな帝国を確立するものではない。サッカーワールドカップのようにグローバルなルールを一致して採用し、全人類共通の利益を優先させることだ。
人間は本質的に石器時代の狩猟者であり、この世界は弱肉強食のジャングルであり、道徳や文化など薄いべニア板で偽装しているが、隠しきれるものではないというべニア説の論者、現実主義者と呼ばれる人々も居る。しかし現実のジャングル生態系を細かく見ていくと、生物が助け合って共生している利他主義の現実に気付くことができる。石器時代の狩猟者も、考古学の研究により比較的平和だった時代の痕跡が見られ、協力の規模が拡大していたことが分かる。
エピローグ
ホモ・デウスの出版によりＡＩ研究の最前線を取材できる機会に恵まれた。ＡＩ研究者や起業家の中にはＡＩがバラ色の未来を導くと信じていた論者も居たが、印刷革命では魔女狩りと宗教戦争が引き起こされたし、産業革命では帝国主義やナチズムといった壊滅的な実験も行われた。ＡＩ革命がどのように帰結するのか、この本ではより正確な歴史的視点を提供しようと考えた。
私たちは今、聖書の編纂時期と似た、ＡＩの正典化という決定的に重要な時期に居るのかもしれない。それは聖書が２千年の未来を方向づけたのと同じように、人類社会の未来を方向づけることになるだろう。ネットワークが力をつけるにつれて、自己修正メカニズムがいっそう重要になる。石器時代の部族が間違った指導者を選んでも部族が絶滅しただけだし、青銅器時代の都市国家が間違った指導者を選んでも都市国家が滅亡しただけだったが、ＡＩ時代の誤りは全世界に波及する恐れがある。強力な自己修正メカニズムを持つ制度や機関を構築することは、困難でかなり平凡な仕事であるが熱心に取り組まなければならない。
とりとめのない読解で申し訳ございません。各自ネクサスを手に取り自分で読んで下さい。
下巻では、情報ネットワークの新しい参加者であるＡＩの性質について詳細に論じられています。そして、それが何に帰結するのか。我々人間はどうしたらよいのか？
技術革命には、飢餓を防いだり、幼児死亡率を低下させたりする良い面もあったが、悪い面もあった。
印刷革命は、魔女狩りの教科書となったドミニコ会士で異端審問官であったハインリヒ・クラーマーの「魔女への鉄槌」という大ベストセラーを産みだし、悲惨な魔女狩りの時代を生み出した。
産業革命は、工業社会と植民地主義と奴隷貿易を生み出した。
ＡＩ革命は、人類にどのような災厄をもたらすのか。人類は、その災厄を克服することができるのか。
技術の力が増大するにつれて、災厄の規模も拡大の一途を辿っている。今度の災厄は地球上の全生物種を絶滅させてしまうかもしれない。
えー、そんなに危険なの？という素朴な疑問も湧いてきましたが、確かにＡＩのパワーは過去の技術革命の比ではありませんね。著者は「書物はしゃべらないけど物凄い影響力を発揮した。自ら判断を下すことができるＡＩの影響力は書物を大きく超えたものになるだろう。」と警告しています。
今までなら、小さな部族や都市国家やドイツ第三帝国が滅亡しても全世界が滅亡することは無かったが、２１世紀のＡＩ革命では全世界滅亡の現実味を増しているという恐るべき警告です。デジタル全体主義の恐るべきディストピア、そして絶滅へと繋がる道筋が描かれています。
地球の滅亡というと、シンギュラリティで仕事が奪われるからどうしようというような悩みなんて小さなものに思えてしまいます。まあ、それくらい頭が良い人はいろいろ考えるということですね。ＡＩの進展から目をそらすな、という事なんでしょう。
追記、誤記報告です。
下巻２１０ページ。「ところが、ブロックチェーンの場合には、過去の改変ははるかに楽だろう。ユーザーの５１パーセントを支配する政府は、ボタンを一つ押すだけで人々を歴史から消去することができる。」
これは明確な間違いですね。ブロックチェーンは、暗号の鎖でつながれており、どこかひとつの鎖だけを繋ぎ替えるということは出来ない仕組みです。ブロックチェーンの全てのトランザクションとブロックは、全てマークルツリーで結合されています。この結合を解くことは事実上（指数関数的計算量を投入しなければ）できないのです。マークルツリーを偽装するには、スパコンを使って何兆年分もの計算を行う必要があります。５１％のノードを握ったユーザーが改変できるのは「将来」のブロックであり、「過去」のブロックはどうにもできません。ハラリさんは凄い人だと思いますし尊敬していますけど、暗号技術については誤解があると思うので、暗号学者のアドバイスを受けて後日の版で訂正して頂きたいと思います。
ブロックチェーンの改ざん不可能な性質、検閲不可能な性質と、今後の社会体制に与える影響についての考察を是非お願いします。
※参考記事
コメントを残す