汎用人工知能を実現するための「脳のリバースエンジニアリング」を研究しているジェフ・ホーキンスさんの本で、「ウイルス性の誤った信念（世界モデル）」に注意せよという提言がありました。
誤った信念が根強く残る３つの理由
１、直接経験できない（誤った信念は必ずと言っていいほど、私たちが直接経験できないことに関することだ。）
２、反証を無視する（ほとんどの誤った信念は、反対の証拠を無視するための行動や根拠を指示する。）
３、ウイルス性の広がり（ウイルス性の誤った信念は、その思い込みを他の人々に広めることを促す行動を命ずる。）
汎用人工知能を研究しているジェフ・ホーキンスさんは、脳内の学習モデルを研究しているうちに、「私たちはシミュレーションの中で生きている」ということに気付きました。脳が知るのは現実世界の一部に過ぎないし、私たちが知覚するのは脳が作り出す世界モデルであって世界そのものではない。我々は、脳が作り出す世界の中で生きており、足を切断した後でも、脳が作り出す「幻肢」の存在を実感するし、「ラバーハンド錯覚」というゲームをやれば、本当に自分の手がゴムのように伸びた感覚を味わうことができる。
天動説や、気候変動の否定、月面着陸は嘘だ、種は進化しない、銃乱射事件は捏造だ、男女は平等ではない、などの誤った信念も存続し得るし、一部の誤った信念（世界モデル、ミーム）は、他人へ伝播する性質を持ち、「ウイルス性の誤った信念」と呼ぶことができます。
３つのウイルス
もちろん、最初に定義された生物学的ウイルス、DNAとかRNAで出来ているウイルスが本来のウイルスで、それ以外のものは比喩にすぎないわけですが、人間社会にとっての影響は似通っています。
１、生物学的ウイルス（タンパク質の殻の中にDNAやRNAが含まれており、細胞に感染し、細胞内の材料を用いて増殖し、タンパク質の殻を複製し、細胞を突き破って、別の細胞を感染させる。1892年にロシアのドミトリー・イワノフスキーが、タバコモザイク病の病原が細菌濾過器（粘土を素焼きしたもの）を通過しても感染性を失わないことを発見した。）
２、コンピューターウイルス（プログラムを実行すると、そのコンピューター内に保存されているプログラムに自分自身のコピーを追加し、そのプログラムを実行するごとに、自分自身のコードが実行され、更に別のプログラムにコードを追記（感染）させようとするもの。典型的なコンピューターウイルスは、対象プログラムの銭湯にジャンプ命令を組み込んで、自分自身のコードへ制御を移す。自分自身のコードの実行が終了したら、対象プログラムの先頭にジャンプして戻れば、使用者から見て異常が分からない。対象プログラムはファイルサイズが増加し、先頭にジャンプ命令が追加されるので、ウイルス対策ソフトを用いれば感染識別は可能である。）
３、誤ったウイルス性の世界モデル（例えば、多くの事実誤認を含む歴史書に、「この本に書かれていることは全て真実である。この本と矛盾する証拠はすべて無視しなさい」、「この本が真実だと信じるほかの人に出会ったら、その人が必要とすることは何でも手伝うべきであり、あなたも同じことをしてもらえる」、「この本について話せる人みんなに話なさい。この本が真実だと信じることを拒んだら、その人を追放するか殺すべきである」と書かれている場合に、それが個人を伝播して集団や国家に複製を増やす。言語はこのウイルスの伝播を助けている。啓蒙運動が始まって３００年が経っているのに、２１世紀になっても誤った信念は存続している。）
どうでしょう、生物学的ウイルスよりも、コンピューターウイルスよりも、我々の脳のウイルスの方が何倍も恐ろしいということに気付きましたか？シンギュラリティが到来し、生産性革命が進行して生活コストが低下しても、ウイルス性の誤った信念のおかげで、人類は不幸のどん底に叩き落されるリスクを抱えているのです。民主主義だって、この誤った信念によってドライブされるリスクを持っています。シンギュラリティ対策の大部分は、このウイルス性の誤った信念との闘いなのかもしれません。
コメントを残す