AI ＝エイリアン・インテリジェンスの誕生
『サピエンス全史』を超える衝撃――
知の巨人、6 年ぶりの書き下ろし超大作「ネクサス」（NEXUS）とは？
――「つながり」「結びつき」「絆」「中心」「中枢」などの意石器時代からシリコン時代まで、 「組織」（ネットワーク）が力をもたらす 私たち「賢いヒト」（ホモ・サピエンス）は、10 万年に及ぶ発明や発見や偉業を経て、途方もない力を身につけた。
それにもかかわらず、生態系の崩壊や世界戦争など、存亡にかかわる数々の危機に直面している。
僕たちの世界はエイリアン・インテリジェンスの作り出す新しい現実に支配されようとする歴史的経緯の果てに立ちつつあるのだろうか？
ユヴァル・ノア・ハラリの新著『NEXUS 情報の人類史』を読んでいる日常の中でも発表され続ける AI の進化を横目に見てそんな疑問が頭をよぎった。AI という人類が生み出した「異質な知能＜エイリアン・インテリジェンス＞」によって編み出される新たなリアリティに、人類自身が飲み込まれつつある。
もはや AI は人間が道具として使いこなせる存在ではなく、独自のエイリアン・インテリジェンスを持ったエージェント（主体）として動き始めた“他者”として立ち上がる。それは SF 映画が描くような人型ロボットの反乱やサイバー攻撃ではなく、もっと静かで広範囲な現実改変装置としてである。
物語が人類にもたらした効果をパフォーマティブに実践
ハラリの議論の出発点は、「虚構と協力」の力だ。彼は過去作の『サピエンス全史』で、ホモ・サピエンスが数万年前の「認知革命」を経て虚構＝フィクションを信じる能力を得たことで、大規模な協力が可能になったと論じたが、その見立ては本書でも繰り返される。神話や宗教、国家、貨幣といった実体のない物語を共有できたからこそ、見知らぬ者同士でも協力して国家・企業・宗教組織といった大集団を形成できた。物語＝虚構が人間同士を結ぶ情報ネットワークの原初の姿であり、このネットワークが「人類の文明・歴史の発展」を駆動してきたという。
本書は情報ネットワークという観点から人類史を眺め直す大胆な試みだが、それは決して「すべての歴史は情報だけが決めた」といった単純化ではない。宗教・経済・政治・技術――あらゆるファクターが絡み合って現在に至る複雑系が人類史であり、情報はその織物の経糸にすぎないかもしれない。しかし「情報」という糸をたどることで、大きな歴史の模様が浮かび上がってくるのも事実だ。その意味でハラリの語る壮大な通史は、一種の仮説的な物語として読者に思考実験を促す。私たちは自分たちの信じるフィクションによって団結もすれば争いもする。その滑稽さと厄介さを本書がパフォーマティブに実践しているとさえ言えるだろう。
「見張り」を見張る者は誰か？
情報ネットワークが人類にもたらした恩恵は計り知れないが、その弊害もまた繰り返し歴史に姿を現す。権力者は情報を独占・操作することで大衆を支配し、イデオロギー的虚構が狂信を生んできた。ここでふと想起するのが『ウォッチメン』で知った「誰が見張りを見張るのか」という古典的問いだ。ローマの風刺詩人ユヴェナリス以来、これは権力を監視する者の暴走を誰が防ぐのかという難問として語り継がれてきた。国家では秘密警察や監査役、メディアが「見張り」を自任してきたが、その見張り自体が腐敗したらどうするのか？
本書でも、SNS の「いいね！」が権力を握り、企業や為政者がアルゴリズム任せで責任から逃れる風潮が指摘されている。プラットフォーム企業は「AI が自動でやった」と言い訳しながら人間の認知をハックするが、結局その AI を設計し運用しているのは人間だ。監視網が巨大化するほど見張り役の実態はブラックボックス化し、透明性と説明責任が失われていく。誰が見張りを見張るのかという問いは、ますます重くのしかかる。
日本の文脈で言えば、情報ネットワークのグローバル化は経済的な脅威ももたらしている。例えば日本におけるデジタル赤字という現実化した脅威である。最近の統計によれば、日本はデジタル分野の国際収支で過去最大の年間約 5.5 兆円もの赤字を計上しており、インバウンドで稼いだ外貨約 3.6 兆円を優に食いつぶしている。検索エンジンやクラウド、SNS からスマホ OS に至るまで、我々の日常は海外企業の提供する情報インフラに深く依存している。その便利さと引き換えに、国内から富と技術主権が流出している現状は静かなる危機だろう。デジタル赤字の拡大は、日本が情報ネットワークの受け身の利用者に留まり、自前の「物語」やプラットフォームを作れていないことの裏返しでもある。
「認知戦（Cognitive Warfare）」とは、情報を用いて対象の思考や行動に影響を与える戦略である。従来の武力による戦闘とは異なり、個人や集団の認知領域を標的とし、態度や行動を操作する。認知領域は陸・海・空・宇宙・サイバー空間の次に生まれた「第六の戦場」と呼ばれ、奪い合いの対象となっている。
他国の作った物語（サービス）に乗っかり続けるだけでは、その物語の語り手（提供者）の意図に従うほかない。そんな大きな脆弱性に晒されていることを前提にしていく必要もある。
AI 革命と「ペーパークリップナポレオン」の悪夢
『NEXUS』下巻の副題はずばり「AI 革命」、人類史のクライマックスとして登場するのが、人間ならざる「非有機的ネットワーク」である。それをハラリはシリコンで構成された生命ならざる知性体であり、人類とは別種の原理で動くネットワークだと位置づける。AI はもはや人間社会の道具という枠を超え、自律的な意思決定を行い新しいアイデアさえ生み出す。それは人間の管理や理解を容易に拒むブラックボックスとなりつつあり、その意味で我々の前に現れた「異形の存在」なのだ。だからこそ AI によるネットワークは「有機的な人間社会とは異質」であり、適切な自己修正メカニズムを持たない限り暴走して自他を破滅させかねない、とハラリは警告する。
これは AI 時代において特に懸念される「アラインメント問題」と呼ばれる課題だ。要は高度な AI の目的や価値観を人類の利益を「整合（アライン）」させられるかという問題である。本書で印象的だったキーワードのひとつが「ペーパークリップナポレオン」だ。これは一見シュールな組み合わせだが、AI のアラインメント問題を象徴する寓話である。仮に“紙クリップを可能な限り大量に作る”ことだけを至上目的に設定された AI が、人類史上屈指の野心家ナポレオンのごとき権力と才覚を備えてしまったらどうなるか？ これは人類と無関係な目標を設定されるうる「エイリアン・インテリジェンス」のメタファーとして重要な思考となる。
自己修正性と可謬性の比較と生き残るためのデジタル
AI ネットワークの暴走を防ぐには、システムに自己修正性を持たせるしかない。ここで鍵となるのが可謬性（かびゅうせい）、つまり「間違う可能性を認めること」だ。ハラリは本書で、人間社会も含めた情報ネットワークには自己修正メカニズムが不可欠だと強調する。どんな組織やシステムも誤りを犯す。しかし、自らの誤りに気づき修正できるならば、そのネットワークは動的な平衡を保ち「生き残る」ことができる。逆に言えば、自己修正できない硬直したシステムはやがて崩壊し「死」を迎える。閉鎖的な独裁国家やカルト教団が内部批判を許さずに壮大に自滅した例は枚挙にいとまがない。一方で、民主主義国家や科学コミュニティは内部批判と修正を制度的に許容することで比較的長命だ。現代の情報エコシステムを健全に保つにも、この可謬性の原則が不可欠だという主張には大いに首肯できる。
聖書は推薦リストとして誕生したと言われる。だがひとたび「神の言葉」として固定化されて以降、文言の変更はタブーとなり自己修正は事実上ストップした。一方でアメリカ精神医学会の『精神障害の診断と統計マニュアル（DSM）』は初版以来何度も改訂を重ねており、最新版の DSM-5 では時代遅れとなった診断基準が修正・削除され、新しい知見に基づく項目が追加されている。かつて DSM は同性愛を「疾患」と分類していたが、批判と科学的議論を経てこれを除外するに至ったのは有名な例だ。つまり、聖書と DSM の自己修正性の違いがあると指摘する。前者は「絶対真理」として変更不可能な静的文書、後者は「最新の知見を反映して進化する」動的文書だ。記述変更の差分としての知を積み上げる科学的伝統と、変更しないための理屈としての知に固執する原理主義的伝統の違いとも言えるだろう。法律論との比較で言えば、前者は改正不能な不磨の大典に近く、後者は逐次改正される法令集や判例集に近い。
僕自身は、どちらかと言えば「as a code」派であり、都知事選に立候補した安野貴博の社会のルールや知識体系を GitHub で運用し、アップデートの履歴をすべて公開して共有財産にしよう、という発想について興味深くみていた。実際、エストニアなど国家をソフトウェアになぞらえて統治をデジタル化する試みもある。
このような透明性の高い改定プロセスは万能なようだが変更履歴の心理的安全性という新たな問題も出てくる。 聖書や憲法のように「変わらない」こと自体が信仰やアイデンティティの支柱になっているケースでは改変の提案があるだけで心理的動揺を招くだろう。その硬直性ゆえに逆に人々の安心感を支えている面もある。一方で、変更履歴が見える形で積み重なっていけば、人々はそのプロセス自体に参加意識や納得感を持てるという利点も考えられる。心理的安全性を確保しつつ改訂を行うためには、変化を単なる不安材料ではなく「成長の軌跡」としてポジティブに捉えられるような工夫が必要だろう。
物語に認知を書き換えられ続けている自覚を保て
本書の核心的メッセージの一つは、「我々の作り出した物語や情報ネットワークが、ついには我々の現実そのものを規定し始めている」ということだろう。この情報ネットワークが織りなす人類史を石器時代から現代まで俯瞰し、最終的にこの AI 革命がもたらす民主主義の危機へと話を収束させる。歴史の大きな流れとネットニュースのミクロな出来事が入り乱れ、体感半分ぐらいは聞いたことがあるぐらいの蘊蓄と引用が明快な主張に収束されていく読書体験が楽しい。煽りやチェリーピッキングな強引さもあるのだろうけれども、その話術に乗って自身の認知が書き換えられていく感覚が得られる。
ハラリは歴史家の俯瞰視点から現在を見据え、「人類はいま何をすべきか」という大きな問いを投げかける。現代であれば陰謀論と呼ばれる情報とフィクションに踊らされる人間の可笑しみと危うさ、そしてそれを乗り越えるために必要な批判精神と柔軟性——可謬性を受け入れる勇気——が何であるか。情報時代という未曾有の荒野において、我々はなおも物語を道標に進んでいく。しかしその物語を誰が書き換え、誰が検証するのか——誰が見張りを見張るのか——。「物語」に認知を書き換えられ続けていることを自覚できているうちは忘れないようにしたい。
