Enlightenment Now その56

Enlightenment Now: The Case for Reason, Science, Humanism, and Progress (English Edition)

第20章　進歩の将来　その1

　
ピンカーの「進歩」の解説である本書第2部もいよいよ最終章になった．これまでは現在までの進歩を語ってきた．ここでピンカーはまとめをおき，さらに将来を展望している．
　

• 啓蒙運動が18世紀後半に始まって以来，平均寿命は30歳台から70歳台に延びた．貧困も減少した．戦争は減り，ジェノサイドや殺人も減った．世界はより安全に，より自由になった．より民主的になり差別も減った．識字率は向上し人々はより利口になった．人々は余暇を楽しみ，幸福になった．
• 大気汚染や森林破壊などのグローバルな課題も解決に向けての動きがある．温暖化と核廃絶問題の解決はなお途上だが，それは解決可能なのだ．啓蒙運動はなお効果を発揮しているのだ．　

• しかし同時になお世界全体では7億人が貧困の中で暮らしている．戦争も根絶されてはいないし，専制独裁政も残存している．先進国でも女性抑圧やヘイトクライムがなくなったわけではない．温暖化は進行中で全世界の保有核兵器はなお膨大だ．

• つまりここまでの進歩があったからといってユートピアが達成されているわけではないということだ．我々はなお進歩が継続するように努力しなければならない．では進歩が継続できるという希望はどのぐらい理にかなったものなのだろうか．

• まず継続可能を支持する議論から見ていこう．
• 啓蒙運動と科学革命は知識を人々の状況を改善するために使ってきた．そしてここまで200年以上効果を持ち続けた．それは70以上の（短期的には上下があるがトレンドとしては）右肩上がりのグラフで見た通りだ．様々な点での改善は互いに支え合っている．ゲノム，ニューロ，AI，物質物理，データサイエンスなどのテクノロジーの進展は進歩を加速させる要因だ．モラルの進展も同じだ．そして200年以上続いたものはなお継続するだろうというのは分のある賭けだ．

　
基本的に進歩は継続可能だというのがピンカーの立場だ．ここからピンカーの議論は懸念材料にはどのようなものがあるのか，それを克服できるのかというものになる．ピンカーの議論する最初の懸念材料は「経済」問題になる．
　

• 21世紀に生じた懸念材料はあるだろうか．1つの候補は経済だ．産業革命以降200年以上経済成長は続いてきた．1960年代の悲観主義者はリソースの枯渇や汚染から成長は維持できないと訴えた．21世紀の悲観主義者は成長自体が低下すると主張する．1970年代にそれまで2％ほどあったアメリカの成長率が0.6％程度に低下した．これは潜在成長率の低下で新しい基準だというのだ．彼等は人口動態や発明の枯渇や文化の変容を原因に挙げる．
• ではこれは進歩の終わりを意味するのか．それはありそうにない．まず低いとはいっても成長は続いている．そしてこれは先進国だけの問題であり，途上国のキャッチアップは続いているのだ．そしてテクノロジー主導の生産性向上が生じつつある兆しが見える．テクノロジーウォッチャーは，みな自信をもって我々は新たな豊穣の時代に入りつつあると主張している．
• どのような進展が期待できるのか．まずエネルギー面では第4世代型原子力発電，カーボンナノチューブ太陽発電，液体金属バッテリー，スマートグリッド，ゼロエミッションガスプラントなどがある．生産面ではナノテクノロジー，3Dプリンターが利用できる．ナノフィルターによる浄水，遺伝子編集による農作物，ドローン，ロボットの利用も視野に入りつつある．医療面では医療チップ，AI診断，幹細胞技術，RNA干渉が利用される様になるだろう．教育もネット利用で大きく変わるだろう．情報をキーにした第2次産業革命，イノベーションプロセスのイノベーション，新しいルネサンスがまさに起こりつつあるのだ．
• この第二次産業革命は経済を停滞から蹴り出してくれるだろうか．経済成長は技術だけでなく国家財政や人的キャピタルの状況にも依存するので確実なことはわからない．またGDPのような統計は新しい情報時代の豊穣さを測るのに不向きな部分がある．新しいモノやサービスには，デザインに莫大なコストがかかるが，一旦できあがると非常に安価にコピーできるようなものが増えている．フリーエコノミーも拡大している．また環境や安全や人権的価値はより非市場的に消費されるようになり，GDPでは捉えにくくなる．そのような新しい経済の拡大は伝統的な商品にかかる成長率をスローダウンさせているだろう．これを自然に解釈すれば，これは進歩が加速しているから生じている現象で進歩の停滞ではないということになる．

　
ここでピンカーが議論しているのは，経済の潜在成長力の問題だ．第二次世界大戦後先進国の成長率は高かったが，80年代以降下がってきている．これは構造的な問題であり，進歩を阻害するものではないのかという議論ということだろう．潜在成長率がどのように定まるのかについては明確な理論はないようだ．それは結局テクノロジーや制度で決まっていくのだろう．そしてピンカーの議論はテクノロジーの視点からは将来は有望だというものだ．（おそらく日本にもこれは当てはまる．ただ日本のデフレから抜け出せない苦境は制度的要因と不適切なマクロ経済政策（緊縮的財政政策）も加わって生じているということだろう．）
そしてグローバル経済も不適切な政策（まさにトランプが推し進めているような保護主義的な政策を含む）が採られれば成長は阻害されるだろう．この政治的反動が次に議論されることになる．
　

書評 「人類との遭遇」

人類との遭遇　はじめて知るヒト誕生のドラマ (早川書房)

　
本書は人類の進化史を22のトピックに分解してエッセイ風に解説する一般向けの本だ．著者のイ・サンヒは韓国出身で，アメリカで活躍する女性の古人類学者．韓国の雑誌に連載したものが元になり，それを一冊の本に仕上げたものだ．原題は「Close Encounters with Humankind」*1.

　
冒頭で著者自身の旅が語られる．韓国からアメリカに移り，東海岸で学者のキャリアを始め，西海岸で助教授のポストを得る．そして赴任に際して恩師ミルフォード・ウォルポルフから強く勧められて1人で自動車を運転してペンシルバニアからカリフォルニアまで大陸横断することになる．異文化との遭遇，キャリアへの思い．人種差別，アメリカの広大さに触れるエッセイはなかなか味のあるもので，読者は著者の世界に一気に引きずり込まれていくことになる．
そこからは順不同でいろいろなトピックが語られていく．私が興味深いと思ったのは以下のようなところだ．
　

• クラビナ遺跡のネアンデルタールの化石人骨には部位の不揃いと特徴的な傷跡があり，当初古人類学者はこれを食人の証拠だと考えた．しかし1980年にメアリー・ラッセルは食人説に疑いを持ち，これは単に二次葬のあとではないかと考えつく．そして食べるために動物を解体した際に骨につく傷と腐敗した死体の骨を清めて二次葬にする際につく傷を比較し，クラビナのネアンデルタール人の骨の特徴的な傷は二次葬によるものであることを解明した．
• 新生児の頭の大きさと骨盤の関係から出産時の女性のお産の容易さと運動性にはトレードオフがあることはよく知られている．サピエンスでは新生児は産道内で180度回転して骨盤の穴を通り抜ける．ネアンデルターレンシスの骨盤をCTスキャンしたところ．新生児は産道内で身体を二度回さなければならない*2ことがわかった．おそらくネアンデルターレンシスも社会的出産を行っていたのだろう．
• 化石骨の年齢を推定し，集団の年齢構成を見ると，長寿化はエレクトゥスの時代ではなくサピエンスになってから生じたことがわかった．あるいは認知革命や芸術の出現は長寿化のおかげかもしれない．
• 現在アフリカのエレクトゥスの最古の化石，ジャワのエレクトゥスの最古の化石，ドマニシのゲオルギクスの化石の年代は約180万年前でそろっている．これにより人類のアジア起源の主張がまた復活しつつある．
• ドイツの古生物学者が香港の薬局で購入した「竜骨」の化石は中期更新世に栄えた史上最大の類人猿ギガントピテクスの大臼歯だった．その後ギガントピテクスの化石を求めて熱心に発掘がなされたが，これまで下顎骨と歯の化石しか出ていない．それでも大きさはゴリラの雄の2.5倍以上あったと推定されている．興味深いことに犬歯に性的二型がなく，この巨大化は性淘汰によるものではないと思われる．あるいは当時強力な捕食者として台頭してきたエレクトゥスに対する防衛として巨大化したのかもしれない．
• ホモ・ハビリスが，いかにも雑多な化石の寄せ集めのようになり，はたして意味のある種として認められるのかどうかについては学界内でも紆余曲折があった．現在では頭骨の大きなものをルドルフエンシス，小さいものをハビリスに分類するという方向が有力になっている．（この話にはリーキー一家が様々に絡んでいて，詳細は大変面白い）

　
このような話が満載で本書はいろいろ面白いのだが，専門外の分野の記述には少しおぼつかない部分も散見される．
行動生態学周りでは，利他性の進化についての解説がズルズルになっていて，これに最初に取り組んだのがアリやハチをコロニー単位で利己的だと考えたE. O. ウィルソンであるみたいな書きぶりになっていたり，ハミルトン，ドーキンスの採用する遺伝子視点からの進化理論について「遺伝子決定論」*3であると説明していたりする．おそらく基本的によくわかっていないのだろう．配偶システムや排卵隠蔽の進化あたりの説明もかなり雑だ．このほか「種」とは何か，ジャンクDNAとは何か，中立説の意義あたりの解説もかなり危ういものだ．
また彼女がウォルポフの直弟子であるということもあるのだろうが，人類の多地域進化説についての肩入れが過ぎるように思われる．近年のサピエンスとネアンデルターレンシスの交雑があったという知見について多地域進化説の復活を可能にするものだというのは言い過ぎだろう．そもそもの多地域進化説は，基本的にヨーロッパ人種はネアンデルターレンシスから，アジア人種は北京原人から，アボリジニはジャワ原人から直接進化し，互いに交雑があって単一種となったというかなり無理のあるものだ．サピエンスの単一アフリカ起源説の根幹は揺るがず，ただ既に分岐して久しいネアンデルターレンシスと（そしておそらくデニソワ人とも）一時的限定的な交雑があったというように理解をすべきものだろう．
　
そのあたりについては注意しながら読む必要はあるが，しかし一般向けに興味深い話題をつないで大変よく書けている科学啓蒙書であることは間違いない．特に専門である古人類学に直接関係する話題は大変面白い．北京原人，フローレス原人，デニソワ人の話はいろいろなエピソードにあふれていて興味深く読める．総説的な記述も多いし，激しい論争を一歩下がって解説しているところも読みどころだ．ところどころのぼやき的なコメント*4にも味がある．人類の進化史に興味がある人には楽しい一冊だろう．

　
　
関連書籍
　
原書

Close Encounters with Humankind: A Paleoanthropologist Investigates Our Evolving Species (English Edition)

*1:もちろん映画「未知との遭遇：Close Encounters of the Third Kind」をイメージしたものだろう．

*2:360度という意味なのだろうか，ちょっとよくわからなかった

*3:これはもしかしたら単なる誤訳なのかもしれない，原文には当たれていない

*4:単一起源説と多地域進化説の論争はウォルポフの直弟子としていろいろ複雑な思いがあるのだろう．1990年代にはこの論争が科学的なものからどちらが人種差別的かという政治的なものになってしまったことが語られている

Enlightenment Now その55

Enlightenment Now: The Case for Reason, Science, Humanism, and Progress (English Edition)

第19章　実存的脅威　その4

　
悲観論者が強調する「実存的脅威」，ピンカーはロボカリプスもAIの暴走もあり得ず，サイバーテロやバイオテロの脅威も非常に小さいことを論じた．では核戦争はどうか．これはソ連崩壊まではリアルな恐怖だったのが記憶に新しい．ピンカーはかなり丁寧にここを論じている．
　

• 人類の破滅シナリオの多くはばかばかしいかリスクが非常に小さいものだが，核戦争の脅威はリアルだ．人類は世界を破滅させることが可能な核兵器を実際に持っている．インドとパキスタンの争いが全面的な核戦争にまで至れば直ちに20百万人の人が死ぬだろう．そして核の冬が来る．
• 日本に原爆が落とされ，ソ連との冷戦がスタートすると新しい歴史悲観主義が生まれた．それは「人類は神から恐るべき知識を，それを責任を持って使う知恵を持たないままもぎ取った．人類は自ら破滅する運命にあるのだ」というものだ．ある種のインテリにとっては核兵器の発明こそが科学をそして現代自体を糾弾する根拠となっている．
• 科学を糾弾するのは見当違いにも思える．実際に核兵器の危険性を訴えてきたのはアインシュタインをはじめとする物理学者たちなのだから．そして物理学者たちは今でも警鐘を鳴らしている．
• しかし不幸なことに彼等は自分自身を政治心理学のエキスパートでもあると考えてしまっている．そして大衆を動かすにはその恐怖に訴えるのが有効だと誤解している．ドゥームズデイクロックは客観的なリスク分析なしにプロバガンダ的に分針を進めたり遅らせたりしている．今ではそこには温暖化リスクも込みだと言って針を進めているのだ．

（ここで1950年代から1970年代までのアインシュタインをはじめとする様々な物理学者による第3次世界大戦の悲観的な未来予測の例がいくつかあげられている．）

• これらの予言ジャンルは冷戦終了後に時代遅れになった．恐怖を持続させるために運動家たちはニアミス案件を喧伝するようになった．運動家たちは「世界が直ちに対策を取らない限り，我々は皆死に絶えるだろう」というメッセージを伝えたかったのだろう．しかし世界が直ちに対策を取るようには思えず，大衆は考えても仕方のないことは考えないようになった．その結果核戦争のテーマはメディアでの露出を減らし，ジャーナリストたちはテロとスキャンダルを代わりに取り上げるようになった．
• 近年では核の恐怖の焦点は戦争よりテロに比重を移しているように見える．運動家は核テロの恐怖を煽ろうとしているが，効果は疑わしい．人々は実際に生じる銃や爆弾のテロに反応し，規制の強化やイスラム移民の制限を望むようになる．
• このようなバックファイアは当初の反核キャンペーンの時から危惧されていた．歴史家のポール・ボイヤーは反核キャンペーンは実際には核軍拡を促進したことを見いだした．

• 温暖化でも同じだが，人々は解決可能だと思うと問題を認識するようになる．ここではポジティブなアジェンダのためのいくつかのアイデアを指摘しよう．
• まず「破滅は運命づけられている」と言うことをやめよう．破滅まであと数分という時計が70年間もほとんどそのままというのは時計の方が間違っているのだ．世界を構成するシステムが核戦争を抑止している可能性を認識すべきだ．多くの反核運動家はそんなことをしたら核廃絶できないと反対するだろう．しかし核保有国が明日すべて核廃絶することはないのだから，何がうまく働いているのか，そしてそれをもっとよくするにはどうすればいいのかを考えるべきだ．
• まず歴史の事実を認識しよう．旧ソ連のアーカイブに「先制核攻撃」プランはなかったのだ．それは核抑止力は実際に効いていたということだ．そして冷戦終了後は両サイドとも安心して核軍備の縮小に合意している．「核兵器は核戦争を引き起こす」というよくある技術決定論的認識とは逆に，リスクは国際関係に大きく依存するのだ．キューバ危機の記録を詳細に調べると，ケネディもフルシチョフも最初からエスカレーションする気は毛頭なく，いかにうまく収めるかに腐心していたことがわかる．
• ぞっとさせるようなフォルスアラームが何度もあったが核戦争が起こっていないのは，単に幸運の結果であることを意味しない．技術と人間が破局を避けるように組み合わさり，危機が起こるたびにその教訓を受け入れてシステムが改善されてきたのかもしれない．
• 問題をこのように捉えると，パニックや自己満足を避けることができる．そして核戦争の確率をさらに下げる方法を検討できる．
• はてなき核増殖シナリオも誇張されたものであることが明らかになった．1960年代には核保有国はすぐに30を越えるだろうと予測されていた．しかし21世紀になっても核保有国は9カ国に過ぎない．核開発プランを放棄した国は多い．確かに北朝鮮の核は脅威だ．しかし世界はさらにぞっとするような狂気の核保有独裁者2人（スターリンと毛沢東）と半世紀も核戦争なしで過ごせたのだ．
• テロリストによる核強奪（あるいはガレージでの核開発）とスーツケースによる核持ち込みテロシナリオも冷静に分析しよう．確かに原爆を作るノウハウはそんなに難しくない．しかし純度の高いウランや兵器利用可能なプルトニウムを入手・保管し，各国のテロ対策チームに探知されずに原爆を作成するのは極めて困難だ．探知されずに核兵器を運搬することも極めて難しい．

• 冷静になれたら，核兵器の残虐な魅力から離脱しよう．核兵器は人類の進歩を体現する科学技術の精華というより，ヒトラーとナチが先に開発するのではという恐怖から生まれたマンハッタンプロジェクトという歴史的な偶然からうまれた技術に過ぎない．そしてそれは第二次世界大戦を終わらせた原動力になったわけでもない．核抑止で長い平和を可能にしたわけでもない．
• 核抑止力は（両超大国の対になる実存的脅威になった場合を除けば）実際にはぐちゃぐちゃなものだ．核は無差別に広いエリアを汚染し，戦争に勝ったとしても占領地の価値を失わせ，自軍の損傷も引き起こす．何より非戦闘民を無差別に大量殺戮してしまう．これは政治家にとっては耐えがたい結果であり，事実上使用はタブーになり，単なるブラフの道具に過ぎなくなった．フォークランド戦争においてアルゼンチンはサッチャーがブエノスアイレスを核攻撃するはずがないと信じていた．これは抑止自体に意味がないといっているのではない，通常兵器で十分に抑止は可能だといっているのだ．
• MAD（相互確証破壊）理論による核抑止力の本質は先制攻撃を受けた後の二次打撃能力にある．しかしすべてのシナリオで二次打撃能力を保証するのは難しい．それはヘアトリガーによる攻撃を誘惑し，フォルスアラームによる破局の可能性を引き起こす．
• そもそも偶然に生まれた技術で，使いようもなくリスクだけあるのならやめればいいのだ．もちろん作成技術知識をなかったことにはできないが，合意の元に廃絶は可能だ．実際にそのようにして廃絶に向かっている兵器はいくつもある．対人地雷，クラスター爆弾，化学兵器，生物兵器は世界各国で禁止されている．
• 第一次世界大戦でドイツ軍は80マイル先から200ポンド砲弾を直接砲撃できる長距離砲「グスタフガン」を開発し，パリ市民を恐怖で震え上がらせたが，実際には狙いは不正確で扱いにくく，結局ドイツ軍はこれを放棄した．核兵器はグスタフガンのようになるだろうか．核廃絶運動は1950年代からあり，「グローバルゼロ」がそのスローガンだ．レーガンは1986年に「核戦争に勝者はいない．核兵器の唯一の価値は使用の抑止にある．だったら全部無くした方がいいだろう」とコメントしたし，オバマも2009年に「アメリカは核も戦争もない世界にコミットする」とプラハで演説した．
• ゼロは魅力的な数字だが，達成は容易ではない．より現実的なのは兵器庫を減らしていくことだ．そしてそのプロセスは進んでいる．（冷戦時代からの米ソの核軍縮条約とその実施の概要が説明されている）

ここで世界全体の核兵器保有量の推移グラフが示されている．アメリカとソ連/ロシアの保有が大半だが，1990年がピークで現在はその1/6程度になっている，ソースはOur world in data．https://ourworldindata.org/nuclear-weapons
　

　

• 冷笑家たちは，まだ世界には1万発の核があるじゃないかというかもしれない．しかし1986年には5万4千発あったのだ．そして条約の外側にも核軍縮へ向かわせる力がある．実際に核保有国は大国間の緊張が緩むと互いにそっと軍備を減らす．これは心理学的には緊張緩和の漸進的交互的主導権（GRIT）と呼ばれる過程だ．これが進んでアーセナルが200以下に減れば核の冬のリスクは事実上なくなる．

• 現在のリスクは核保有総量から来ているわけではない．警戒警報への即時応射戦略が最大のリスクになる．微妙なシグナルをノイズと分別するのは難しい．警報が発せられれば，大統領は午前3時であってもたたき起こされ，微妙なシグナルへの応答を数分以内に決断しなければならない．理論的にはカモメの群れの誤認から第3次世界大戦が始まりうることになる．実際には警告システムはもっとずっとよくできていて，ヘアトリガー警報で自動応射するようにはなっていない．しかし決断までの時間が限られているので，シグナル誤認のリスクはリアルだ．
• 元々警戒警報への応射戦略は，敵ミサイルが自軍サイロを完全破壊して報復能力を喪失するリスク（相手がそれを確信できれば先制攻撃を誘ってしまう）を避けるためのものだ．しかし現在国家は第1射を避けることができる潜水艦からミサイルを発射することができる．そうであればもっとゆっくり時間をかけ，事態を見極めてから報復攻撃をするかどうかを決められる．
• であれば警戒警報への応射戦略は不必要でリスクを持つだけだ．核防衛アナリストは皆ヘアトリガー警報への即時応射戦略をやめるように強く進言している．オバマもジョージ・W. ブッシュもマクナマラも皆これに賛成している．
• では何故反対する人がいるのか．一部の理論家は「危機において一旦警報応射からはずしたミサイルを元に戻すことが挑発行為と受け取られる」とか「サイロミサイルの方が信頼性が高く正確なので，戦争に勝つためにはセーフガードすべきだ」などと主張している．

• （もう1つの問題は，通常兵器による攻撃に対する抑止力への期待だ．）良心的な人にとっては，自国が核攻撃を核抑止以外の目的で使うというのは受け入れがたいだろう．しかし米国をはじめとする核保有国は「自国や同盟国が通常兵器による重大な攻撃を受ければ核を使うかもしれない」としている．しかし先に使うというポリシーは報復の連鎖を呼び込みかねず危険だ．
• だから核戦争を避けるには「先には使わない」ポリシーが望ましい．すべて保有国がこれを採用すれば原理的に核戦争は避けられる．これは条約によって一斉に決めることも可能だし，GRITによって達成することも可能だ．核タブーは事実上「もしかしたら先制攻撃するかも」ポリシーの抑止効果を減少させているし，「先には使わない」ポリシーに変更しても，通常兵力と第二射能力で抑止は可能だ．
• 「先には使わない」ポリシーへの変更は容易に思えるし，オバマは2016年にほとんど採用の寸前までいった．アドバイザーは，中国，ロシア．北朝鮮を利することになるし，同盟国の信頼を失わせ，核開発に向かわせかねないとしてそれに反対した．長期的には緊張緩和時にもう一度考えてみるべきだろう．
• 核廃絶はすぐには実現できない．だからグローバル・ゼロの達成には忍耐と持続力が必要だ．しかし道は開かれている．少しずつ核を減らし，ヘアトリガー警報応射をやめ，「先には使わない」ポリシーを採用すれば，今世紀後半には単純な相互抑止のための最小限のアーセナルにまで縮小できるかもしれない．

　
核戦争は真にリアルなリスクなのでピンカーの議論も真剣で，なかなか踏み込んだ詳細な解説になっている．私には軍事や地政学についての論評能力はないし，北朝鮮の最近の動向や，インドとパキスタンの状況を考えるとなかなか楽観はできないように思うが，冷静に考えるのは確かに重要だろう．

Enlightenment Now その54

Enlightenment Now: The Case for Reason, Science, Humanism, and Progress (English Edition)

第19章　実存的脅威　その3

　
ピンカーは前作の「The Better Angels of Our Nature（邦題:暴力の人類史）」の第6章でも本書の第13章でもテロについて既に論じている．そこではテロは古くからあり，相手に恐怖を与えることが目的になるが，大衆の支持を得ることは難しく，だんだん過激になり，そして失敗していくというのが歴史の教えであり，現代のイスラム原理主義者のテロも例外ではないだろうこと，そしてテロが際立つのは世界が平和で安全になったからであることを指摘した．ここではテロ全般ではなく，「テクノロジーにより世界は破滅するのか」という問題意識からサイバーテロとバイオテロを扱っている．

• ロボカリプスは起こらないとして，ハッカーによるサイバーテロやバイオテロはどうなのか．
• 時に彼等は悪意でもって我々に害を加えようとする．これを無視していいとは誰も思わないだろう．コンピュータセキュリティの専門家や疫学者たちはテロリストの一歩先を行こうと常に努力しているし，社会はこの方面への投資を怠るべきではない．軍や経済やエネルギーやインターネットのインフラはより堅固でレジリエントにしておくべきだ．
• このような軍拡競争において，当然ながら防衛側は完璧にはなれない．しかしここで問うべきなのは，それをもって人類の破滅は不可避だと考えるかどうかだ．

• 最初に考えるべきなのは，科学革命と啓蒙運動は，たった1人（あるいはごく少数のグループ）で世界を破滅できるようなことを可能にするのかということだ．（懐疑論者はよくそういう議論を行う）
• ケヴィン・ケリーは科学技術はそのようには進まないのだと主張する．それは科学技術は強力になるほど社会に埋め込まれるからだ．最先端技術は協力者のネットワークを必要とし，そのネットワークはさらに大きなネットワークにつながり，皆技術を安全にしようと試みる．これはたった1人のマッドサイエンティストが世界を破滅させようとするハリウッド映画のプロットラインを不可能にするのだ．
• 確かにこれは抽象的な論理に基づく推測に過ぎない．実際にどうなのかを考える上でのポイントは利用可能バイアスに陥らないことだ．真の危険は数量のところにあるのだ．
• まずそのような狂人の数を考えよう．無関係な周りの人々を対象にした大量殺人事件はどのぐらいの頻度で生じているだろうか．確かにそのような事件は起こっている．しかし狂人が多ければ毎日どこかで起こっていても不思議はないが，実際には世界全体で何年かに一度ぐらいしか生じていない．機会があれば周りの人々を大量に殺したいと考える人はごく稀なのに違いないのだ．
• そのような狂人の中でどのぐらいの割合が，サイバーテロやバイオテロに必要な知識と規律を兼ね備えているだろうか．ほとんどのテロリストは無能なドジだ．（テロリストがいかにへまであるかの実例がいくつか紹介されている）ほとんどはローテク武器で群衆を襲うがごく少数を殺すだけにとどまっている．世界のテロ対策チームを出し抜けることができるようなテロリストはゼロではないにしてもごく少数だろう．
• その少数のテロリストはチームをリクルートしてマネージしなければならない．リソースも必要だ．ソフトウェアをハッキングするだけでは足りないのだ．ハッカーは攻撃対象のシステムの構成についての詳しい知識を持つ必要がある．
• アメリカ軍はデジタルパールハーバーについて警告を出しているが，専門家は誇張があると考えている．いずれにしてもこれまでのところサイバーテロによる死者は0だ．

• テクノロジーによる破滅論者は低確率だからといって屈しない．たった1人でも世界の破滅に成功すればおわりではないかというわけだ．だからこそ彼等は自分たちの議論を「実存的」脅威と呼ぶ．この実存主義は「ちょっとした迷惑→障害→悲劇→災害→破滅」という因果的な地滑りに依存している．要するに彼等の議論は「もしインターネットが止まれば農家はどうすればいいかわからなくなって作物をみな枯らしてしまう」と考えているのと同じなのだ．
• しかし災害社会学は人々が非常に打たれ強いことを示しているのだ．人々は容易には屈しない．第二次世界大戦の都市爆撃があれほど凄惨なことになったのは，「都市を爆撃すれば住民は打ちのめされて相手国はすぐに降伏するだろう」という前提が完全に間違っていたからだ．21世紀の市民も災害に打たれ強く対処できる．我々はそれを9.11のマンハッタンで見たばかりではないか．

• バイオテロはもう1つの「見えない悪意」だ．生物兵器は1972年の会議において全世界の国々によって放棄され，現代戦争では使われていない．禁止自体は生物兵器への嫌悪感から進められた．しかし軍事関係者もほとんど抵抗しなかった．それは生物兵器は非常に使いにくいからだ．
• 病原体は扱いにくく，容易に攻撃者側にも被害をもたらすし，本当に大きな効果があるかどうかは局所的な入り組んだネットワークダイナミクスに大きく依存する．
• さらに病原体は毒性と感染力のトレードオフ上で素速く進化する．だから狙った通りに突然の大きな被害を起こすことは難しい．これはテロリストには不向きだ．CRISPER-Cas9のような遺伝子編集技術は当初の病原体の特徴を変えることができるかもしれないが，その後の進化を止めることはできないだろう．
• そして特に重要なのは，生物学技術の進歩はバイオテロを阻止するためにも有効だということだ．病原体を同定し，耐性進化を乗り越えるような抗生物質をデザインし，ワクチンを開発できる．

この議論はピンカーのテロについての大枠の議論（テロは恐怖を与えるのが目的で実際に被害はイメージほど大きくない．長期的には個別のテロリズムは大衆の支持を得られずに消えていく）を補強するものだ．
懐疑主義者の「たった1人で世界を壊滅できるテクノロジーが生みだされないという保証があるのか」という議論は直観主義者にはまことに強力に響く．ピンカーはこれに対してフェルミ推定的な量的な議論で対抗する．ここではサイバーテロやバイオテロの実際上のリスクは実は（利用可能バイアスから想像するより）遙かに小さいという推定が語られている．議論の中で病原体進化が語られているのがいかにもピンカーらしい．

Enlightenment Now その53

Enlightenment Now: The Case for Reason, Science, Humanism, and Progress (English Edition)

第19章　実存的脅威　その2

　
まずピンカーはヒトの認知バイアスや悲観的な方が賢く見えるということから本来のリスク以上に破局シナリオが取り上げられがちであること，対応リソースには限りがあるし，どのみち世界が破滅すると思えば対策を取る動機が失われるので，この破局シナリオにどこまでも対応すべきではないことを議論した．

• では我々は破局の脅威についてどう考えるべきなのだろうか．まず実存的脅威の最大のもの「人類の運命」を取り上げよう．
• 生物学者はしばしば「これまでに存在した種の99％以上は絶滅しているので近似的にはすべての種は絶滅する」というジョークをいう．典型的な哺乳類の存続期間は100万年ほどだ．人類が絶滅に関して例外だと主張するのは難しい．近傍で超新星爆発があればガンマ線放射で地球は死の星になる．小惑星が落下すれば大惨事が生じる．超巨大カルデラ火山は我々を窒息させかねない．ブラックホールが太陽系に入り込んで地球を軌道から放り出すかもしれない．人類がそれらを乗り越えても10億年たてば地球は巨大化した太陽に焼き尽くされる．
• だとするなら，テクノロジーについて我々に終末をもたらす理由だと考えるべきではない．テクノロジーこそが我々を破局から（しばらくの間であっても）救ってくれる可能性を持つものだ．それを考えてみるべきだ．核融合エネルギーによる食糧生産，衝突可能性のある小惑星の探知と軌道修正，超巨大カルデラ火山マグマだまりへの高圧水注入による冷却などテクノロジーが可能にするかもしれないことがあるのだ．

• だから，我々の文明は自分自身を破壊するのだというテクノロジー黙示録的主張は思い違いというべきだ．これまでに存在したほとんどの文明は外側から破壊されたのだ．伝統的な歴史は外側からの破壊要因を疫病，征服，地震，天候に求めるが，基本的には文明はより優れた農業，医療，軍事テクノロジーによってそれを回避できるのだ．（ここでデイヴィッド・ドイチュの「無限の始まり」が引用されている．技術の進歩による選択肢が得られれば「”自然”災害」と「無知による人災」を区別することはできなくなると書かれている．）

無限の始まり : ひとはなぜ限りない可能性をもつのか

　

• 「人類の存続を脅かす実存的脅威」と最近よく主張されるものは，AIやロボットに起因する大災害（ロボカリプスと呼ばれる．映画ターミネーターのイメージだそうだ）であり，いわば21世紀版のY2Kバグだ．しばしば非常に賢明な人がこれを主張する．イーロン・マスクは作っている自動運転車にAIを搭載しているにもかかわらず，これらのテクノロジーは核より危険だと公言したし，スティーヴン・ホーキングはAIは世界の破滅を引き起こせると警告した．
• ロボカリプスは，現代的な科学知識ではなく，「存在の大いなる連鎖」や「ニーチェ的意思」のようなグズグズの知識ベースの上にある．これは万能の意思を持つ機械を想定している．そして人類が劣った動物を家畜にしたようにスーパーインテリジェントな機械は我々を奴隷にするだろうとおびえているのだ．しかしその懸念は「ジェット機が飛翔能力でワシを凌駕してしまった以上，いつの日かジェット機はヒツジを引っさらっていくだろう」と考えるのに似ている．
• 第1の間違いは知性と動機を持つ意思との混同だ．ロボットがそもそもなぜヒトを奴隷にしたいなどと欲するのだろうか．AIのゴールはその知性の外側から与えられるのだ．複雑なシステムが征服意欲を創発させることになるようなどんな理論も存在しない．
• 第2の間違いは知性が連続的にどこまでも上がり，超知性はどんな問題も解決できると考えていることだ．問題は個別に異なり，解決に必要な知識も異なるのだ．そして知識は説明を定式化して現実の中でテストすることによってしか得られない．アルゴリズムを速く回しても問題解決のための知識を得ることはできないのだ．ビッグデータも無限に大きいわけでなく，知識は無限に開いている．
• これらの理由で，AIリサーチャーたちは最近の「人工一般知能（AGI）の出現は間近い」という騒ぎにうんざりしている．私が知る限り，AGIを作ろうというまともなプロジェクトは存在しない．それは商業的に見込みがないという理由ではなく，AGIというコンセプト自体まず実現不可能だと考えられているからだ．仮にAGIが意思を持つように試みるとしても，それはヒトの助けなしには無力な「水槽に浮かぶ脳」に過ぎないだろう．
• 現実にはデジタル黙示録を防ぐ方法は簡単だ．HALが怪しくなったときにデイヴはスクリュードライバーでそれを無力化した．もちろん悪意を持つ破滅をもたらす機械を想像することはできる．でもそんなもの作らなければいいだけだ．

• ロボットの反乱が怪しいとわかり始めると新たなデジタル黙示録が浮かび上がった．今度のはフランケンシュタインというよりミダス王の話に似ている．それはValue Alignment Problem（価値決定問題）と呼ばれる．我々は自らの目的設定をAIにまかせてしまい，その後はAIに目的設定を乗っ取られ，あとは受動的に生きるしかなくなるという恐怖だ．
• これは簡単に反駁できる．このシナリオは以下の馬鹿げた前提に基づいているからだ．（１）ヒトは全知全能のAIを設計できるが，その全知全能AIはテストなしで本番移行するほど愚かだ．（2）そのAIはヒトの脳を書き換えるほど聡明だが，目的設定を間違えるほど愚かだ．互いに相克するゴールがある中での行動選択は，知性を設計するときに入れ忘れられるようなアドオンではなく，知性そのものなのだ．
• 要するにAIもその他のテクノロジーと変わらない．それは累積的に発達し，多くの条件の中で機能するようにデザインされ，テストの上でリリースされ，常に安全をチェックされるのだ．

• AIについていえば，それによって職を奪われる人がいるという問題は確かにある．しかしこの失業は一瞬で生じるわけではない．引き続きヒトはコストの割には非常に高性能であり続けている．皿洗いや使い走りやおむつ換えは自動運転に比べて遙かに難しいのだ．

　
テクノロジーは人類に破滅をもたらすことを恐れるより，破滅を避けるために用いられることをよく考えようというピンカーの主張は真にもっともだと思う．特に日本にとってここ数千年を見たときに超巨大カルデラ火山の脅威は（大地震と大津波を遙かに超えて）リアルだ．温暖化対策を考慮に入れた原発のあり方も是非冷静に議論して欲しいところだろう．
後半のロボカリプスの話は楽しい．AIにある程度理解がある人々にとっては真にばからしい話が多いのだろう．ピンカーは引き続いてより深刻な脅威を議論する．それは真に悪意を持つ人間によって引き起こされるテクノロジーの濫用，つまりサイバーテロやバイオテロだ．