Enlightenment Now その52

Enlightenment Now: The Case for Reason, Science, Humanism, and Progress (English Edition)

　

第19章　実存的脅威　その1

　
世界は進歩して良くなっているという主張への反論には，「いや，こんな大変な問題を抱えているじゃないか」というものがある．第19章ではピンカーは世界の様々な諸問題を取り上げる．
　

• 「だけど我々は大災害の危機に瀕しているじゃないか」悲観主義者は世界が良くなっていることを突きつけられると最後にはここに逃げ込む．「ここまでうまくいったのは運が良かっただけではないのか」
• ここ半世紀，現代の黙示録の候補は人口爆発，資源の不足，汚染，核戦争だった．最近これに，我々を飲み込むナノボット，我々を奴隷にするロボット，人工知能，致死ウィルスやネット乗っ取りを企むテロリストが加わっている．
• この最近の危機を警告する人々はしばしば科学者や技術者で，世界を終焉させる方法があると主張する．（いくつかの具体的な例が引かれている）
• このような実存的な脅威についてどう考えればいいのだろうか．この危機がないと保証することはできないが，ここではどう扱えばいいかを論じていこう．これは第10章で温暖化を扱ったときと同じだ，問題は解決可能なのだ．

• 実存的脅威については考えれば考えるほどいいようにも思える．しかし警戒しすぎることにはデメリットもある．
• 1つは破局のフォルスアラーム自体が破局を引き起こす可能性があることだ．1960年代の核軍拡競争はソ連とのミサイルギャップという神話により引き起こされた．2003年のイラン侵攻はサダム・フセインが大量破壊兵器をアメリカに使おうとしているという恐れから生じた．
• もう1つの問題は破局への準備についての人類の持つリソースは限られているということだ．すべての問題に対処することはできない．温暖化や核戦争の脅威は間違いなくあるので多大なリソースをつぎ込むべきだろう．生起確率が極小のエキゾティックなナシナリオにリソースを費消するのは合理的ではない．ヒトは確率を扱うのが下手だ．2つのシナリオを思い起こすのが同じように容易なら確率も同じだと感じてしまう．
• そしてこれは最大のリスクにつながる．それはこのような暗い事実は人類の終焉が不可避であることを示していると信じてしまい，どのみち人類が滅亡するなら潜在的リスクについて手当てするのはばからしいと思ってしまうことだ．どうせ世界は滅びるのだから今を楽しもうという態度につながるのだ．テクノロジーの破局シナリオを喧伝するライターたちはこのような心理的なリスクを無視している．

• もちろんリスクがリアルなら，それについての人々の感情を気にする必要はない，しかしリスクアセスメントはほとんど生じないような破局リスクを扱おうとすると崩壊してしまう．歴史を繰り返し実験することは不可能なので，確率が0.01か0.001か0.0001かは最終的には評価者の主観に依存してしまう．これは過去のデータを冪乗分布確率分布曲線にあてはめてプロットするような数理的な手法においても避けられない．分布の端のデータは少なく外れ値を持ちがちなので，数理的にこの問題を解決することは難しい．結局「最悪の事態は生じうる」ということしかわからないのだ．
• そして主観的な判断は利用可能バイアスとネガティヴィティバイアスを持ち，さらに悲観主義マーケティング（悲観的なことをいう方が賢く見える）の影響を受ける．ヘブライの預言者以来世界の破滅を予言するものは後を絶たない．最近の流行は「技術への過信の傲慢さが世界を破滅させる」というものだ．
• 科学者や技術者も同じ罠にはまる．Y2Kバグ騒ぎを覚えているだろうか．世間は2000年の1月1日に銀行口座記録が抹消され，エレベータが止まり，飛行機が墜落し，原発がメルトダウンするかもしれないと騒いだ．そして技術的知識のある権威者もその尻馬に乗った．キリスト教のミレニアリズム信奉者も騒ぎ立てた．対策費は世界全体で1兆ドルを超えたとみられる．
• かつてのアセンブリー言語プラグラマーとして私はこのシナリオには懐疑的だった．実際に2000年の1月1日には何も起こらなかった．リプログラマーたちはまるで象よけ売りのセールスマンのように自分たちの手柄だという顔をした．しかし結局問題があったプログラムはごくわずかしなかったことが後にわかってきた．確かに潜在的な破局の警告がすべてフォルスアラームであるわけではない．しかしY2K騒ぎは我々がいかにテクノロジーの破局シナリオ幻想に弱いかを思い出させてくれる．

　
この部分は第4章のおさらいのような形になっている．破局シナリオはヒトの認知バイアスや悲観主義の方が賢く見えるというバイアスによって実際より重大に取り上げられやすい．だから巷で騒がれるあらゆる破局シナリオに徹底的に対応するのは馬鹿げているということだ．
Y2K騒ぎはもう20年近く前の話だが，確かに政府肝いりで対応が強力に求められ，実務的には大騒ぎだった．事前にはあれだけ騒いだのに，事後に，どのようなプログラムバグがどれだけあって，対策の効果がどうだったかについては全く総括がなかった（あるいは私が知らないだけかもしれないが，少なくとも大きく報道周知はなされなかった）のは印象的だった．いかに「騒ぎすぎでは」と思っても本当に致命的なバグがないとは誰にも断言できないのだから，一旦ああなったら止めようがないなあというのが当時の偽らざる印象だ．