「信頼と裏切りの社会」

信頼と裏切りの社会

信頼と裏切りの社会


本書は暗号学,セキュリティの専門家ブルース・シュナイアーによる,セキュリティを「社会の中の信頼と裏切り」という広い視点からとらえて議論している本である.原題は「Liars & Outliers: Enabling the Trust That Society Needs to Thrive」.前半で進化生物学を含んだ最近の関連科学の知見を取り入れてセキュリティを取り巻く大きな構図を示し,さらに後半で現実の世界,技術進歩の中で何が生じるかという興味深い部分を取り扱うという構成になっている.


第1章では様々な概念整理を行い大きな見取り図を提示する.
現代社会は信頼がないと成り立たないことをまず強調し,信頼には他人の「動機に対する信頼」と「行動に対する信頼」があるとする.ここは山岸俊男の信頼と安心にちょっと似ていておもしろい.また現代社会では後者の信頼が「システムへの信頼」という形で大きく展開し,時に失敗し,そしてこれは進化環境と現代環境のミスマッチの問題ととらえることができるというコメントもある.シュナイアーの視点の広さがわかるところだ.
シュナイアーの枠組みでは,社会的ジレンマは「集団利益」と「競合利益」の間で生じる.競合利益には利己だけでなく競合集団や競合道徳なども含まれる.ここは通常の協力の進化議論より広くてちょっとおもしろいところだ.「集団利益」に勝たせるために「社会的圧力」が使われる.社会的圧力には道徳,評判,制度,セキュリティがある.ここにセキュリティが入ってくるのが本書の独特なところということになる.この社会的圧力と競合利益側の圧力が,社会的ジレンマに加わって,その中でリスクトレードオフなどを考慮した結果,協力するか裏切るかの最終的な判断が生じることになる.


第2章はセキュリティの自然史と称され,セキュリティの歴史が振り返られる.シュナイアーは「生物の捕食防御,寄生防御」がセキュリティの起源だとし,「捕食者と被捕食者の赤の女王的進化のアームレース」「ヒトの脳と知性の増大」を解説し,さらに「ヒト社会の中の殺人とその防御」に進み,これも同じく赤の女王的アームレースだとしている.私のような読者から見ると,他種間のアームレースと同種個体間のアームレースでは進化的にずいぶん意味が異なるし,社会の中の協力という時には後者の意味で用いるのが普通だから,ここを峻別しないのはややスロッピーに見える.とはいえセキュリティ専門家から見るとこういうことなのだろう.


第3章は「協力の進化」
ここではいきなりE. O. ウィルソンが引用され,後にはノヴァクも登場して,シュナイアーがこの二人に影響を受けているというちょっと微妙な状況が明らかになる.そして懸念したとおり,主流の進化生物学的な理解からはかなり離れた聞きかじり理論の寄せ集めのような解説が続く.まず寄生体にとってホストを搾取し尽くすのは必ずしも進化的に最も有利になるわけではないという話と,タカハトゲームでタカが常にESSになるわけではないという話を混同して説明する*1.そこから協力の進化について血縁淘汰の話とノヴァク流の4つの方法の話*2が出てくる.そもそも協力の進化と利他性の進化がきちんと区別されてない*3上に,さらにタカハトゲームやハンディキャップ理論が利他性進化の説明原理であるかのような記述もなされていてかなりグダグダな感じだ*4
シュナイアーにとっては協力が進化しうるということだけがその後のテーマにとって重要なので(どのような条件で裏切りを抑えられるかは独自のフレームで別途考察される),ここではちょっとスロッピーになって単に聞きかじりの知識をひけらかしてみただけということかもしれない.しかしそのひどいズレ方はそのほかの記述の信憑性すら疑わせるような出来と評さざるを得ず残念だ.*5


第4章は信頼の社会史と題され,ヒト社会で裏切りをどのように抑えてきたかの歴史が語られる.
まず社会規模が小さいときには道徳と評判で十分だった.しかし規模が大きくなるとこの二つはスケーリングできないためにうまく働かなくなる(進化環境と現代環境のミスマッチ的な説明も付されている).そこで政府,法などの制度が導入される.さらに技術の発達は様々なセキュリティシステムを可能にする.この二つはスケーリング可能で大規模社会でもワーク可能になる.スケーリングという視点はいかにもセキュリティ専門家のもので興味深い.


第5章は社会的ジレンマと題されていて,協力と裏切りが特に問題になる状況として「囚人のジレンマ状況」が説明される.よくある解説をそのまま持ってくるのではなく,自分でかみ砕いてシュナイアーなりの説明になっており,そこは評価できるが,一部わかりにくいところもある*6 *7


第6章はどのように社会的圧力で社会的ジレンマから脱出できるかを解説する.まずミクロ的に社会的ジレンマのように見えても,より大きなフレームでとらえると実はペイオフは異なってきてジレンマではなくなるという状況がある*8ことを解説している.そして社会的圧力はそのような大きなフレームでペイオフを変える仕組みとして統一的に理解できる.シュナイアーはさらにそれぞれの圧力がどのような社会的規模でよく効くかを整理している.


第7章から第10章までは4つの社会的圧力の各論になる.
まず「道徳」は誰も見ていないときに働く社会的圧力*9であり,表面上のペイオフと矛盾するような行動を仕向けるという点でユニークな存在だ.シュナイアーはあまり進化的な考察に入らず,至近的なメカニズムとしてハイトのフレームを使って説明している.うまく道徳心を刺激するのは低コストで大変いいやり方だが,社会規模が大きいと効果は低くなる.
「評判」についてはベーシックな説明の後,商業における有効性を解説している.評判の弱点は操作されるということだという指摘はセキュリティ専門家ならではで,なかなかおもしろい.そして評判は個人から所属集団に拡大させることでスケーリングできる.なおシュナイアーは評判をスケーリングさせる別の方法として「コミットメント」をあげているが,これには違和感がある.コミットメントは自ら選択肢を狭めてゲームのペイオフ構造を直接変更することによりジレンマから脱出するものだと理解すべきだろう.そしてそのようなコミットメントを相手に信頼させる手段として評判を利用できると考えるべきではないだろうか.
「制度」についてはホッブス,ロックからの説明になっている.ここでおもしろいのは制度が機能するには,裏切りへの罰があることが非常に重要だというところだ.そして罰が小さいと逆効果になること,金銭的なペナルティは道徳心を抑えてしまうために逆効果になることがあること,制度設計は難しく意図通りの結果が得られないことがしばしばあることなどが解説されている.
「セキュリティ」は裏切りのコストを直接的に上げてペイオフを変えるものとして理解できる.スケーリングは容易で,他の3つの圧力を強化する形で用いることができる.しかし攻撃側も技術で裏をかくことが可能だし,そもそも攻撃側は弱点を一つだけ見つければいいのに対して防御側はすべての穴をふさがなければならないという不利さを持つ,さらに技術の進歩はすべてを根本から変えてしまうことがあること,基本的に収穫低減するのでコストとメリットのトレードオフに注意すべきことなどが解説されている.


第11章から第14章まではこのような社会的圧力を実装する際の現実の問題が扱われる.テーマは「細部こそが重要だ」というものになる.特に競合利益の詳細は重要だ.裏切りの誘因といってもいいだろう.ヒトは単に利己的動機からのみ裏切るわけではない.様々な競合利益がある.典型的には利益相反状況,エージェント問題となる.またここでシュナイアーが提起する問題でおもしろいのは制度機関だ.これはセキュリティなどの社会的圧力の詳細を決めること委任される組織のことを指しており,制度機関を巡るエージェント問題は特有の詳細を持つ.ここではいくつかおもしろかった細部を紹介しておこう.

  • 社会と自己の利益が一致しても自己の属する犯罪集団とは一致しないことがある.ボルチモアの地下犯罪組織は「密告はやめよう」キャンペーンを張り,犯罪行為を通報しないように脅すためのDVDまである.
  • 組織が問題になるときにはその振る舞いは個人とは異なる.心理はないが文化がある.道徳は効きにくい.その代わりミッションステートメントがあることがある.
  • 集団内の裏切りは,地位が高くなるほど容易になり,かかっているものが大きくなり,重大になる.
  • 組織が大きいほど道徳の効力は低下する傾向がある.
  • スキャンダルから組織を守る方法として最近よく言われているのは「完全情報公開,自認,謝罪」だ.このため多くの政治家はスキャンダルが明るみにでると「涙ながらに公開告白を行い,辞任し,治療センターに通って見せ,しばらくして復帰する」という戦略を採る.
  • よく見られる組織力学は,企業はある種の反社会的行為(あるいは長期的に不利益になる行為)を禁止するが,インセンティブ構造に反映されないために従業員が無視するというものだ.その最も極端な例はリーマン以前のウォールストリートでよく聞かれた「(この悪事が明るみにでる頃には)俺もいなくなっているし,お前もいなくなっている(すでに退職しているという意味)」というものだ.
  • オープンマーケットの有効性は商人間で(カルテルについての)裏切りをさせるところにある.企業規模が巨大になり寡占的になると協力が生じやすくなる.
  • 企業は評判を気にするが,それを管理することに努力を傾ける.制度に対しても優秀な弁護士を使ってくぐり抜けようとしたり,法そのものを有利に改変しようとしたり,企業倒産の社会的な影響を人質にとって処罰をのがれようとする.つまり対企業では,評判,制度ともスケーリングがうまく効かずに社会的圧力として失敗しやすくなる.
  • そのほか大企業は,複雑な契約プランやセット販売,ある事業の赤字を別の事業の黒字で補填すること,などによりオープンマーケットの有効性を低下させられる.
  • 別の企業の問題としてはペイオフが企業総価値を上回ると,社会的圧力の効果がなくなることがある.例としては化学プラントのテロ対策などがある.セキュリティコストが企業総価値を上回るのなら企業としてはセキュリティに投資しないことが合理的になる.
  • セキュリティの詳細決定を委任される機関は,独自の動機を持つ.「脅威を誇張して強すぎるセキュリティを導入して予算を無駄遣いする」というのは圧倒的にありがちなシナリオだ.空港の全身スキャナーに反対する訴訟で被告たる国土安全保障省は「自分たちにはすでにあらゆる乗客を全裸にして検査する権限がある」と主張した.さらにそれが民間に委託されると別の動機が潜り込む.
  • 制度機関に社会的圧力を導入するのは難しい.最も有効なのは別の制度機関に監視させることだ.


第15章では社会的圧力の失敗を扱っている.シュナイアーはいくつかの一般的な失敗要因をあげている.

  • 圧力の導入,効果の測定,その改変というサイクルに時間がかかるうえ,測定自体も難しく,うまくフィードバックしにくい.
  • ジレンマ状況を把握し損ねる.アクター,インセンティブ,リスクなど.:ゴミ収集のバケツごとに収集料金を課すと人々はゴミを減らすよりバケツに詰め込むようになる.人々のリスク感度は目立つものを過大評価するなどの歪みを持つ.
  • 制度設計が難しい.逆に裏切りを促進するインセンティブを作ってしまうことや,協力するコストを上げてしまうこともある.:バグを見つけて除いたらボーナスを出すという制度にすると,故意にバグを仕込むようになる.警察に移民法違反の強制執行をさせると,違法移民は犯罪捜査に関しても警察に協力しにくくなる.
  • 別の社会的ジレンマとの相互作用を無視してしまう.あるいは気づかない.
  • 道徳規範の経年変化を無視する.


第16章は技術進歩が社会的圧力に与える影響について.
まず社会の規模が大きくなってスケーリングが崩れる問題がある.そしてある種の技術進歩はセキュリティの不均衡を生じさせる.一旦不均衡が生じると,防御側はすべての弱点をカバーしなければならないためしばらく圧倒的に不利になりやすい.これは現在ITの世界でよく見られる問題だ.シュナイアーは近年の情報技術の進展で生じている問題をまとめている.

  • 同じOSを使うなど,一つの弱点が広範囲に使われていることがある.これは攻撃を反復させて改善することも可能にする.
  • 攻撃を自動化できる.遠隔地からの攻撃も可能.
  • 攻撃者同士がネットワークを作れる
  • オープンソースは新しい詳細を生み出している.制度がほとんど効かず評判のみが効く新しいアクターともいえる.
  • 様々な目標についての短期的最適化の手段を増やしたために企業行動を大きく変えている.
  • 情報公開とプライバシーのトレードオフを変えている

この後シュナイアーは制度設計において注意すべきことをまとめている.基本的にはとれる手段を多面的に検討し,スケーリングに注意し,権限集中を避け,透明性を高める方向を勧めている.


第17章は最後の警句的な章だ.シュナイアーはセキュリティでは実現できないことがあること,世の中にはよい裏切りもあるが,悪い裏切りとの区別は困難であること,セキュリティは現状肯定に結びつきやすいことをここで強調している.


というわけで本書はセキュリティの専門家のシュナイアーが,よりセキュリティの本質を考察し,実際にセキュリティにより実効性を持たせるには,そもそもの協力と裏切りのダイナミクスの理解とそれ以外の協力保持の仕組みとの相互作用が重要になってくるという洞察に達し.それに基づいて社会の中の協力の維持という大きなフレームの中で捉えた意欲的な本ということになる.着眼はいいし,セキュリティと評判や制度の相互作用についてはなかなか考えさせるところもある.とはいえ,協力の進化を生半可な理解でスロッピーに解説している部分は残念といわざるを得ない.また実際に読んでいて一番おもしろいのは制度機関や技術進展の詳細にかかるところだったりする.結局セキュリティは裏切りを困難にする仕組みだから,やはり詳細こそ興味深いということになるのだろう.本書は,セキュリティについての包括的な解説書としてその本質的なおもしろさはきちんと押さえた上で,さらに志高い取り組みにも挑戦し,(本筋から遠い部分に一部リサーチ不足もあるが)部分的に成功している本と評すべきなのだろう.



関連書籍


原書

Liars and Outliers: Enabling the Trust that Society Needs to Thrive

Liars and Outliers: Enabling the Trust that Society Needs to Thrive


その他のシュナイアーの本

暗号の秘密とウソ

暗号の秘密とウソ

暗号技術大全

暗号技術大全

セキュリティはなぜやぶられたのか

セキュリティはなぜやぶられたのか


 

*1:前者は寄生体にとっての最適戦略の話,後者は同種個体間の最適戦略の話であり,どちらも狭義の協力の進化の話ではない.前者の寄生体の戦略で同一ホスト内にいる寄生体同士の協力が問題になる際に初めて包括適応度的な協力が問題になる

*2:そもそもこの整理自体主流の理解ではないが,さらにこの解説もかなりスロッピーになされている.特にネットワーク構造に基づく利他性進化の解説は私には理解不能だ,これは集団構造があれば,より戦略が同じ個体と相互作用しやすいというメカニズムが'問題になっているはずだ.

*3:自らも得になるような双利的な状況で協力が進化するのは当然だ.自らがコストを払うような場面でも協力するのは進化条件が難しく利他性の進化として考察される

*4:タカハトゲームの議論は攻撃的でない方が(怪我のリスクを考えると)純粋に利己的に見て有利になり得るという話であって,利他性の進化の話ではない.またハンディキャップ理論は信号の信頼性の話で利他性進化の理論ではない.

*5:なお翻訳者は,通常の進化生物学用語を専門書と異なる単語で訳出しており(例えば通常は「利他性」とされる訳語に「愛他性」という語を当てている),どこまで意図的かはよくわからないが,結果的にシュナイアーの生半可ぶりを醸し出すのに成功している.

*6:タカハトゲームとの関係,ジレンマとノンゼロサム性あたりの説明は危なっかしい.ゲーム理論との関係を説明するならまずゼロサムとノンゼロサムの違いを整理して,次にノンゼロサムの中でペイオフによって様々な解になることを解説すべきだっただろう

*7:なお典型例として百日咳ワクチンのケース(接種が協力,副作用をおそれて周りの接種を期待してただ乗りしようとする非接種が裏切り)が取り上げられているが,ワクチンのケースは全部ペイオフがわかっていて社会的ジレンマになっているというよりも,ワクチンの副作用のリスクが誤解されていて,そのために社会的に望ましい状況にならないという部分が大きいし,そもそもペイオフは「周りが接種しないときには自分だけでも接種した方が得」という状況なのだから囚人ジレンマ状況ではないと思われる.

*8:例えば囚人のジレンマでいうと犯罪組織から復讐されるリスク,チクリ屋と評判がたって犯罪グループから相手にされなくなるリスクなどを考慮するとジレンマではなくなってくる

*9:この意味で道徳を含めたジレンマ脱出フレームを「社会的圧力」とまとめて呼ぶのはやや違和感があるところだ.