ピンカーのハーバード講義「合理性」 その12

ピンカーの合理性講義.第23回は効果的利他主義,第24回はこのコース全体の締めくくりの最終講義で,合理性で人生や世界をよくすることはできるのかというテーマが扱われている.
 
harvard.hosted.panopto.com
 

第23回 効果的利他主義

ピンカーの合理性講義..第23回は「効果的利他主義」.ゲストレクチャラーはウィル・マカスキル.
ピンカーから今回のテーマについてモラルを進めるという実践においてどのように合理性を用いるかということだと説明がある.レクチャラーについては功利主義道徳哲学者のピーター・シンガーに大きく影響を受け,「効果的利他主義」の提唱者の1人であり,その実践である80000hoursのコファウンダーであるとも紹介される.講義前の音楽はレオナード・コーエンの「The Future」
 

マカスキルの講義 「我々は未来に何を託すのか」
  • 今日は私たちは時間や資源を未来のためにどう使うべきかという話をしたい.そして私は「超長期主義(Longertermism)」に立ち,その擁護を行いたい.超長期主義とは「最も良いことをしたいならそれは非常に長期的な将来の社会にとって最も良いことをすべきだ」という考え方だ.順番に議論していく.

 

  • (1)将来の人々のことは勘定に入れるべきだ:良いことや悪いことの評価は,その結果が他の人にとっていつ生じるかとは独立になされるべきだ.いつのことかは良いか悪いかにとって本質的な問題ではないはずだ.
  • (2)将来には(過去に比べても,現在と比べても)ものすごく多くの人がいるだろう:(グラフを示しながら)ヒトの歴史を20年前としてみるとここ数百年で大きく増加している.そしてヒト種の将来を考えると何千年か,何百万年か,何十億年か,どれをとっても過去とも現在とも桁外れの人が存在することが期待できる.つまり人々の幸福を考えるなら将来が圧倒的に重要なのだ.
  • (3)将来の人々は(現時点の行動や判断に)関与できない.彼等には選択権も意思表明権も与えられていない.そしてモラルサークルは家族や村→国家→世界と広がってきたが,さらに→すべての世代の人々に広げていくべきだ,
  • (4)そして私たちは今非常に長期的な将来に影響を与える方法を持っている.たとえわずかな力でも遠い将来には途方もない大きな影響になる(大きな船に対してごく小さな力を与えてもヨーロッパから出航した船の到着地を北アメリカから南アメリカに変えることができる)

 

  • 将来への大きな影響について,特に回復不可能な影響を中心にいくつか考えてみよう.

 

  • (1)気候変動:温暖化ガスの影響は排出後長期的に影響が残る.そしてそれにより回復不可能な影響が生じる.例えば種の絶滅,珊瑚礁の消滅,氷床の消滅と海面上昇,経済成長率への影響(温暖化が生じてしまったあとの下押し影響)

 

  • (2)文明の崩壊:私たちの現在の行動によって文明が崩壊する可能性が上下する.その1つは戦争だ.核兵器の開発により人類の持つ破壊力は格段に上がった.大国同士の戦争は文明の崩壊を招きうる.キューバ危機は乗り越えられたが,ケネディは核戦争になる確率を1/3程度覚悟していたという.もう1つは(今まさに関心が深まっている)パンデミックだ.過去のパンデミックに人口の数割を死に至らしめたものは存在する.進化的には病原体の進化はホストを殺すような方向には向きにくいとされているが,人工的に開発されたならその限りではないかもしれない.そして今生命技術はものすごい速度で進展している.
  • 一旦文明の崩壊が生じたら,人々は前文明的な生活を余儀なくされ,壊滅的に人口が減るだろう.それはローマ帝国崩壊後の人口推移を見ると想像できる.

 

  • (3)価値観の変更:価値観の変化は将来に大きな影響をもたらしうる.モラル基準は変化してきていることが知られているが,時に価値観は非常に長く影響が残る.たとえば今でもベストセラー1位の本は聖書だ.また影響は多方面にわたることがある.数百年以上前の鋤の利用の有無が現在の女性の分業の少なさと相関している例,アフリカで奴隷狩りが多かった地域が現在でも社会的信頼が低く1人あたりのGDPが低い例,インドで忠誠に交易が盛んだった都市は現在でもヒンドゥー・イスラム間のコンフリクトが少ない例などがある.
  • 私が(個人的に考える)将来にとって重要と思われる価値には,コスモポリタニズム,ヒトの厚生以外への関心,功利主義,リベラリズム,そして超長期主義がある.

 

  • では私たちはどうすべきか.それを考えているのが 80000hours プロジェクトだ.この名前は人生で何かに費やせる時間から付けた.今進めているのは,グローバルの中での優先順位付け,パンデミックへの準備(これは現在追い風になっている),AIのセイフティと政策利用,運動のモメンタム作りだ.興味がある方はサイトを訪問して欲しい.

 

ピンカーとの質疑応答

 

  • ピンカー:この効果的利他主義の運動は効果的慈善の考え方にインスパイアされて始まったもので,基本的にモラルサークルを将来世代の人々まで広げようという運動だと捉まえている.ここで将来世代まで広げることの1つの議論のポイントは,彼等はまだ実在せず,いわば仮想的な存在に過ぎないということだ.そしてこのような仮想的存在まで考えるということになると,私たちは可能な限り子を作るべきだということにならないのか,中絶論争でプロライフに立つことになるのではないか.
  • マカスキル:基本的にいつの問題かを区別する立場は擁護できないと思っている.

 

  • ピンカー:私が提起している問題は,「いつ」ということではなく「もし」の問題だというものだ.私は中流以上の収入がある大学教授だ,子どもを何人か作っても皆それなりに幸せな人生を歩めるだろう.私は子どもを作るべきだったのか(ピンカーには子どもがいない)
  • マカスキル:もしという問題でも,選択の結果どちらの世界がより良いかという比較はできる.皆幸せな人生が期待できるなら子どもが生まれた世界の方が良かったという主張は可能だ.しかしそうすべきかどうかは別の問題だ.それには皆がそうしたときに文明が維持可能かという問題をしっかり考える必要があるからだ.

 

  • ピンカー:次に超長期主義についての質問がある.将来の予測は先に行くほど指数関数的に難しくなる.それは可能性分岐がそれぞれに増えていくからだ.テトロックもスーパー予測者でも5年以上の予測は難しいといっている.特に人類存在のリスクは予測が困難だ.これまでも様々な予測が大外れだった.70年代には人口爆発と原油枯渇と世界的飢饉が懸念されていた.60年代には自殺の増加が,911直後にはテロリズムが懸念されていた.テクノロジーの予測はとりわけ外れやすい.また議論していた気候変動や核戦争はある意味それほど遠い将来の話ではないともいえる.このあたりはどうか
  • マカスキル:まず最初にテトロックはすべての予測が5年以上無理だといっているわけではないことは指摘しておきたい.5年を越える有効な予測ができる分野もあるのだ.
  • ご質問は「超長期の予測は難しく,それに意味はあるか」ということになると思う.しかし予測の難しさは問題による.「1億年後太陽はまだ地球を飲み込んではいない」という予測は信頼できる.片方でとても困難な予測もある.大国間の戦争が生じるかどうかは誰にもわからない.だからある程度容易に行える予測がある分野に焦点を絞るべきだ.希少種の絶滅が心配され,それにより人類がどのような影響を受けるかなど.
  • 60年代からの様々な予測が大外れだったという指摘があったが,これに対する正しい反応は,もっとリサーチをすべきだということだと思う.要約すると,超長期予測ができるものもあり,予測には注力していくべきだということになる.

 

  • ピンカー:基本的に効果的利他主義は合理的選択理論として期待効用を用いるのだと思う.ここで,確率が非常に小さいが,影響が巨大な問題をどう扱うかという問題がある.例えばサンクトペテルブルクパラドクスを考えると,指数関数的に確率が下がり,ベネフィットが指数関数的に上昇するような現象は期待効用で捌くのが難しいことを示している.具体的な問題でいうと「ペーパークリップを効率的に作るためのAIが我々を邪魔者と認識して人類を滅ぼすのではないか」というようなリスクにまともに対処するのかという問題になる.
  • マカスキル:これは難しい問題.誰も満足のいく答えを見つけていない.私の立場は,シートベルトをする,選挙に行くという程度の100万分の1クラスの問題には対応し,ペーパークリップAIのような1兆×1兆×1兆分の1のような問題は無視するというものだ.

 

  • ピンカー:効果的利他主義は効果的慈善運動にインスパイアされた.効果的慈善の考え方にとってヒトの心理にあるアカウント効果はどう考えるべきものになるか.私はいろいろな慈善とは別にテディベアコップス(https://www.teddybearcop.com)にも寄付している.これは私の中では慈善とは別のアカウントにあるものだ.
  • マカスキル:効果的慈善の考え方では,まず寄付の総額を決め,そこから効果的な募金に配分していくというものになる.効果的利他的寄付のファンドとは別にテディベア寄付のような少し楽しい寄付のファンドがあってもいいということかもしれない.

 

  • ピンカー:動物の権利との関係では効果的利他主義はどう考えるのか.農場の家畜の厚生を考えるなら我々は皆ベジタリアンになるべきか.あるいはロビイイングに注力すべきか.
  • マカスキル:ベジタリアンになるより,企業向けロビイングに寄付する方がはるかに効果的だ.もちろん両方やってもいいが.

 

  • ピンカー:(途上国の労働者の構成を考える)フェアトレード商品の購入やボイコット運動は効率的でないと主張されているが,説明して欲しい.
  • マカスキル:フェアトレード商品をより購入しても,実は現地労働者のためにはあまりならないというリサーチ結果がある.サラリーはこれによりほとんど影響を受けない.ボイコットについてはそれを買うのをやめるとして代替品に何を買うかという問題がある.多くの場合代替品を購入すると問題は解決されない.

 
 

第24回 「合理的人生,合理的世界」

ピンカーの合理性講義も最終回.これまでの講義で合理性を説明してきたが,では合理性を用いて個人の人生や世界はよくなるのかということがテーマ.また後半では前回に引き続き効果的利他主義運動を行っている2人のゲストが招かれて短いプレゼンをしている.講義前の音楽はビートルズの「Getting better」.

  • 本日は最終回.ここまで講義してきた合理性を用いて人生や世界をよくすることができるのかを取り上げよう.

 

合理性と人生
  • まず逸話的な事例を挙げよう.世の中には非合理性による人生の不幸の事例があふれている.
  • ギャンブラー誤謬(vs期待効用理論):サイコロの次の眼を予測できるという幻想は(期待値がマイナスの)賭博に入り浸ることにつながるだろう.それは長期的なロスにつながる.
  • 自信過剰:新規開店のレストランの半数は3年以内に閉店する
  • ベースレート無視:稀な病気の診断が陽性になった時に,この非合理性は不要な手術につながりやすい.
  • 利用可能性バイアス:911事件のあと自動車で長距離移動する人が増えた.これにより1500人以上が余計に死亡したと推測されている.
  • 条件付き確率の誤謬:これはしばしば冤罪につながっている.(例:同じ家庭で続け様にSIDSで子どもが死ぬ確率は70百万分の1だという検察官の追求で有罪になったケースの説明)
  • 相関と因果の混同:いかさま薬剤に引っかかる.
  • 臨床的判断(エキスパートの直観的判断)と保険数理的判断(統計分析を用いた判断):多くの人がインデックスファンドに平均的に劣るアクティブ株式ファンドを購入する.
  • サンクコスト誤謬:つまらない映画を途中退場できずに時間を無駄にしてしまう.
  • 双曲割引:退職後の貯蓄不足を招く.

 

  • これらはいずれもアネクドータルなものだ.では非合理性が悪い人生に結びつく実証的な証拠はあるのだろうか.
  • それを示す格好のスタディがある.ブルインドブルアン,パーカー,フィショフによる2007年のものだ.
  • 彼等は700人に対してアンケート調査を行い,意思決定コンピテンスインデックス,意思決定スタイル,意思決定の結果,そしてそれらの相関を調べた.順番に説明しよう.

 

  • (1)意思決定コンピテンスインデックス(どのぐらいバイアスに弱いか)
  • アンケートを用いてフレーミング(アジア疫病問題を生物種の絶滅に置き換えて質問),自信過剰(様々な問題の解答と自分回答の主観的正答確率を答えさせて,その符合を見る),意思決定ルールの使用傾向,リスク認識の一貫性(数多くの質問の中に「自分がここから1年間で自動車事故を起こす確率は」「自分がここから1年で事故を起こさない確率は」というのを混ぜておき,その一貫性を見る),サンクコスト耐性(食後のデザートを注文し,一口喰ってからやはり健康に悪いと思ったら,食べるのをやめるか)を測定した.

 

  • (2)意思決定スタイル(意思決定がどこまで合理的か)
  • アンケートで「自分は物事をどこまで合理的に決めようとするか」,後悔「人生で機会を逃してしまったと何度も振り返るようなことがあるか」,満足か最適化か「今観ている番組を楽しんでいてもチャンネルサーフをするか」,建設的思考「間違いに気づいたら,すぐに修正に入るか」,合理的意思決定の評価「意思決定をいつもロジカルにシステマティックに行っているか」などを尋ね,どこまで合理的かを評価する.

 

  • (3)意思決定の結果(バイアスによりどれだけ人生をだめにしたか)
  • アンケートで「休校処分を受けたことがあるか」「職について1週間以内にやめたことはあるか」「離婚したことがあるか」「性病と診断されたことがあるか」「望まない妊娠をしたことがあるか」「飲酒して吐いたことがあるか」「飲酒運転で捕まったことがあるか」などを尋ねる.

 

  • <結果>
  • 意思決定コンピテンスインデックスの7つの項目はすべて互いに相関していた.これはこのインデックスに実態があることを示唆している.これは誤謬を避ける能力であり,IQと相関する.
  • このインデックスは意思決定スタイルとも相関していた.
  • そしてこのインデックスは意思決定の結果とも相関していた.誤謬を避ける能力は人生をだめにする出来事の少なさと相関するのだ.
  • もちろん相関は因果とは限らない.
  • しかし,この相関はIQをコントロールしても,社会経済状況をコントロールしても,意思決定スタイルをコントロールしても残った.(部分相関係数はそれぞれ0.26,0.20,0.14)
  • 結論はyesだ.合理性を用いてバイアスとエラーを避けることはより良い人生と相関し,おそらく因果もあるのだ.

 

合理性と世界
  • では世界はどうなのか.
  • 歴史的な進歩は実証的な事実だ.寿命,健康,経済,安全などの指標を組み合わせたウェルビーイング指標が2種類提案されているが,どちらも歴史的に右肩上がりになっている.
  • ではこの進歩は「a “thing”」なのか? (訳し方は難しいが,人の努力とは関係なくそこに存在するのかということで,「進歩は(黙っていても享受できる)不可避の法則なのか?」ぐらいの意味だと思われる)
  • そうではない!
  • 自然法則は人類のウェルビーイングには無関心だ.そして時には敵対的だ.熱力学の第二法則は放っておくとすべてが壊れることを意味しているし,進化は病原体や捕食者にも生じる.そしてヒトの進化自体,個人個人の幸福のためではなく繁殖成功を上げるように進むのだ.

 

  • そうではなく,ヒトの歴史的な進歩は合理性を用いてきた成果だと考えるべきだ.すべての進歩は良いアイデアにより押し進められてきたのだ.その例を見てみよう.

(ここから「21世紀の啓蒙」で描かれた人類の進歩のグラフが次々に示され,解説される)
 

 

  • 平均寿命は18世紀には30歳台だったが,現在は70歳台(先進国では80歳ぐらい)に伸びている.この背景には公衆衛生(上水道,下水道,ワクチン,手洗いなど),医療(抗生物質,防腐剤,輸血,麻酔など)のアイデアがある.
  • 飢饉も減った.この背景のアイデアは,農学(輪作,鋤,種まき機など),合成肥料,機械化(トラクター,ハーベスターなど),輸送貯蔵技術,そして緑の革命だ.
  • 貧困も減った.背景のアイデアはテクノロジー(産業革命,大量生産,輸送技術),制度(銀行,保険,貿易),政府(契約強制,暴力と詐欺の取り締まり,中央銀行,インフラ,リサーチ),そして普通教育だ.
  • 戦争による死者も減少した.背景のアイデアは,カントの永遠の平和について,民主制,交易,国際機関,戦争の違法化と国境の固定化などだ.
  • 殺人も減った.背景のアイデアは政府(アナーキーからの移行),警察,紛争解決システム(抑止戦略としての復讐や名誉の防衛を不要にし法律を整備する)などだ.
  • 汚染も減った(温暖化ガスは例外になる).背景のアイデアは規制,環境保護,そしてテクノロジーだ.
  • 奴隷制の廃止は進んだ.背景のアイデアは視点の交換,モラルサークルの拡大だ.
  • 差別も減少している.(トーマス・ジェファーソン,キング牧師の有名な言葉が紹介される)

 

  • では合理性が世界を進歩させたと実証はできるのか
  • ある程度は
  • 交差時間差相関分析を用いて,教育の上昇が,時間差を持って各種の進歩に相関しているかが調べられている.
  • それによるとGDP,健康,長寿,平和,民主制,リベラリズムはすべて時間差を持って上昇している.

 

で,どうすべきか
  • で,あなたはどうすべきか.ここで効果的利他主義運動を推進している2人(エリック・ガストフレンドとジュリア・ワイズ)から話を聞こう.

 

エリック・ガストフレンドからのプレゼン

 

  • 効果的に世界にとって良いことをするにはどうすれば良いか.
  • 効果的利他主義の立場からは,自分のリソースから見てなにが世界にとって最適かを考えることになる.様々な良いことを比較して最もコスト効率が良いものを選ぶことになる.
  • 我々はあなたが持つすべてのリソースを今すぐすべて利他主義行動につぎ込むべきだという立場はとらない(これについては後にジュリア・ワイズから説明がある)

 

  • 最適化はどのように行うべきか.
  • リサーチによると,効率的に寄付を行いたいと考えている人は寄付を行う人の85%,さらにどの寄付先が効率的かを実際に調べる人は32%,そして最適パフォーマンスになるように実際に寄付する人は3%しかいない.
  • その結果,誰が資金を最も必要としているのかはしばしば見過ごされている(いろいろな疾病の死者数と飢饉の金額がアンバランスになっていることがグラフで示されている.心臓病やCOPDは死者が多いにもかかわらず基金は少なく,乳癌,ALSなどは死者に比べて桁違いに寄付が集まっている)

 

  • 効果的利他主義はいくつかの原則を持つ.
  • (1)合理性:感情ではなく,頭を使い,数量を見る.(リサーチによるとタンカーの油汚染から鳥を救うためにいくら払うかというアンケートでは,鳥の数が2000羽でも20万羽でもほとんど変わらない)
  • (2)コスモポリタニズム:人種,性別,性的指向,民族,国籍で扱いを変えない.すべての命は平等だと考える.
  • (3)反事実条件法による推論:プログラムなしではなにが起こるかとの差を考える.これは因果を見ようということだ.単一の例で判断しない,選択バイアスに陥らない,などに気をつけ,できるだけランダムサンプル(あるいは諸条件をコントロールした中)でのテストを行う.しばしばプログラムは予期しない副作用を持つのだ.(犯罪を減少させるために,少年達に監獄がどんなにひどいところかを教えるというプログラムは,実は犯罪を増加させることが明らかになっている)
  • (4)コスト効率:同じ金額で何人救えるかを考える.盲人への支援を考えると,4万ドルで1頭の盲導犬を訓練できる.しかし同じ金額で糸状虫症の治療を行うと400人救え,白内障やトラコーマの手術を行うと1000人救えるのだ.
  • (5)優先順位を付ける:基本的にスケールが大きく,無視されている問題,効果が期待できる問題にフォーカスする.典型的にはドラッグ,アルコール問題がある.

 

ジュリア・ワイズからのプレゼン

 

  • 子供の頃世界には飢えて死ぬ子どももいるときいて衝撃を受けてこの道に進んだ.
  • 効果的利他主義を実践するに当たって,今ある自分のリソースを今すぐすべて寄付するべきかというのは重要な問題.これに対しては長期的に最も効率的に行動できる方法は何か(今全部つぎ込んでも長続きしない)と考えることが大切だ.
  • そして実践することも大切だ.昔功利主義の学会に出たことがあるが,皆功利主義の歴史だとか抽象的な問題ばかり議論していて今なにをすべきかを議論する場ではなかった.しかし現実の中で今なにをすべきかが重要だ.
  • では実際に今どうすべきか.私たちは一定の予算配分をすることを進めている.毎日2ドルのキャンディを買うたびに実は寄付に回した方が良かったのかと悩むのは効率的ではないし,長続きもしない.収入の1割とか,年間いくらとか.はじめは何でも良い.それでなお寄付ができるようなら少し割合や金額を上げれば良いし,きついのなら下げれば良い.
  • この予算化は時間についても同じだ.人生すべての時間の中でどのぐらいを慈善に当てるかを決めていけば良い.

 

ピンカーからの結語

 

  • 合理性についての講義は以上になる.私は大学で講義を受け持つようになって40年になるが,今回の講義は特別に感慨深い.
  • 1つはまさに100年に1度のパンデミックに遭遇したということがある.そしてこれに対しても人類は合理性を持って対処すべきだ.実際に様々な感染予防策の策定,ワクチンの開発などに際しては合理性が使われている.大学の講義もそうだ.IT技術を用いていろいろなやり方を試している.
  • そしてもう1つはこの講義を通じて多くの素晴らしい人に出会えたことだ.ティーチングスタッフ,そしてゲストレクチャラー皆に感謝したい.あなたたち学生との交流も楽しかった.
  • この講義では私が認知科学者として40年研究してきた中で最も重要なアイデアである「合理性」を扱った.そこにはいろいろなパズルがある.合理性とは何か,何故それは不足しているように見えるのか,どうすればもっと合理的に振る舞えるのか.そしてそれは「ヒトは合理性を使って多くのことを達成してきたが,同時に時に非常に非合理的に行動する」というパラドクスにつながる.
  • あなたたちが,自分たちの認知の限界を理解し,合理性のツールの使い方をマスターし,より深い知恵を身につけ,それを使って世界の不幸を減らすことを期待する.そして成功し,満足できる理性的人生を送られんことを.

 
以上でピンカーの講義は終了だ.前々回でシンガーのかなりどぎつい効果的利他主義を紹介しておいて,この2回はややマイルドで実践可能性も考えた効果的利他主義(そしてこれはグリーンの立場に近いだろう)をレクチャーするという形になっている.我々はヒトの本性として様々な選好を強く持っているので,それを前提として実践可能性を考えることは重要だということだろう.