quillette.com
次の批判は「AIとSNSが啓蒙運動を殺す」というそれだけでは何のことだかよくわからない批判だ．結局よくわかっていない人達による上っ面の批判だということになるのだろう.
認知科学のリサーチャーでもあるピンカーは本書内で既にこのAIについての懸念を一蹴しているが，ここでさらに深く反駁している．
Enlightenment Now: The Case for Reason, Science, Humanism, and Progress (English Edition)
- 作者: Steven Pinker
- 出版社/メーカー: Penguin Books
- 発売日: 2018/02/13
- メディア: Kindle版
- この商品を含むブログ (30件) を見る
＜批判 その8＞
- 啓蒙運動はその落とし子つまり人工知能（AI）とソーシャルメディアに殺されるだろう．
＜応答＞
- これはメアリー・シェリーの「フランケンシュタイン」の200周年において，たまらなく魅力的なストーリーラインだった．しかし電気ショックによる死体の生き返りと同じく，人類を置き換える汎用AIというのはSFファンタジーに過ぎない．私は「Enlightenment Now」において，AIが人類を征服したり人類抹殺事故を起こしたりするはずがないと論じた．
- このテーマはツイートやロボカリプス記事に現れ続けた．しかし最近では多くの記事がこれを洗い流そうとしている．（例が示されている）
- （3番目の記事の著者である）ブルックスはMITのAIの専門家だが，「起こりそうにもないこと（広範囲な失業，シンギュラリティ，人類と異なる価値観を持つAIが人類絶滅を企むこと）への恐怖」について手厳しく批判している．
- 彼は多くの誤解について洞察に富んだ診断をしてくれている．それはアーサー・クラークの「十分に発達した技術は魔法と見分けがつかない」のアプデート版ともいえるものだ．
- 彼はニュートンが現代にタイムトラベルしてiPhoneを手に入れたらどうなるか想像するように読者を促している．ニュートンはiPhoneの様々な機能に驚き，それはちょうどプリズムのように（充電なしで）永遠に機能すると考えるかもしれない．これが未来の技術の想像に際しての問題なのだ．その機能が我々の理解を超えると，その制限や限界を想像することもできなくなるのだ．そうなるとそれは魔法と同じになる．どのような機能の主張も反駁不可能になる．
- 2018年の風変わりで，技術をまるで魔法のように扱う予言の1つはヘンリー・キッシンジャーによるものだ．「どのように啓蒙運動は終わるのか」と題されたその記事の副題は「人類社会は哲学的にも知的にも，そしてどんな風にもAIの興隆に対して準備できていない」というものだ．
- 彼自身インターネットの興隆に対して準備できているようには見えないことから見て，この95歳の政治家がテクノロジーの将来についてのベストなガイドだということはありそうもない．（キッシンジャーのピンぼけコメントが皮肉っぽく紹介されている）
- AIがどのようにインターネットに統合されて啓蒙運動を殺すというのだろうか？ キッシンジャーはAIのアルゴリズムは人から見て不透明で，意思決定をAIに委ねることは，政策を理性的に決定し説明するという理想を忘れさせてしまうと言う．しかしほかのピンぼけ預言者と同じくキッシンジャーは最近のAIのトレンド（マルチレイヤーのニューラルネットワークを誤差逆伝播法で訓練する手法；しばしば誤って「深層学習」と呼ばれる）を理解していない．
- 魔法を解こう．深層学習ネットワークは，画像のピクセルや音の波形などの入力を，画像のキャプションや話された単語などのより有用な出力に変換するようにデザインされている．ネットワークは何百万もの情報のかけらをインプットから受取り，最初のレイヤーでそれを何千もの重み付けした組合せにして計算し，その結果を受け取った次のレイヤーはそれを別の重み付けの組合せにして計算し，それを次々に繰り返し，結果を答えの推定として出力する．ネットワークはそうやって計算した答えと（外側から与えられる）正解を比較し，その差異を巨大な数の信号変化として隠されているレイヤーに送り返し，答えが正解に近づくように重み付けを調整する．これを何百万回も繰り返す．これはきわめて速いプロセッサーと巨大データデットが可能にしたものだ．（私は「 How the Mind Works（邦題：心の仕組み）」でこれらのモデルの第1世代について詳細な解説を置いている）
- 深層学習ネットワークはレイヤーの数が多いという意味で「深い」のに過ぎない．レイヤーの理解は玉ねぎの皮ほども「薄い」のだ．何日もトレーニングしたネットワークは驚くほど上手に入力を使える出力に変換するが，しかし彼等がその意味を理解しているわけではない．翻訳ネットワークは扱う文についての質問には答えられない．ヴィデオゲームをプレイするプログラムはその世界のオブジェクトや力について理解しているわけではなく，ルールのマイナーチェンジに対応できない．
- 確かにプログラムの知性は何百万もの小さな数字によっていて，どのように決定されたかについては我々人間は再構成できない．それが「AIは我々にはわからない目的を持つのではないか，我々が感知できないバイアスを持つのではないか」という恐怖に結びつき，啓蒙運動の理性に対する脅威に思わせてしまうのだろう．
- しかしこれこそが，AIエキスパートたちが，その最近の大成功にもかかわらず，AIネットワークの向上は障壁にぶち当たっていると考えている理由なのだ．そしてエキスパートたちはさらなる進歩のためには新しい種類のアルゴリズム，おそらく明示的な知識表出を含むものが必要だと考えている．エキスパートたちにはゲアリー・マーカス，ジュディア・パール，ジョフリー・ヒントン，アーネスト・デイヴィスたちが含まれる．（彼等の論文や記事が紹介されている）
- そしてマーカスとデイヴィスが正しいなら（さらなる進歩のためには）AIはアイデアと目的をもっと明確に表出できるようにならなければならないだろう．AIはヒトを幸福にするためのツールに過ぎない．それがどう動くかが透明でない限り，つまりAIが人々の目的を理解し，常識と我々がセットした制限に従い，エラーを正すようにエンジニアリングできなければ，それは真に知性を持つとは言えないのだ．
- もう1つの恐怖を生みだす魔法の道具がソーシャルメディアだ．そして民主制の破壊から特定世代の荒廃までこの惑星のすべての厄災の原因だと非難されている．しかし西洋文明をお払い箱にする前に，物事を歴史的に捉えるべきだ．これまで新しいコミュニケーションツールが現れると，いつもそれはまず偽伝，剽窃，陰謀論にあふれ，何らかの真実の保証方法が編み出されるまで続いたのだ．トンデモや陰謀論を好むものは常に存在するからだ．ソーシャルメディアはまだ始まったばかりであり，それがこの先もひどいマインドコントロールの道具であり続けて民主制や啓蒙運動的な組織を破壊すると信じる理由はない．政治学者のブリーデン・ナイファムが主張するようにフェイクニュースの影響力は誇張されているのだ．ナイファムは2016年の選挙のソーシャルメディアを調べ，選挙関連の書き込みがフェイクである比率は非常に低く，それを読んだ人は比較的少なく，フェイクなものも説得力を持たないものがほとんどであったことを見いだした．
- スマホの与える心理学的影響も歴史的視点から眺めてみるべきだ．
（ここで，1840年代の書籍，1880年代の新聞，1910年代の雑誌，1960年代のテレビ，1980年代のウォークマンがそれぞれ以下に憂われていたかを示し，今のスマホへの憂いも同じではないかと示唆するXKCDのコミックが紹介されている）
- 「ここ数十年で最もメンタルヘルスに問題を抱える世代」？ この警鐘を鳴らした心理学者ジーン・トゥインジはメンタルヘルスの推移傾向をリサーチした．
- 彼女の記事は，ほとんどすべての世代が子どもたちにパニックになっていたことを示す戯画のようなものになっている．ミレニアル世代のナルシシスト傾向，iGenのスマホ依存など．この記事はすぐに激しく非難された．（批判記事がいくつか紹介されている）
https://journals.sagepub.com/doi/abs/10.1177/0956797616678438journals.sagepub.com
- まず，批判者の言うように子どもたちはほぼOKだ．その前の世代に比べアルコール依存，喫煙，犯罪，交通事故，妊娠，避妊なしのセックスの比率は低い．ティーンエイジャーの幸福感はここ20年で変化していない．メンタルヘルスの低下はごくわずかで，アメリカ経済の景気後退後の他の世代のそれとほぼパラレルだ．
- スマホの使用は（極端な過剰使用をしない限り）メンタルヘルスに良い影響を与えるのかもしれない．（そして過剰使用とメンタルヘルスの相関関係も因果を示すものではないかもしれない．鬱になったティーンエイジャーはエレクトロニックな暇つぶしに没頭しやすいということかもしれないからだ）
関連書籍
ゲアリー・マーカスのAIについての最新刊．
- メディア:
- この商品を含むブログを見る
