Language, Cognition, and Human Nature 第7論文 「ヒトの概念の性質」 その11

Language, Cognition, and Human Nature: Selected Articles

元々認知科学をフィールドにしていたピンカーにとっては，この過去形をめぐる状況は「宿敵：コネクショニスト」を叩くのに格好の題材ということなのだろう．ここから丁寧にコネクショニズムへの批判を行っている．

計算アーキテクチャー

• ルメルハートとマククレランド（1986）は，英語の過去形形態の獲得のコンピュータシミュレーションモデル（RMモデル）を提示した．シミュレーションのアーキテクチャー，その振る舞い，信頼性はこれまでもいろいろなところで議論されている．
• このRMモデルは「パターンアソシエーター」デバイスを用いている．このデバイスは，認知科学において最近の論争の中心トピックになっている平行分散プロセッシング，あるいはコネクショニストアーキテクチャーのパラダイムに乗っている．
• このパターンアソシエーターの振る舞いを理解するには2つの特徴が重要になる．1つは「アイテムはその特徴によって表象されている」ということ，もう一つは「アイテムのセットにかかるすべてのインプットの特徴とアウトプットの特徴の統計的な随伴性が記録され累積される」ということだ．
• 過去形について適用される前に，このパターンアソシエーターの振る舞いはよく調べられていた．その中には概念カテゴリーの学習や同定能力が含まれ，これらについて有能であることが知られていた．それは訓練セットにある一組の連想をよく再構成できたし，類似性に基づいて新しい例に一般化でき，入力の頻度に敏感だった．さらにそれはヒトがファミリー類似カテゴリーに対して見せる反応の多くを再現した．
• マククレランドたちは非言語学的な対象の特徴セットに関するデータを扱うためのパターンアソシエーターを創り出した．彼等のモデルは，頻度効果，プロトタイプ性，ファミリー類似性，メンバーシップの段階性，ヒトが見せる分類の時間やエラーレートをかなりうまく再現できた．このような効果は対象の共起頻度に関連しているということはよく知られていたので，それほど驚くべきことではなかった．
• このような能力により，彼等のRMモデルは動詞の過去形もある程度うまく扱えた，モデルは420動詞（84不規則動詞を含む）でそれぞれ200回訓練され，その結果語幹だけ示された不規則動詞の過去形を表示できるようになった．さらにモデルはこれを一般化して新しい不規則動詞の過去形を作って見せた．また，ファミリー類似性への感受性を示して，訓練セットにあった不規則動詞に似た規則動詞にも不規則過去形を創り出した．さらに規則型の不規則動詞への過剰適用もちょうど子供が行うのと同じように示した．

• しかしながらパターンアソシエーターはそれ以外のマッピングは上手くできない．特にそれは規則動詞をうまく扱えない．アソシエーターは規則型も不規則型も同じ連想メカニズムで扱うので，なぜ規則動詞が不規則動詞と全く異なる特徴を持つのかの説明ができない．それは規則動詞を単に大きな一般的プロトタイプサブクラスとして誤って扱ってしまうのだ．
• さらにパターンアソシエーターは規則型を適切に獲得できない．モデルは「ブレンド」してしまうのだ．競合する統計的な規則性を互いに排斥させずに累積させてしまう．たとえばsipの過去形としてseppedを提示したりするのだ．また語尾のとをごちゃ混ぜにしてしまう．
• くわえて，それは規則性のデフォルト性を捉えることができない．RMモデルはある種の動詞（例えばjump, pump, glareなど）の過去形をうまく作り出せない．おそらくこれはモデルが，「規則過去形は，その動詞の特徴は全く無視して，ルールを適用して作り出される」ということが理解できないためだろう．だから動詞の特徴を探し続け，既に訓練された不規則動詞と似ている動詞が現れるとその不規則過去形に引きずられてしまうし，それまで訓練されていない特徴しかもたない動詞だとバックグラウンドノイズのような過去形を作ってしまうのだ．実際にRMモデルに異常な発音の動詞を提示すると不思議なキメラのような過去形を返してくる．（例：smairfを入力するとspruriceを返すなど）
• モデルはまた発達的なエビデンスとも整合的ではない．子供はまず多くの不規則動詞の過去形を正しく使い，その後規則型を時に過剰適用するようになり，その後1年ぐらいかけて過剰適用しなくなる．RMモデルは頻度によってドライブされているので，このような発達過程を再現するためには，以下のようなインプットが必要になる：まずわずかな高頻度動詞（多くは不規則動詞）を数回ずつ，その後，中頻度動詞（多くは規則動詞）をそれぞれ数多く入力する．
• しかしながら子供の過剰規則化はそのような入力規則動詞の割合の突然の増加によって始まりはしない．規則動詞の頻度は上記の過程を通じてほぼ一定なのだ．そして過剰規則化は子供の動詞語彙の中の規則動詞比率の突然の増加によって始まるわけでもない．動詞語彙の中の規則動詞比率は過剰適用していないときに急速に増加し，過剰適用しているときにはゆっくり増加するのだ．

• この結果は過剰適用に関する伝統的な説明を支持している．それは頻度によるのではなく，異なる内部メカニズムによって引き起こされるのだ．子供はまず不規則過去形と規則過去形を記憶する．その後多くの動詞の語幹と過去形に規則性があるのを発見し，ルールを作り出して広く適用する．このときにはまだ不規則動詞の過去形が十分素速く想起されない．この結果過剰適用が生じる．この解釈を支持する観察としては，子供が過剰適用を始めるのは，規則型の過去形を一貫して使おうとし始めた時期に一致すること，高頻度不規則動詞の過去形の頻度は高いままなのに過剰適用が生じることなどがある．
• コネクショニズム支持派は2つの反論をしている．しかし2つとも不十分なものだ．
• 1つは「RMモデルは2層パーセプトロンであり，3層モデルにして誤謬修正の隠れた層を持てばよりうまく機能する」というものだ．しかしスプロート（1992），プラサダとピンカー（1993），マーカス（1995）が示したように，隠し層を持ったモデルもオリジナルモデルと同じようにうまくいかない．
• もう一つは「このような結果は英語において規則動詞が多数派であるために最も広い一般化を行ってしまうために生じるだけだ」というものだ．ドイツ語と比べてみればこの反論が成り立つかどうかわかる．マーカス（1995）のレビューによると，ドイツ語では過去分詞の「-t」，複数形の「-s」は少数派になるが，それにもかかわらず，これらはデフォルトの性質を持ち，不規則な分詞や複数形が想起できない場合や新しい語，派生語に対して用いられる．そして言語間で比較すると，このようなデフォルト性は規則型が多数派であることにパターンアソシエーターが反応した結果でなく，記憶と独立したシンボル連結心的操作によるものであることを示している．

• まとめると，パターンアソシエーターは不規則サブクラスをある程度うまく扱える，しかし規則サブクラスは，計算能力の面でも心理学的な信頼性の面でもうまく扱えない．我々は，これはこのアーキテクチャーのファミリー類似カテゴリーと古典的カテゴリーを扱う上での相対的な適合性の差異によるものだと示唆する．何故そうなのかは直裁的に説明できる．

1. 古典的カテゴリーはフォーマルルールの産物だ．
2. フォーマルルールは，対象に対して，そのコンテンツにかかわらずに適用される（これがここでの「フォーマル」の意味だ）．
3. パターンアソシエーターは対象のコンテンツの相関パターンを取り入れるようにデザインされている．
4. だからパターンアソシエーターは古典的カテゴリーを扱うには向いていないのだ．

• 私たちは脳はある種の非連想アーキテクチャーを持っていると結論する．それは言語に用いられ，おそらくそれ以外にも広く用いられているだろう．

現在から振り返って考えると，ヒトの脳がすべてパターン連想で物事を処理しているわけでは無いことは明白に思える．しかし計算科学の初期にはこれですべて説明できるのではという幻想がかなり大きくふくれあがっていたということなのだろう．
最近ディープラーニングのAIも急進展しているが，これがヒトの認知計算の仕組みとは大きく異なっていることはかなり明らかだろう．そういう意味でもこの論文の主張はなかなか興味深いところがあるように思う．

ピンカーはさらにカテゴリーの哲学的な問題（ヒトの心にあるカテゴリーと世界にあるカテゴリーは同じか）に進んでいる．