Theory of causal learning in children Causal maps and Bayes nets

Theory of causal learning in children: Causal maps and Bayes nets. Gopnik, A., Glymour, C., Sobel, D. M., Shulz, L. E., Kushnir, T., & Danks, D. (2004). Psychological Review, 111, 3-32. Rep: 村山 航1 ・ この論文で答えたい大きな 2 つの問い   子どもがもっている世界に関する知識の表象はどのようなものか そのような知識表象を学習するメカニズムはどのようなものか ・ 結論から先に言うと   子どもは世界の因果的構造を表象している その学習には，かなり強いタイプの（連合学習ではない）因果推論を用いている ・ 様々なできごと間の共変関係や介入の結果などを観察して，因果マップが形成される． ・ こうした表象と学習メカニズムは Bayes Nets によって数学的に定式化できる． The Causal Inverse Problem ・ 因果構造の学習を考えるとき，視覚のモデルをアナロジーにすると分かりやすい    視覚システムは逆問題を解く必要性：2 次元の情報しかないなかで 3 次元を復元 因果構造の学習も同じ：様々なできごとの共変関係の観察から因果構造を復元 （情報量が少ないため2）解を求めるには何らかの暗黙の制約を置く必要がある Causal Maps ・ 因果マップの特徴：視覚が形成する空間地図と類似している  自己中心的 (egocentric) でない：自己中心的な因果関係の学習としてオペラント 条件づけがある．しかし，因果マップは“実際に自分がすることなしに” ，出来事 間の共変関係をみるだけで学習される （新しい因果関係を自ら産出できる） ．さら に，自分の介入の結果と，観察された共変関係を結合することもできる．  凝集的 (coherent) である：特定の表象だけの説明ではない．因果マップはより 一般的であり，素朴生物学，素朴物理学，素朴心理学にまで適用可能．ただし， 空間， 音韻の表象までは一般化できない． 領域固有性と領域一般性の中間に位置．  学習されるものである Learning Causal Maps ・ 因果推論の背後にある制約は 2 つ  実質性の仮定 (substantive assumption) ：あるものがあるものの原因になりや すいという知識を子どもは持っている（e.g., 食事→吐き気，時間的先行性，意図 1 日本学術振興会，東京工業大学社会理工学研究科 mailto: murakou@orion.ocn.ne.jp 2 さらに，１）共変関係自体が複雑，２）事象の生起が確率的，３）目に見えない変数が影響を持つ可能性もある． 1 →行動） ．一部は生得的であるが，基本的に学習されていく．  形式的な因果推論の仮定 (formal causal assumption)：子どもは，何らかの共変 関係から，因果関係を（自動的に）推論できる． Causal Maps and Causal Learning in Adults and Children ・ 大人に 2 つの仮定を適用することができるという証拠は多い．   大人は素朴理論に基づいた因果推論をする (Ahn et al., 2000)． 大人は複雑な相関パターンから因果を抽出できる (e.g.,Power PC Theory; Cheng & Novick, 1992)． ・ 一方，子どもは，素朴理論に基づいた因果推論をするという証拠はある (e.g., Bullock et al., 1982) が，形式的な因果推論の仮定が成り立つという証拠はない．  もし子どももそうした能力があるなら，因果推論（を可能にする 2 つの制約）が 世界の知識を構成するメカニズムとして重要な役割を持っている可能性が高い． The Role of Normative Mathematical Accounts in Psychological Research ・ 形式的な因果推論の仮定とはどのようなものか：数学的・計算的なモデル化が有用  そこで出てくるのが Bayes Net というモデル Causal Bayes Nets ・ Bayes net：計算機科学，哲学，統計学でここ 20 年進展してきたモデル (Glymour & Cooper, 1999; Pearl, 1988, 2000; Spirtes et al., 1993, 2001)．  相関パターンから因果を見出し，グラフィカルに表現する．交互作用や潜在的な 変数も投入することが可能3． Inferring Causal Structure From Conditional Dependence: An Informal Example ・ どのように共変関係から因果を抽出するのか：具体例で考える   ワインを飲んだ (X) のあとはよく眠くなる (Y)：X→Y と考えるのは早計 ワインを飲むのはパーティ (Z) が多く，パーティは疲れるから眠くなるのかも． 可能性２（いわゆる擬相関） X ← Z → Y 可能性１（本当の因果） → X → Y ：Z ・ どちらのモデルを正しいかを確かめるにはどうすればよいのか    １つは実験：Z を統制してアルコールを飲ませてみる． しかし X, Y, Z の共変関係の観察でも因果は識別可能： e.g., パーティに行くいか ないに関わらず，ワインと眠気に共変がみられたら可能性１を支持． ポイント：観察された相関（共変）のパターンだけでも，条件つき確率（この場 3 あとで出てくるように，Bayes Net の核は条件付確率である．一般線形モデルも，非線形のニューラルネットも， 入力の値に対応する条件つき確率を出力するモデルだと考えられる．従って，Bayes Net はこれらを包摂する（ニュ ーラルネットよりも，さらに包摂的な）枠組みだと考えることができる（たぶん） ． 2 合偏相関）を考えることで，事象間の因果関係を推論することが可能 4． ・ 数学的な表現をすると以下のようになる（可能性２の場合）  Z による条件つき確率を考えると，X と Y は独立： X  Y | Z   確率的な表現： Pr(X , Y | Z )  Pr(X | Z )  Pr(Y | Z ) こうした条件つき確率表現に基づいた推論を定式化したのが Causal Bayes net． Bayes Nets ・ Bayes Net による定式化の３つのルール    因果関係は有向の矢印で表現（e.g. X → Y） ：他の変数を一定にした上で，X の 値を x から x’に変化させたとき，Y の確率が変化する5，という意味． グラフは他のいくつかの情報とあわせて同時確率分布を表現している． マルコフ仮定 (Malkov Assumption)：ある変数は，自分の子孫（矢印で辿れる変 数）でない限り，他の変数と独立である（親にあたる変数の条件つき確率で） ． ・ 具体例が Figure 1    各変数は連続変数でもカテゴリ変数でも構わない．潜在変数も導入可能（後述） ． 矢印は循環してはいけない (ただし Spirtes et al., 2001)． 矢印で結ばれた変数間の関係は線形，非線形，確率的など何でもよい． ・ 矢印の意味を再確認！：If we did the right experiment, controlling all the other variables in the graph, changing the value of X would directly cause a change in the value of Y. Using Causal Bayes Nets for Prediction and Planning ・ この因果マップ （マルコフ仮定で制約を加えた同時確率分布） 2 つのことができる． で    ある変数が生じたのを観察したときに何が起きるかの予測 ある変数に介入（他の変数に影響を与えずある変数だけを操作すること）するこ とで， 別の変数がどのように変化するか 行動のプラニングに必要不可欠な推論． ： 矢印の数が少なければ，これらは非常に効率的に計算することができる． Generating Predictions from a Causal Graph: An Example ・ Figure 1 のグラフからマルコフ仮定を表現してみる． ・ R は S の条件つき確率で Z と独立，Y と Z は独立，W は X の条件つき確率ですべての 変数と独立，などなどいくつもの条件つき独立が見えてくる．それを定式化すると P(Z , S , R, Y ,W )  P(W | X )  P( X | Y , S )  P(S | Z , Y )  P( R | S )  P(Z )  P(Y ) 4 ただしこの場合，他の第３変数によって生じた擬相関である可能性も否定できない．その意味では，当然だが実験 の方がパワフルな因果関係のツールである．Bayes Net ではあとで述べるように観測されない潜在変数を導入できる． 従って，ある程度はこの問題に対処可能である．だが，それは道具的変数のようなものを組み込んだネットワークで できることであり， 他の第三変数によるのか， 本当の因果関係なのかを識別できない場合も多いと思われる （たぶん） ． 5 X の値によって，Y の X による条件つき確率 P (Y|X) の値が異なってくるということ． 3 ・ Figure 1 から X に対する“介入”の結果を表現してみる   単純なアイディアは X にだけ影響を与える変数 I を導入すること よりシンプルに，X に刺さっている矢印を除去して，X=x とする方法もある (Figure 2)．これをグラフ整形 (graph surgery: Pearl, 2000) と呼ぶ． Learning Causal Bayes Nets ・ 近年， 人の因果関係の表象が Bayes Nets に近いという主張 (Glymour & Cheng, 1999)． ・ Bayes Net はさらに，そうした表象がどのように形成されるかについても示唆がある． ・ Bayes Nets の学習アルゴリズムとして，ここでは４つの方法を指摘する．   ベイジアンアルゴリズム，制約ベースアルゴリズム，Rescorla-Wagner ルール， Power PC ルール．前２者が計算機科学から，後２者が心理学から提出． それぞれに強み，弱みがあるが最大の違いは“原因となる変数と結果となる変数 があらかじめ決まっているか” ．前２者はその特定が不必要だが，後２者は必要． ・ それらの学習アルゴリズムに共通の仮定：誠実性の仮定 (faithfulness assumption)   “同時確率分布における条件つき独立は， すべてマルコフの仮定に由来している” つまり， “一見独立に見えるけど， 実は２変数による正の効果と負の効果の相殺な どの結果，独立に見えるだけ”(e.g., シンプソンのパラドクス)ということはない と仮定すること．  非決定的でノイズが多い私たちのシステムでは，こういったことは稀だろう． ・ マルコフ仮定と誠実性の仮定をもとに解の探索はずっと楽になる．   “時間的先行性”など実質性の仮定を導入してさらに解を狭めることも可能． ただし，近年の計算機アプローチ実質性の制約なしでも効率的に解を算出する． Computational Approach: Bayesian Methods ・ 事前の仮説（因果マップ）があり，そこにデータを与え，ベイズの定理を適用させて いくことで，仮説を更新させていく方法6． ・ 最初は適当なグラフ (arbitrary graph) を与える Computational Approach: Constraint-Based Methods ・ 全ての変数間の条件つき確率を算出し，統計的検定で有意に独立ではないと判断され た変数間に矢印を残していく：TETRAD アルゴリズムが典型 (Scheines et al., 1994)． ・ Figure 3 を真のモデルとして，このアルゴリズムを実際に実施してみよう．   まず全変数間 (Figure 4) で独立7と判断された変数は除去する (Figure 5)． 変数 U, V が結ばれていて，さらに T とも結ばれているとき，U  V | T を検討す | D)  P( D | H )  P( H ) であり，事前の仮説（H）がデータ (D) とともに更新され，事 6 ベイズの定理は， P( H 後分布 (P(H|D) が算出されることを意味している． 7 この場合は，周辺確率であり条件つき確率ではない． 4 る． もしこの条件つき独立性が成立すれば， と V とのリンクは消す (Figure 6)． U  T 変数 U, V が結ばれていて，さらに T や S と結ばれているとき，U  V |  , S  を 検討する．もしこの独立性が成立すれば，U と V のリンクは消す→以下繰り返し T – V – R のリンクがあるとき，T-R のリンクを除去しても V が条件続けられな かったら，T → V ← R とする (Figure 7)8． T → V – R とあり，T と R のリンクがないとき，V → R とする (Figure 8)．   ・ こうした制約ベースアルゴリズムは，事前知識でさらに制約をかけることも可能． Psychological Approaches: The causal Rescorla-Wagner Method ・ もともと連合学習のモデル   連合＝因果関係の学習ではない．しかし近年では，人間の大人は連合学習ととも に背後にある因果的構造を学習しているという主張がある． 2 つの変数が共変すると，その間の連合強度が強まると考える． Vij   i  j ( j   Vkj ) k 1 n Psychological Approaches: Cheng’s (1997) Power PC method ・ 心理学の実験を説明するために Cheng らが提出した理論． ・ Bayes Nets の確率表現を特定の形にしたものと等価だということが分かっている． ・ さらに， Bayes Net の学習方法にまで示唆を与える：ただし， 原因と結果が特定され， 潜在変数がないことが前提．原因を A，結果を E とすると，因果関係は以下になる 9． frF ( E | A)  frF ( E | ～A) 1  frF ( E | ～A) ・ frF はある焦点セット (focal set) における生起頻度である． ・ この推定値は Bayes Net のパラメータに漸近的に一致する（らしい） ． The Statistical Problem: Fictional Sample Sizes and Learning Rates ・ これらのアルゴリズムは多くの場合，多数のサンプルを必要とする． ・ しかし子どもはごく少ない試行で因果関係を学習している：モデルに制約が必要．  ベイジアンアルゴリズム：情報量のある事前分布を用いる必要性． 8 すみません．あまり理解できませんでした．なお，Figure 7 の o マークは，因果関係だけでなく潜在変数によって もこの関係を説明できることを意味している． 9 難しそうだが，分子だけみると原因が生じたときに結果が生じた場合から，原因が生じなかったときに結果が生じ た場合を引いたもの．いわゆるΔP． 5  制約ベースアルゴリズム：少ないサンプルを (e.g., 10) をあたかも多いようにみ なして (e.g., 100; 子どもは観察した現象が， 真の分布を代表していると考えてい るかのように) 検定を行っていく必要性．Rescorla-Wagner ルールも同じ．  この問題がないのが Cheng (1997) の学習アルゴリズム． Learning Bayes Nets with Unobserved Variables ・ Bayes Net には観測できない変数を導入することも可能：Figure 9 （U が潜在変数） ．  マルコフ仮定より X  ( Z , R), R  ( X , Y ) ．  このようなデータが得られると，Y と Z が独立ではないので Y→Z，Y←Z を考え る．しかし，Y→Z を仮定すると X と Z が独立だというデータ構造と矛盾する． Y←Z と仮定しても同じ．従って，Y と Z の間に潜在変数を仮定するしかない 10．  潜在変数は制約ベースアルゴリズムで発見しやすい．ベイジアンアルゴリズムで は，現在のところに，この点についてはかなり限定されている． Causal Bayes Nets as a Psychological Model of Children’s Learning ・ 私たちの仮説：子どもは Bayes Nets で表現されるような因果マップ，学習メカニズム を持っている．    意識的ではない：無意識の，計算論的レベル (Marr, 1982)． ある程度人間に固有だと考えている：動物に関する証拠は弱い 11． 領域固有の因果スキーマを利用しているという立場(Atran, 1990; Leslie & Roth, 1993; Spelke et al., 1992)，連合学習の立場 (Elman et al., 1996) とは異なる！ ・ ただし，私たちのモデルは実質性の仮定や Rescorla-Wagner ルールなどを取り入れて おり，因果スキーマや連合学習の仮説を否定するものではない． ・ Gopnik & Wellman (1994)：子どもは信念，欲求，感情，知覚の因果構造を理解して いる：それらが観察されず，しかも原因か結果かが事前に分からないにも関わらず．  本節ではより直接的に，この仮説を検討した実験を紹介． Testing Strategies ・ 先述のように因果推論は無意識   筆者たちは， “さまざまなパターンの条件つき確率事象を呈示して， どのような因 果推論が生起するかを検討する”という戦略をとる． 新たな実験手法を考案： “Blicket 発見器 (detector)” と“パペットマシーン” ． 10 このようにうまくいくのは， このモデルが X, R という道具的変数を組み込んでいる特殊な具体例だからであって， 実際は潜在変数を仮定すべきなのか， それとも２変数間の因果なのかを識別できることは少ないと思われる． ただし， 道具的変数が“介入”の場合には，その限りではない． 11 ただし今年 2 月に Blaisdell et al. (2006) が Causal reasoning in rats. という論文を Science 誌に発表している． 6 Inferring Causal Maps From Conditional Dependence: The Blicket Detector ・ Blicket 発見器：ある特定の物体（Blicket）が入ると音楽が鳴る (E) マシーン． ・ 子どもに，このマシーンは Blicket が入ると音楽がなるということを予め伝えておく． いくつかの事象を呈示したあとに， “Blicket はどれかな？”と尋ねる． ・ Gopnik et al. (2001) 3-4 歳児が条件つき確率の情報を利用できるかを検討(Figure 10)． ：    One-Cause 条件：A を入れると E→B を入れると not E→A と B を同時に入れる と E（２回繰り返し）→ どっちが Blicket? A も B も E と相関している．しかし B は A の条件つき確率では E と独立．逆に A は B の条件つき確率でも E と関係している12． 結果：子どもは A と B より Blicket と呼んだ (96% vs. 41%)． ・ 他の解釈可能性：A の方が鳴らす頻度が高かった（相関も高かった）からでは    統制条件として Two-Cause 条件：A を入れると E（３回繰り返し）→B を入れる と not E→B を入れると E（２回繰り返し） ． A と B が音楽を鳴らす頻度（相関）は One-Cause 条件と同じ． 結果：A と B を同じ程度 Blicket だと考えた(97% vs. 81.5%)：単なる頻度を超え た，因果推論が One-Cause 条件では生じている． ・ B も 41%は選択されている：Yes-Tendency では？  Blicket 選択を A と B の強制選択方式にすると，78% vs. 22%になった． ・ 定式化による理解：計算論に当てはめると  fr( A, E )  fr( A) fr( E ), fr( B, E )  fr( B) fr( E ), B) という周辺分布    fr( B, E | A)  fr( B | A) fr( E | A), fr( A, E | B)  fr( A | B) fr( E | B) という条件つ き確率，そして fr( A, B)  fr( A) fr( B) これらの共変関係から，子どもは“A が E を生起させた”と因果推論した． 実験条件を制約ベースアルゴリズムにかけて得られた Bayes Net が Figure 11． 他のアルゴリズムでも同様の結論を導くことができる． Designing a new intervention ・ 先ほどの実験は，A と E を強く“連合”させただけである可能性もある  “因果関係”を学習したことを直接的に示す必要性． ・ 因果関係と連合で何が違うのか   因果関係の学習では，介入の結果を推論できる 因果関係の学習では，因果に関する既有知識と形式的な因果推論を結合できる 12 fr( A, E )  fr( A) fr( E ), fr( B, E )  fr( B) fr( E ), fr( B, E | A)  fr( B | A) fr( E | A), fr( A, E | B)  fr( A | B) fr( E | B) と いう確率分布から，子どもは“A が E を生起させた”と因果推論した，と考えることができる．この実験のデータを 制約ベースアルゴリズムにかけて得られた Bayes Net が Figure 11． 7 ・ この両者の能力があるということを検討するため“make it stop”パラダイムを考案   鳴っている Blicket 発見器を止めてもらう 介入に関する知識が必要になり，また“スイッチのようなものは外すと止まる” という既有知識を因果マップに組み込む必要が出てくる． ・ Gopnik et al. (2001, Exp. 3.)：Figure 12    One Cause 条件：B を入れると not E→A を入れると E→鳴っているままにさら に B をマシーンに乗せる→ 鳴っているのを止められる？ Two Cause 条件：B を入れても E が生起する以外は One Cause 条件と同じ． 結果：One-Cause 条件では A だけを除去したのが 75%．また，Two-Cause 条件 では A と B の両方を除去したのが 50% (A だけ除去， だけ除去より有意に高い)． B ・ この実験の強み   子どもは学習フェーズで Blicket 発見器を動かしていないにも関わらず，Blicket 発見器に介入することができた：オペラント条件づけでは説明困難． 子どもは機械を止めるのをみていない：既有知識との統合．模倣でも説明困難． Inference from Indirect Evidence: Backward Blocking ・ Bayes Nets には，Rescorla-Wagner アルゴリズムだけでは説明できない現象もある ・ Sobel et al. (in press)：Backward Blocking を３歳の子どもに実施 (Figure 13)   Inference 条件（統制条件） と B を入れると E，A を入れると not E ：A Backward Blocking 条件：A と B を入れると E，A を入れると E ・ Inference 条件では B が Blicket だと答えた率は 100％． ・ Backward Blocking 条件では，B を Blicket だと答えた率は 31％に過ぎなかった．   Rescorla-Wagner ルールだと，A も B も E を生起させると考えるはず． 直接観測していない因果関係（B は E を生起させない）を子どもは推論した． ・ ベイジアンアルゴリズム，制約ベースアルゴリズム，Power PC Theory ともにこの結 果は予測できるが，Rescorla-Wagner ルールは予測できない． Inferring the Direction of Causal Relations From Interventions and Correlations: The Puppet Machine ・ Bayes Nets の強み：共変関係や介入から経験したことのない因果関係を導出すること． ・ パペットマシーン (Figure 14)：色と名前の違うパペットが箱の上のバーに取り付けら れている．実験者はバーを上下に動かし，パペットを操作する．複数のパペットを同 時に上下させ，共変させることも可能． ・ 子どもは共変関係や介入から，因果の向きや潜在的な原因を推定できるのか？ 実験１ ・ “あるパペットは自分が動くと他のパペットも動く特別なパペットです．そのパペッ 8 トを見つけてください”と教示．２つの課題に取り組んでもらう．    被験者：４歳児 Common Effect 課題：２つ（X, Y）が同時に動き止まる（４回繰り返し）→実験 者が子どもに見えるよう Y を動かす． だが X は動かず→特別なパペットはどれ？ Common Cause 課題：３つ（X, Y, Z） が同時に動き止る（数回繰り返し）→ 実 験者が子どもに見えるよう Z を動かす．だが X, Y は動かず → 同じように Y を 動かす．だが X, Z は動かず→特別なパペットはどれ？  統制条件（別の被験者） ：上の２課題と同じだが，実験者は Z や Y を操作するの ではなく，Z や Y の前に石を置く．因果的な結論を導けない条件． ・ 結果  Common Effect 課題でも Common Cause 課題でも X の選択率は 78%, 84%であ った．一方統制条件での X の選択率は 31%, 34%であった． ・ この因果関係は，観察されていない：子どもは観察から因果関係を推論している．   制約ベースアルゴリズム，ベイジアンアルゴリズムなら説明できる． Rescorla-Wagner ルール，Power PC theory は，原因と結果があらかじめ決めら れていることが前提なので，この結果は説明できない． 実験２ ・ 実験１の他の解釈可能性をつぶし，さらに洗練された因果推論能力を検討 ・ 他の解釈可能性：被験者は，因果関係を推論したのではなく，Y が特別ではないと分 かったから（消去法みたいなかたちで）X を選択したのでは？   なぜなら，実験１では特別なパペットが“必ず”他のパペットに影響を与えると 教示していた．さらに，強制選択式だった． そこで特別なパペットは“だいたいの場合”他のパペットに影響を与えると教示 した．また， は特別なパペットですか”のように，個別質問形式にした． “X ・ 連合学習で説明できない状況を導入：相関は同じだが，介入の有無が違う条件を設定     ４歳児が対象． Common Effects 課題：Y と X が同時に動き止る（３回繰り返し）→ Y を実験者 が動かしても X は動かない → Y と X が同時に動き止る（２回繰り返し） Association 課題：U を実験者が動かすと V が動く（３回繰り返し）→ Ｕを実験 者が動かしても V は動かない → U を実験者が動かすと V が動く （２回繰り返し） どちらの条件も共変関係は同じ（Y と U，X と V がそれぞれに対応） ．しかし， もし Bayes Net モデルのように子どもが“共変”と“介入”を区別しているのな ら，Common Effects 課題では X のみを，Association 課題では U のみを特別な パペットと考えるだろう． ・ 結果  Common Effect 課題では 9/16 が X のみを，Association 課題では 11/16 が U の 9 みを特別なパペットだと考えた． 実験３ ・ 子どもは観測されない原因も考えることができるのか ・ 実験１の Common Cause 課題は Figure 9 の構造と実は同じ．そこで，２つのパペッ トを用いて Figure 9 と同じ構造を作り出し，仮説を検討する．  Common Effects 課題：実験１と同じ．ただし，パペットを選択させるのではな く， “なぜパペットはいっしょに動いたのか”という説明を求める．説明できなか った場合には， かな， かな， “X Y 他のもの (something else) かな” と質問する．  Unobserved Variable 条件：２つ（X, Y）が同時に動き止まる（４回繰り返し） →実験者が子どもに見えるよう Y を動かす．だが X は動かず→ 実験者が子ども に見えるよう X を動かす．だが Y は動かない → 子どもに説明を求める．  Bayes Net で考えると，Unobserved Variable 条件では，第三変数による共変関 係を推論することになるだろう． ・ 結果   Common Effect 課題では 13/16 が X を原因（特別なパペット）と考えていた Unobserved Variable 課題では 9/16 が他の変数に言及（”your hands”, ”you behind there”, “something else”など） ．パペットに言及したのは 5/16 だけ． Further Experiments ・ 抑制的な原因，交互作用を持つ原因，因果の連鎖（X→Y→Z）などを検討する必要性． ・ 決定論的な因果ではなく，確率論的な因果関係を導入する必要性． ・ なお，本稿では Rescorla-Wagner ルールや Power PC Theory が間違っていると主張 しているわけではない．また，子どもがいつもベイジアンアルゴリズムや制約ベース アルゴリズムを使っているとも考えていない． しかし， どのアルゴリズムのもとでも， Bayes Net という枠組みは有効に機能しうるだろう． Further Computational Work ・ “人は状況のなかで何を変数として考えるのか”をモデル化する必要性． ・ 生得的な制約というものを同定していく必要性． ・ 記憶システムや処理資源なども組み込み，心理学的に有意義なモデルを考える必要性．  人がすべてのデータを蓄積して因果関係を構築しているとは考えにくい． Conclusion （省略） 10