注：これは、ジューディア・パール、ダナ・マッケンジー「因果推論の科学―「なぜ？」の問いにどう答えるか」のコメントです。
（５３）第3者のバイアス
１）レンズとメンタルモデル
パール先生は、因果のレンズを通して世界を見ることで、因果推論のメンタルモデルが出来あげるといいます。
レンズとメンタルモデルは、非常に重要です。
瀉血は、古代から19世紀後半まで、外科医によって行われてきた最も一般的な医療行為です。現代医学では原則、瀉血は、行われていません。瀉血は、体力を消耗しますので、病気のときには、致命的な処置になります。
日本の政治家には、補助金を配布することが政治であると考えている人が多くいます。これは、税金を徴収して、補助金を配る所得移転になります。所得移転をすると市場経済が破壊されるので、生産性が低下して経済成長が阻害されます。補助金は、経済の体力を消耗し、補助金が無ければ成り立たない産業を作り出します。このメカニズムは、瀉血に似ています。
資金不足が、生産制約の場合には、それでも、補助金によって生産が始まる場合があります。幼稚産業育成論と呼ばれる仮説です。1980年のバブル経済の前に、日本経済は、資金不足ではなくなりました。余剰資金が土地に流れて、バブルが発生しています。つまり、1980年代末以降は、補助金、円安、低金利等の経済効果がなくなっています。それにもかかわらず、資金不足モデルを使い続けた結果、日本の産業競争力はなくなってしまいした。
これは、レンズとメンタルモデルの課題です。
パール先生は、「因果推論の科学」で、「統計学のレンズ」から、「因果推論のレンズ」に切り替えることで、メンタルモデルの改善を提案しています。
日本には、「統計学のレンズ」のような科学のレンズはなく、科学的に間違った「文系のレンズ」が用いられています。
したがって、「因果推論の科学」を理化することは、非常に困難です。
２）帰納法のなぞ
英語版のウィキペディアの「Scientific method」には次のように書かれてます。
＜
科学的方法は、少なくとも17世紀以来の科学の発展を特徴づけてきた、知識を獲得するための経験的な方法です。科学的方法には、認知的仮定が観察の解釈を歪める可能性があるため、厳格な懐疑主義を伴う注意深い観察が含まれます。科学的探究には、帰納的推論による仮説の作成、実験と統計分析による検証、結果に基づく仮説の調整または破棄が含まれます。
＞
問題は、「帰納的推論による仮説の作成」です。
これ自体は、まちがった仮説の作成方法ではありませんが、仮説の作成方法を、帰納法を限定すると、問題解決が不可能になります。
例えば、アップルのiPhoneは、帰納法でデザインすることはできません。
IT関係の機材やソフトウェアは、今まで、世の中にないものですから、帰納法では、仮説をつくったり、設計図面を作成できません。
パール先生の言い方では、反事実がないと問題解決はできず、反事実は、データとは相性が悪いということになります。
反事実の推論は、演繹法であり、数学のトレーニングが有効な方法になります。
「帰納的推論による仮説の作成」は、英語版のウィキペディアにしては、稀に見る出来の悪い部分になります。もっとも、この部分の出典は、「プリンキピア」と「OED」なので、出典が古すぎることが原因です。
英語版のウィキペディアの「History of scientific method」には、次のように書かれています。
＜
1934年にポパーは『科学的発見の論理』を出版し、それまでの伝統的な観察主義的帰納主義的科学的手法を否定した。
＞
つまり、1934年以前の出典を引用したことが、間違いの原因です。
日本の場合には、「伝統的な観察主義的帰納主義的科学的手法」が多用されていますから、時計針は、1934年以前で、止まっていると言えます。
筆者は、「帰納的推論による仮説の作成」は、科学哲学者の主張かと思っていました。
例えば、ポパーのような科学哲学者が、スマホを題材にして、科学の方法を分析するとします。
2024年現在であれば、スマホは普及しています。
iPhoneが出て来る前に、コンピュータ付き携帯電話を考えた人は、大勢いたと思います。
しかし、スマホに何ができて、どんな社会的なインパクトが生まれるかをイメージできた人は、ジョブスだけでした。
このような反事実のイメージを自由に操作できるメンタルモデルを持つには、高度な専門知識が必要になります。
科学哲学者は、こうした高度なメンタルモデルをもっていませんので、演繹法による反事実こそが、科学の方法の本質であるという結論に達することはないと予測できます。
パール先生は、自らがAIの開発をすすめた経験があり、反事実をイメージできるメンタルモデルの持ち主です。
しかし、専門知識のない多くの人にとって、反事実をイメージすることは困難です。
イメージできないことは考えられませんので、普通の人が、科学の方法では、反事実が重要であるという結論に達することはありません。
例えば、科学のメンタルモデルのない人は、数式を含む内容であれば、メンタルイメージが共有できないので理解できないことがわかります。
一方、科学のメンタルモデルのない人が、数式を含まない内奥をみると、あやまったメンタルイメージが形成され、理解できたつもりになります。
これが、「第3者のバイアス」です。
第3者のバイアスを持っている人には、自分は、バイアスを持っているという自覚がありませんので、「第3者のバイアス」を持った内容を拡散します。
政府は、ネットで、フェイク情報を取りまるといいます。
しかし、そこには、「第3者のバイアス」の概念はありません。
「第3者のバイアス」を含んだ内容がフェイクに分類された場合、責任は、だれにあるのでしょうか。
「政府は、ネットで、フェイク情報を取りまるといいます」ので、政府自体が、「第3者のバイアス」にかかっているように見えます。
科学啓蒙書や、数式のない解説本の時代は終ったような気がします。
以前でしたら数式は眺めるだけでした。
現在であれば、サンプルコードのついていない入門書では、どこまで、理解できたか確認ができません。サンプルコードのついていない入門書を使う人はいないと思います。
