ルーカス批判と「因果推論の科学」(5)

10)AIとメンタルモデル

 

「AIとメンタルモデル」の関係を再度整理してみました。

 

作文を、Copilotに提示して、「次の説明に、訂正、改善すべき点がありますか」と聞きました。Copilotが、Rewrite板を提示してくれたので、Rewrite板とオリジナルを載せます。

 

オリジナルには、細部に拘りがある部分があります。

 

Rewrite板は、こうした細部がなくなって、分かりやすいと言えます。

 

ただし、推論のプロセスが残っているのは、オリジナルです。



10-1)CopilotのRewrite

 

AIとメンタルモデル:推論の文脈を理解するために

 

はじめに:なぜメンタルモデルが重要か

 

認知科学の知見によれば、人間の推論は、内的に構築された「メンタルモデル」に基づいて行われます。これは、ある状況や対象に対して因果関係や構造を理解するための枠組みであり、意思決定や説明の基盤となります。

 

AIはこのような明示的なメンタルモデルを持ちませんが、人間が作成した文書やデータを学習することで、暗黙的にそれらのモデルを反映した推論を行うことが可能になります。

 

メンタルモデルとAIの推論

 

AIの推論は、統計的な言語モデルに基づいています。明示的なモデル切り替え機構は存在しませんが、入力された文脈(コンテキスト)に応じて、学習済みの知識群(=暗黙のメンタルモデル)を選択的に活用します。

 

したがって、ユーザーが「どのメンタルモデルに基づいて答えてほしいか」を明示することで、より適切で精度の高い応答を得ることができます。

 

事例1:生態学の学派による推論の違い

 

日本の生態学は、英国オックスフォード学派の影響が強く、日本語文献の多くがこの学派のメンタルモデルに基づいて書かれています。

 

AIに日本語で生態学について質問すると、AIは日本語文献を検索・要約し、結果的にオックスフォード学派のメンタルモデルに基づいた情報を返します。

 

しかし、AIが英語文献をもとに推論を行う場合、オックスフォード学派とコロンビア学派では異なるメンタルモデルが反映されます。たとえば:

 

  • オックスフォード学派の推論 → オックスフォード学派の英語文献を学習
  • コロンビア学派の推論 → コロンビア学派の英語文献を学習

 

ユーザーがAIに「コロンビア学派の生態学で考えるとどうなりますか」と明示的にモデル切り替えを要求しない限り、AIは文脈からオックスフォード学派の推論を選択する傾向があります。

 

事例2:クマの個体数管理と制度的メンタルモデルの限界

 

日本の特定鳥獣保護管理計画では、クマの個体数管理について以下のように定められています:

生態学的な存続条件」と「社会的な許容条件」の範囲内で、「目標とする個体数水準」を定める。

この制度は、都道府県が策定主体であり、環境省は技術支援を行います。しかし、クマの生息域は都道府県の境界を超えるため、地方単位での管理には限界があります。

 

1964年のレオポルド報告書(The Leopold Report)は次のように述べています:

 

管理のあらゆる段階は、生物学訓練を受けた職員の完全な管轄下に置かれなければならない。

 

この観点から見ると、日本の制度は生態学的メンタルモデルに照らして破綻しており、国レベルでの統合的管理が必要です。

 

技術的補足:クマの年齢別個体数テンソル

 

クマの保全には、以下のような年齢別個体数テンソル(多次元配列)によるデータ表現が不可欠です:

 

年齢

0

1

30

個体数

X

X

X

死亡率

X

X

X

出産数

X

X

X



このテンソルは雌雄別に必要であり、科学的な推論にはこのような構造化データが前提となります。

 

ジューディア・パールの因果推論モデルに従えば:

 

データ表現 → データの取得 → データに基づく推論

という順序が必要であり、「目標とする個体数水準」だけでは科学的な保全計画は立てられません。

 

AIとの対話におけるメンタルモデルの明示

 

筆者がAIとクマの保全計画について議論した際、科学的メンタルモデルに基づく回答を得るまでに20分以上を要しました。これは、AIが制度的メンタルモデル(特定鳥獣保護管理計画)を初期文脈として選択したためです。

 

もし最初から「科学的メンタルモデルに基づいて答えてください」と明示していれば、AIは「クマの保全計画に必要なデータ表現は、年齢別個体数テンソルです」と即答していた可能性があります。

 

まとめ:効率的なAI活用のために

 

AIは明示的なメンタルモデルを持ちませんが、学習データに内在するモデルを文脈に応じて活用します。したがって、ユーザーがどのメンタルモデルに基づく推論を求めているかを明示することで、より正確で有益な応答を得ることができます。

 

10-2)オリジナル

 

AIとメンタルモデル

 

認知科学の知見によれば、人間は、メンタルモデルで考えるとモデル化すると、人間の推論が理解しやすいことがわかっています。

 

メンタルモデルとは、ある状況や対象に対して、人間が内的に構築する因果関係・構造・ルールの理解枠組みであり、推論や意思決定の基盤となります。このメンタルモデルを、あるグループで共有することで、話がわかる状態になります。グループ内では、コンテキストのバラツキが小さくなります。

 

言い換えると、コンテキスト依存性の高い推論をする場合には、メンタルモデルの切り替えを適切に行うことで、大きく外れた推論をするリスクが減ります。

 

AIには、直接的なメンタルモデルはありませんが、人間が、メンタルモデルに基づいて作成した文書を使ってトレーニングすることで、間接的にメンタルモデルを持つと理解できるようになります。

 

AIの推論は、統計的言語モデルに基づくものであり、明示的なモデル切り替え機構はありません。 しかし、入力文脈(コンテキスト)に応じて、学習済みの知識群(=暗黙のメンタルモデル)を選択的に活用します。 したがって、ユーザーが明示的に「どのメンタルモデルで答えてほしいか」を指定することで、より適切な推論が得られます。



例1を示します。

 

生態学の学派:

 

日本の生態学は、英国オックスフォード学派が主流で、日本語で書かれた文献の90%以上は、オックスフォード学派のメンタルモデルで書かれています。

 

AIに生態学について質問すると、AIは、日本語の文献を検索して、要約して答えます。

 

このとき、AIは、オックスフォード学派のメンタルモデルを使っていませんが、結果として引用される文献は、オックスフォード学派のメンタルモデルに基づくものになります。

 

次に、AIに生態学に関して質問します。ここで、AIは、検索と要約だけでなく、メンタルモデルに基づく推論をします。

 

この推論エンジンは、英語の論理的な文章を学習することで作られています。

 

オックスフォード学派のメンタルモデルに基づく推論は、オックスフォード学派のメンタルモデルでかかれた英語の文献を学習してます。コロンビア学派のメンタルモデルに基づく推論は、コロンビア学派のメンタルモデルでかかれた英語の文献を学習しています。

 

筆者が、日本語で、AIに質問するとAIは、コンテキストから、この質問は、オックスフォード学派のメンタルモデルに基づく推論を要求していると判断します。

 

AIに、コロンビア学派のメンタルモデルに基づく推論をしてもらうためには、かなり、強引に、「コロンビア学派の生態学で考えるとどうなりますか」などと、メンタルモデルの切り替えを要求する必要があります。

 

例2を示します。

 

クマの個体数管理:

 

日本のクマの個体数管理は、法律で次のように定められています。

日本の特定鳥獣保護管理計画では、「生態学的な存続条件」と「社会的な許容条件」の範囲内で、「目標とする個体数水準」を定めることになっています。

 

特定鳥獣保護管理計画(クマ類を含む)は、都道府県が策定主体です。

 

環境省は技術的な支援やガイドラインの提供を行いますが、実際の計画立案・実施は地方自治体(都道府県)に委ねられています。

 

この法律は、生態学の科学のメンタルモデルで考えると、破綻しています。

 

たとえば、修正・改善すべき点はありますが、1964年のレオポルド報告書( The Leopold Report,; Wildlife Management in the National Parks )は、次の点を主張しています。

 

公園管理の第一目標は、植物と動物を「白人が初めてこの地域を訪れた当時の状態に可能な限り近づけて維持し、必要であれば再現すること」。リストレーション(復元)基準の採択。

 

動物の個体数を最初の接触時のレベルに維持するための最良の方法は、自然捕食である。

 

管理のあらゆる段階は、国立公園局の生物学訓練を受けた職員の完全な管轄下に置かれなければならない

 

クマの生息域は、都道府県より大きいので、「管理のあらゆる段階は、国立公園局の生物学訓練を受けた職員の完全な管轄下に置かれなければならない」を順守しないと、生態系管理は不可能です。つまり、特定鳥獣保護管理計画(クマ類を含む)の主体では、国でないと管理不可能になります。

 

AIの最初の推論:

 

AIと、クマの保全計画について議論すると、AIは、最初に、特定鳥獣保護管理計画のメンタルモデル(人文科学のメンタルモデル)に基づく推論をします。

 

特定鳥獣保護管理計画のメンタルモデルでは、国と県は、特定鳥獣保護管理計画に基づいて、鋭意努力しているので、問題はないという解答が得られます。

 

クマの生息域は、都道府県より大きいので、「管理のあらゆる段階は、国立公園局の生物学訓練を受けた職員の完全な管轄下に置かれなければならない」を順守しないと、生態系管理は不可能です。

 

しかし、この推論には、生態学のメンタルモデルが必要になります。

 

AIはコンテキストを判断して、質問は、特定鳥獣保護管理計画のメンタルモデルで答えるべきであると判断します。

 

生態学のメンタルモデルに基づく解答をえる場合には、AIに、コンテキストの変更(メンタルモデルの変更)を明示的に要求する必要があります。

 

クマの年齢別個体数テンソル

 

クマの個体数の推定に必要なデータは、次のマトリックス構造をしています。

 

年齢  0 1 .... 30

個体数 X  X    ….     X

死亡率   X     X    …..     X

出産数   X     X     …..    X

 

クマの最長年齢は、20歳くらいなので、余裕をみて、0歳から30歳のクマを対象とします。

死亡率と出産数は、年齢で大きく異なるので、年齢ごとの数字が必要になります。

 

このマトリックスは、メスのクマのものです。

 

オスのクマについても、同じマトリックスが必要になります。

2つのマトリックスを張りあわせるとクマの年齢別個体数テンソルになります。

 

「目標とする個体数水準」の情報では、クマの種の保全はできません。

 

クマの年齢別個体数テンソルに対して、種の保全がなりたつ条件の範囲を検索する必要があります。

 

科学のメンタルモデルで考えれば、日本の特定鳥獣保護管理計画では、クマの年齢別個体数テンソルというデータ表現を使っていないので、保護管理計画は立てられません。

 

これは、パールの「データ表現ー>データの取得ー>データに基づく推論」のパラダイムで判断できます。

 

保護管理計画について推論するためには、クマの年齢別個体数テンソルというデータ表現を使い、このテンソルデータを取得して、初めて推論が可能な状態に達します。

 

AIとクマの保全計画について議論するときに、質問が、科学的なメンタルモデルに基づく要求であることが理解されていれば、AIは、「クマの保全計画に必要なデータ表現は、クマの年齢別個体数テンソルです」と答えていたと思います。

 

筆者は、「クマの保全計画に必要なデータ表現は、クマの年齢別個体数テンソル」に到達するまでに、20分以上の時間がかかってしまいました。

 

まとめ:

 

AIには明示的なメンタルモデルはありませんが、学習データがメンタルモデルに基づいて作成されているため、AIが、どのメンタルモデル(学習データ)をつかって、解答しているかをかんがえることで、効率的な質問が可能になります。