注：これは、ジューディア・パール、ダナ・マッケンジー「因果推論の科学―「なぜ？」の問いにどう答えるか」のコメントです。
（４３）日本語の小部屋
1）バージョンアップの課題
RAW現像にdarktableを使っています。
darktableの開発バージョン（darktable nightly build）は、毎週更新されます。
開発すると新機能が使えるようになりますが、バグも増えます。
バグをよく取るためには、いったん、新機能の追加を止める必要があります。
一般ユーザーからバグの報告があり、パッチをあてる場合でも、対応するバージョンが多数になると収拾がつかなくなります。
そこで、darktableでは、公開版のバージョンアップを1年に2回にして、この公開版に対してのみ、バグ対応をしています。
それでも、予想外の事態はおこります。
darktabel4.80は、2024年6月にリリースされましたが、予想外にバグが多かったので、7月に、追加した公開版darktabel4.81をリリースしています。
1990年頃までは、ソフトウェアのバージョンアップは、内容の変更に注目して、大きな機能改善があった時に、不定期に行なわれていました。
内容の変更が頻繁に行なわれるようになったこと、インターネットでバージョンアップが容易にできるようになったので、現在では、定期的なバージョンアップが基本になっています。
この定期的なバージョンアップ方式をバスストップ方式といいます。
ＷindowsOSやMacOSも、基本は、バスストップ方式を採用しており、新しいウイルスなどの重大な脅威が見つかった場合に、臨時（不定期）のバージョンアップをしています。
バスストップ方式が実現できる理由は、インターネットの普及にありますが、バージョンアップが頻繁に行なわれるようになった原因は、モジュール方式のプログラム開発のひろがりがあります。特に、オブジェクト指向プログラミングで、この傾向が強まりました。
さて、バスストップ方式にも問題があります。
マニュアルが、バージョンアップに追いつきません。
マニュアルは、WEBページの電子マニュアルになっていますが、プログラム本体のバージョンアップに追いつきません。
とりあえず、古いマニュアルを参考にしてもらい、特に重要なポイントは、You Tubeの動画をアップしておきますので、見てくださいという対応になっています。
２）中国語の部屋
パール先生は、サールの「中国語の部屋」という思考実験に対して、アルゴリズムは正しいが、変数の値（インスタンス）の数が、天文学的な数字になってしまい、実装不可能であるといっています。（p.67）
これは、次元の呪いに少しだけ似ていますが、コンピュータに実装することが可能であるかという問題です。
アルゴリズムが正しくとも、利用可能なコンピュータ資源の範囲でしか問題は解決できません。
ここでは、「中国語の部屋」に付随する「アルゴリズムが正しくとも、利用可能なコンピュータ資源の範囲でしか問題は解決できない」という制約条件に、「中国語の小部屋」という名前を付けます。
３）日本語の小部屋
「中国語の小部屋」は、「コンピュータ資源」の制約でした。
ここでは、「コンピュータ資源」を「人的資源」に置き換えた問題を「日本語の小部屋」と呼ぶことにします。
「日本語の小部屋」とは、「アルゴリズムが正しくとも、利用可能な人的資源の範囲でしか問題は解決できない」という制約（人的資源への実装問題）を指します。
さて、どのような場合に、「日本語の小部屋」が問題になるのでしょうか。
政府は、ＡＩを規制する法律をつくるといっています。フェイク情報をながすことを防止する目標を掲げています。
仮に、「ＡＩを規制する法律」のアルゴリズムが出来たとします。
この法律を実装するには、「日本語の小部屋」が問題をクリアする必要があります。
バスストップ方式に限っても、ソフトウェアは、1年に2回バージョンアップします。
法律の対応する部分は、仮に、参考文書にグレードダウンするにしても、1年に2回は参考文書をバージョンアップする必要があります。これができないと、法律は、現実離れしてしまいます。
ソフトウェアは、モジュール化して、オブジェクト指向になっています。
これが、頻繁にバージョンアップできる理由です。
「ＡＩを規制する法律」も、オブジェクト指向で、モジュール化されていなければ、メンテナンスは不可能です。
参考文書は、WEBが正式版になります。
翻訳では間に合わないので、「ＡＩを規制する法律」は英語で書かれることになります。
イギリスがぬけたＥＵは、英語をつかっていますので、英語で、とくに問題はありません。
それでも問題は残ります。
おおもとの、ソフトウェアのドキュメントが、ソフトウェアのバージョンにおいついていないのです。
筆者には、この部分をうめる方法が想像できません。
「ＡＩを規制する法律」を科学の方法で制定するには、「日本語の小部屋」をクリアする必要はありますが、その方法は見つかっていないように思われます。
もちろん、「ＡＩを規制する法律」を権威の方法で制定するのであれば、問題はありません。
この場合、「ＡＩを規制する法律」は利権の確保を目的としています。「フェイク情報をながすことを防止する」は、建前にすぎず、最初から、この問題の解決は考えていない場合です。
許認可官庁の天下りを受け入れたり、関連する議員に政治献金をすることが、法律制定の本音の目的です。
真相はわかりませんが、「日本語の小部屋」が出て来ない場合には、科学の方法がつかわれていませんので、科学的な問題解決ができないと言えます。
マイナンバーカード問題でも、2000年代に行なわれた検索サイト規制でも、「日本語の小部屋」が出ていませんので、科学的な問題解決ができないと言えます。
「ＡＩを規制する法律」が権威の方法で制定されれば、献金のないＡＩの開発はできなくなりますので、ＡＩの開発は事実上中心になります。
それは、日本経済に膨大なダメージを与えます。
