※本記事では、『現実の本質にかかわる難題を問う4つの思考実験』の記事内で紹介しているひとつ「チャイニーズ・ルーム（中国語の部屋）の議論」について解説していきます。
スタンフォード哲学事典によると、当時カリフォルニア大学バークレー校の哲学教授であったジョン・サールによって1980年に提起されたものということ。「コンピュータと脳は同じか」というテーマに楽観的かつ曖昧な人工知能に対する論議を超えて、未来の人間科学としての「心の哲学」を探求した講演をもとにした名著、『Minds, Brains, and Programs（脳・心・プログラム）』の中の第二章で展開する、チューリングテストへの反論として提起された思考実験になります。
それ以来、反論に次ぐ反論を重ね広く議論されているもので、この一連の議論に関して「中国語の部屋 議論（CRA：Chinese Room Argument）」と呼ばれるようになりました。
この思考実験では質問者…仮にAが、自分とは別の部屋にいる回答者…仮にBに対して「中国語を理解できるのか？」を判定するテストを行うことを想定して行われています。そこでもしBが完璧な「中国語質問への回答マニュアル」を使用するなどすれば、中国語の質問にうまく答えることもあるでしょう。その場合、AにしてみればBはあたかも中国語を理解しているように見えるはずです。
つまり、理解せずともこのテストに合格するということになります。例えるなら、ジグソーパズルをそこにプリントされている写真もしくは絵柄を認識することなく、その形だけで判断し組み合わせを完成させることに近いかもしれません。そう、実際にその絵…つまりは「中国語を理解している」という意味にはならないというものです。
この想定の中で、サールは「Turing test（チューリングテスト）」の反論を提起するのです。改めて「チューリングテスト」とは何かと言えば、対象とする機械（人工知能）に「人間のような知能があるか？」を判定するための手法になります。まだ、電卓も誕生していない1950年にイギリスの数学者アラン・チューリングによって提唱されたものになります（ちなみに世界初の電卓は、英Bell Punch社によって、1957年に「電子計算機」の特許が申請され、1961年に見本市に出展された「Anita Mk 8」と言われています ）。
これをサール自身、機械と人間とを区別するための厳密な方法として推し進めてきました。ここで言う「区別」とは、どういうものなのかも知っておくべきでしょう。これは…例えば映画やアニメでは人間以上の知能に加え、意思さえももつAIが幾度となく描かれていますが、これらがフィクションであることは周知のとおりです。実際には、人間が演じているのだと理解したうえで、娯楽として観賞しているはず。
しかしながら最新利用している人も少なくない、スマート家電やスマートフォンに搭載されている音声アシスタントはいかがでしょうか。「Siri」や「Alexa」「Google」では、声で呼びかければ人間を相手に展開するのと同じように自然言語で会話が進みます。また、最近話題沸騰中のChatGPTもタイピングすれば、その答えが早々にタイピングされることを多くに人が体験しているでしょう。
ですが、実際のところ明らかに相手は、「機械の機能によるもに過ぎない」とほとんどの人が理解しています。そこでチューリングテストによって、「テスト対象の機械が人間と似た（または近い）行動が取れるのか？」を調べるものになります。早とちりして、シンギュラリティを警戒するため「機械は思考できるか？ 知能や知性を有しているのか？」を探るものではありませんので、取り違えないようにしましょう。
ここで再び、中国語の部屋へと戻ります。そして機械（人工知能）の登場です。この人工知能を仮にCとしましょう。哲学の見地から、機械における「知性」や「思考」についての研究に早くから取り組んでいたサールは、そこで回答者Bを人工知能Cにすり替えて思考実験を行ったのです。
「たとえCがチューリングテストに合格したからといっても、Cは自分で考えることができる…すなわち、『知能を持った人工知能』という意味にはならない」と提起します。基本的にサールは、「中国語でやりとりをするのに人工知能が中国語を理解することなく、マニュアル的な法則に従って中国語の文章に対応しているにすぎない」という結論に達するのでした。
この思考実験によってサールは、“チューリングテスト”は正真正銘の人工知能であることの証拠にならないことを示しました。チューリングテストによれば、人間の観察者が通常の人間の反応と見なせるような反応を返さない限り、コンピューターは知的とは見なされません。ですが、コンピューターは言語を理解しなくても、膨大な記号の配列情報を参照したのちそれをマニュアルとして、説得力ある方法で模倣して言語を使用することができるのです。それはこのAI隆盛期となった現在を生きる皆さんなら、実感しているはずです。
スタンフォードのウェブサイトによると、これは人間の頭脳のほうが情報処理システムよりも優れていることを意味しています。人間の頭脳は生物学的処理に由来しており、コンピューターはそれをシミュレートしているのです。
この思考実験は言語とコンピューターの研究をしている研究者たちの好奇心を刺激しましたが、ほかの学者たちはその想定や結論の一部を批判しています。これは“強いAI”として知られているもの、あるいは人間の脳を模倣するAIに対する反対意見と考えられています。
例えばチャットGPTのようなオンライン・ツールを試したことがある人なら誰だって、人間の言語や文化的・社会的文脈を理解していないことから生じる、滑稽でびっくりさせるようなふるまいをAIが見せることがあるのに気がつくはずです。
サールに言わせると、「チューリングテストは心／意識の存在を検出するには不十分」ということになる（そういう意味では、誰もが納得するのではないだろうか）。この関連としてサールは、「チューリングテストに合格できる」ような特定のタスク（処理）のみを実現する人工知能を弱いAI、「心／意識が存在する」と言えるような人間が行う知的活動を完全に模倣できる人工知能を強いAIと名づけています。
Source / POPULAR MECHANICS
Translation / Satoru Imada
※この翻訳は抄訳です。
