中国語の部屋とは

中国語の部屋とは、コンピュータが記号を正しく操れても、本当に意味を「理解」しているとは限らないと主張する思考実験のことです。哲学者ジョン・サールが1980年に示しました。生成AIの受け答えがどれほど自然でも、その能力をどう捉えるべきかを考えさせる、古典的な問いかけです。

どんな思考実験なのか

中国語をまったく知らない人が、小部屋に一人で座っています。外から中国語で書かれた紙が差し入れられると、その人は手元の分厚い手引書を引き、「この記号が来たら、この記号を返す」という指示どおりに紙を書いて返します。手引書がよくできていれば、外の中国語話者には「中の人は中国語が分かる」と見えるでしょう。けれども部屋の中の人は、自分が何を書いているのか意味をまったく分かっていません。サールはこれをコンピュータになぞらえました。記号を規則どおりに並べ替えているだけなら、理解しているとは言えないのではないか、というわけです。

「賢く見える」をどう受け止めるか

この議論は、機械が人間らしく振る舞えるかを問うチューリングテストへの反論として知られます。受け答えが完璧でも、それは「分かっているように見える」だけかもしれない。サールは、プログラムが心を持つという立場を「強いAI」、心の模型にすぎないとする立場を「弱いAI」と呼んで区別しました。経営の視点でも、生成AIの流暢さを「理解」と取り違えず、あくまで道具として見極める姿勢につながる論点といえるでしょう。

中国語の部屋に関するよくある質問

中国語の部屋は何を主張する思考実験ですか？

コンピュータが記号を正しく操れても、本当に意味を「理解」しているとは限らない、という主張です。中国語を知らない人が手引書どおりに記号を返せば外からは「分かっている」ように見えるが本人は意味を分かっていない——これをコンピュータになぞらえ、機械が人間らしく振る舞えるかを問うチューリングテストへの反論として知られます。

「強いAI」と「弱いAI」とは何ですか？

サールが区別した立場です。プログラムが本当に心を持つという立場を「強いAI」、心の模型にすぎないとする立場を「弱いAI」と呼びました。中国語の部屋は、受け答えが完璧でも「分かっているように見える」だけかもしれない、と強いAIに疑問を投げます。

中国語の部屋に対する反論はありますか？

40年以上にわたり多くの反論が寄せられ、最も有名なのが「システム返答」です。中の人ひとりは中国語を分からなくても、人と手引書と部屋を合わせた「システム全体」としては理解しているとみなせる、という考え方で、脳の神経細胞一つひとつは日本語を分からないが脳全体では分かる、という見方に通じます。