AIと哲学の関係が分からなかった方にAI倫理を易しく伝える試み

　筆者はこれまで何度も『AIと哲学と倫理には何の関係があるのか？』と多くの方々から同じことを質問され続けて様々な説明を試みてきました。

　近年では文字を読むことが苦手な方が多いので、外務省ではゴルゴ13で海外安全対策を説明し、東京都もサイバー攻撃発生時の対策を漫画で説明しています。他の省庁や地方自治体も、なんでも漫画にしてしまいますが、地方都市に行くほど漫画のクオリティーが下がってルビが多くなっていく傾向があります。数字の一にも『いち』とルビが振ってあるので、これなら全部ひらがなで書いてくれた方が読み易いくらいです。 

　AIと哲学の関係を分かりやすく説明している漫画としては、攻殻機動隊シリーズをあげることができます。ところが、『攻殻機動隊は難し過ぎて意味わからない』という意見が圧倒的に多かったので、本学会ではヤンキー漫画でAI倫理を説明することにしました。 

　一方で東洋経済という大人向けの雑誌では、ようやくジョン・サールの『中国語の部屋』という有名な思考実験が記事として取り上げられるようになってきました。これなら今年中には、一般読者にも『孫氏の白い犬』の面白さが分かるようになるでしょう。

ジョン・サールの『中国語の部屋』の思考実験

『中国語の部屋』とは、ジョン・サールが1980年に提唱した思考実験で、AIの『意識』と『理解』に関する議論の中心となっています。この思考実験は、特にシンボル処理型のAIが本当に『理解』を持つことができるのか、あるいは単にシンボルを操作するだけで『理解』を持たないのかという問題を提起しています。
 
『理解』や『知識』や『認識』や『自我』や『叡智』というった概念が哲学と関係ないと思っている人に、哲学や倫理が何かを説明するのは、ボルトとアンペアが分からない人に、電気が何かを説明するのと同じくらい困難です。ところが、電気やエネルギーが何だか分からない人ほど、環境問題やAIを語ってしまう不思議な現象が生じているのが現代社会です。
 
孫社長が“大泣き”した理由「AIは全人類の叡智を総和したレベルの少なくとも1万倍になる」

中国語の部屋のシナリオ
 
１．部屋の中に英語を話す人が閉じ込められる。
２．この人には中国語がまったくわからないが、部屋の中には大量の中国語と英語の対訳書やルールブックが置かれている。
３．部屋の外から中国語で質問が書かれた紙が差し込まれる。
４．部屋の中の人は、対訳書やルールブックを使って質問に対する適切な答えを中国語で書くことができる。
５．部屋の外から見ると、部屋の中の人が中国語を『理解』しているように見えるかもしれない。しかし、実際には部屋の中の人は、単にシンボルのマニピュレーションに従って答えを形成しており、中国語の意味を『理解』しているわけではない。

　サールは、この思考実験を通して、シンボル処理型のAIが人間のような『理解』を持つことはできないと主張しました。すなわち、AIが単にプログラムに従ってシンボルを操作しているだけであれば、それは真の『理解』を持っているとは言えない、というのがサールの主張です。
 
　この『中国語の部屋』は、AI研究や哲学、認識科学の分野で、AIが意識や真の理解を持つことができるかどうかに関する議論を呼び起こしました。特に、形式主義（AIが人間のような理解を模倣するだけであれば十分とする立場）との対立が生じるなど、多くの論争が巻き起こりました。

武智倫太郎