AIロボットが東大受験突破を目指すというプロジェクト「東ロボくん」の開発で有名な新井紀子氏の『AI vs. 教科書が読めない子どもたち』を読みました。
AIは人間並みになれないしシンギュラリティは来ない
著者新井氏の趣旨をまとめるとこんな感じです。
- コンピュータは数学に基づいて動いている
- 数学の言葉は、論理、確率、統計の3つしかない
- 論理でAIが作れないことは見えてきた
- 確率、統計に基づいてAIを作ろうという技術の1つがディープラーニング
- しかし確率、統計の仕組みには限界がある
- 最大の問題が「意味」が理解できないこと
- だからAIは人間並みになれないしシンギュラリティも来ない
さすが数学者だけあって、そして東ロボくんを長年開発してきただけあって、実際にAIを開発する難しさを熟知されています。一方で、新井氏が「シンギュラリティが来ない」と断言するポイントは2つあることがわかりました。
1つは、演算処理性能が上がっても質的な変化は起こらないという主張です。
物凄いスパコンが登場したら、あるいは量子コンピューターが実用化されたら、「真の意味でのAI」ができる、とか、シンギュラリティが到来するという人がどうしてこんなにたくさんいるのか、以前から不思議でなりませんでした。1秒間の演算処理の回数と知性に、科学的な関係があるとは思えないからです。
そして、AIの実現には「意味の理解」が必要だという主張です。
AIには、意味を理解できる仕組みが入っているわけではなくて、あくまでも、「あたかも意味を理解しているようなふり」をしているのです。しかも、使っているのは足し算と掛け算だけです。
演算性能向上は質的な変化をもたらさない
演算処理性能の向上がAIの質的変化をもたらすかは、確かにいろいろな意見があります。レイ・カーツワイルがいうシンギュラリティの根拠は、演算処理性能の向上がAI性能の向上と比例しているというものです。統計的にこれまでそうなっていて、そして2045年には人間の演算処理性能をコンピュータが超えることから、シンギュラリティが到来するという理屈です。
新井氏は「科学的な関係があるとは思えない」といいますが、ディープラーニングが登場するまで、演算処理性能の向上がAI性能の向上に結びつくとは誰も思っていなかったわけです。
そんな背景があるので、新井氏がいかにAIの専門家でも、演算処理性能はAIの質的向上に結びつかないという説明に素直には賛同できませんね。レイ・カーツワイルの説は論理的には説明されませんが、統計的にはサポートされているからです。
AIは意味を理解しない
意味の理解については、哲学の領域に入ります。こちらもAI研究者の間では常識の「中国語の部屋」を思い出させますね。
中国語を理解しない、英語を母国語とする人（たとえば英国人とする）が部屋の中にいる。紙に漢字で書かれた質問が、部屋の外にいる人から中の英国人に渡される。英国人は、漢字を意味不明な記号として扱い、部屋の中にあるマニュアルと照合して返事を漢字で書く。もちろん、部屋の中の英国人は質問も回答も理解していないが、マニュアルにしたがって、完璧な答えを返すとしよう。これを繰り返すと、部屋の外の人は中の人が中国語を理解していると判断する。（AIの核心を突く思考実験「中国語の部屋」とは？）
AIは確かに「意味を理解できるようなふり」をしているだけです。でも、人間は果たして意味を理解しているのでしょうか。自分は意味を理解している、と確信している人でも、隣にいる友人が意味を理解していると考える理由はどこにあるのでしょう。「意味を理解する」という行為が何を意味するのかはまだわかっていません。人間の脳（または身体も含めた人間）には意味を理解できるのだとして、どんな構造によってそうなるのかもわかりません。そして、それが足し算と掛け算に分解できるものなのかどうかもわからないわけです。
なので、足し算と掛け算からは「意味がわかることはない」と言い切る新井氏の言葉には、疑問を持ちます。
多くの人間の仕事はAIに代替される
- 一方で、多くの人間の仕事はAIに代替される
- 調査によると、教科書の「意味」を理解できない子供が増えている
- 「意味」がわからなくても確率、統計アプローチからテストでは点が取れる
- 「意味」がわからなくても点が取れるのはAIと同じアプローチである
- テストを突破できても、「意味」がわからない人間はAIに代替される
実は本書の最大の衝撃は、「多くの子供は教科書の意味がわかっていない」というこちらです。そのデータをもとに、シンギュラリティは来ないがAIは人間の仕事の多くを代替していくという論を新井氏は展開します。
仏教は東南アジア、東アジアに、キリスト教はヨーロッパ、南北アメリカ、オセアニアに、イスラム教は北アメリカ、西アジア、中央アジア、東南アジアに主に広がっている
オセアニアに広がっているのは（ ）である。
①ヒンドゥー教 ②キリスト教 ③イスラム教 ④仏教
この問題に対して、中学生で正答したのは62％、高校生でも72％しか正しく答えられないというのです。けっこう衝撃的な結果です。まさに文章が読めない、というか文章が意味している論理構造がわかっていないということです。
人間の理解は論理の形ではない
ただこの問題を読んで思い出したのは、論理学の対偶の問でした。
4枚のカードがあり、それぞれ片面にはアルファベットが、もう片面には数字が書かれている。
「A」 「F」 「4」 「7」「片面が母音ならば、そのカードの裏は偶数でなければならない」というルールが成立しているかどうかを確かめるには、どのカードを調べる（裏返す）べきか？
母音と偶数という概念は理解しているとして、答えは「A」と「7」のカードになります。この問題は多くの人が間違えます。
ところが、論理構造は同じで要素を変えると正答率がまるで変わります。
4人が飲物を飲んでいる。
「ビール」 「烏龍茶」 「28才」 「17才」「アルコール飲料を飲んでいるならば、20才以上でなければならない」というルールが成立しているかどうかを確かめるには、どの人を調べるべきか？
こういう文章に書き換えると、答えである「ビール」「17歳」という答えを間違える人はほぼいません。先の宗教の問題も、言葉を置き換えれば多くの中高生が正解できるのではないかとおもったわけです。
宗教の問題は東ロボくんは正解したそうですが、AIの場合、言葉を変えても正答率に違いはでないでしょう。AIと人間の認知方法は、現在のところまだ違うのだろうということがわかります。
さて、本書はAIの可能性に限界を感じつつ、それでもAIに代替される人間が増えることに警鐘を鳴らしています。ぼくとしては、AIに代替される人間が増加することは同感しつつ、AIの可能性を過小評価することには疑問が残ります。少なくとも、新井氏のロジックは納得するには足りないという感じです。
