自由意志というのは、昔から興味を惹きつけてやまない概念です。人が自分の意思で自由に考えて行動を決めている。これが自由意志です。それは当たり前のように感じもしますが、最近の研究成果によると怪しいとも言われるようになってきました。
自由主義のビュッフェ、AIが雇用を奪うはオオカミ少年か？に続き、『21 Lessons』から今回は自由意志についてです。
意識と自由意志
自由意志について話すとき、もう一対の概念として「意識」を忘れることはできません。カントは「コギト・エルゴ・スム」（我思う、故に我在り）といい、何ら疑い得ない概念として「意識」を挙げました。
自分が考えているという意識、そして考えた結果としての自由意志。この2つは不可分のように思えます。ところが、生化学とビッグデータ／AIの双方から、意識／自由意志は攻め込まれているのです。「キミは実は幻想だよ」と。
初めて読んだときに衝撃を受けた論文があります。1983年に生理学者ベンジャミン・リベットが行った実験です。これによると、被験者は何かをしようと意思決定したとき、実はその0.2秒まえに脳波が大きく変化していることを明らかにしました。これはどういうことを意味するのでしょう。
意識は脳の中にあると普通は考えています。そして、脳の中で「こうしよう」という決定を行い、それが神経を伝わって実際の行動として現れるというイメージを持っていると思います。
ところが実験の結果、（1）脳の中で何をするかが決定される（2）自分で意思決定したと感じる（3）実際の行動が起こる という順番で、意思決定はされているということがわかったのです。つまり、人は自分で決めたと思っているが、実はそれは事前に脳が決めたことで、意識は後付で、あたかも自分が考えて決めたように思い込まされているというわけです。残念ながら、この実験は何度も追試されており、生化学者の中では定説となっているようです。
『ハーモニー』に見る意識が消滅した世界
伊藤計劃の代表作に『ハーモニー』があります。近未来を描いたこの作品では、主人公トァンは、幼馴染でもあるテロリスト、ミァハがハーモニー・プログラムを実行させようしていると知り、ミァハに会いにチェチェンに向かいます。
このハーモニー・プログラムは、人間の意識を消滅させるだけど、人間の判断は失われません。それはそうです。脳はあらかじめ判断を行っており、それがあとから意識に現れ、あたかも自分の意思でそれを決定したように感じさせるからです。意識とは？ 自由意志とは？ そうしたトピックに正面から切り込んだ名作です。
ここで面白いのは、従来哲学の問題だと思われていた意識や自由意志が、いまはすでに生化学の問題になってしまっているということです。そこには神や魂の存在を仮定する必要はありませんし、自分自身の内省に頼る必要もありません。実験と計測機器が、どんどん脳の中で何が起こっているのかを解き明かしつつあります。
アルゴリズムに従って動く脳
意識と脳といったって、意識も脳にあるんだから、結局同じことなんじゃない？ そう思うかもしれません。しかし、脳は多数の神経細胞ニューロンでできており、それぞれがシナプスでつなぎ合わされている、生化学的なコンピュータであることも、また昨今の研究で明らかになってきました。
もし、意識という特異な存在を無視していいのであれば、脳はコンピュータそのものであり、生化学的なアルゴリズムに従って動くということです。ある入力を入れると、アルゴリズムに従ってあることが出力される。これはコンピュータそのものであり、決定論的な世界になります。もし意識が幻なのであれば、「最終決定は意識が行っている」と考える必要もなく、脳がアルゴリズムに基づいてアウトプットを決定しており、意識はあたかもそれを自分で決めたかのような幻想を見ているということになります。
脳がハッキングされる
この世界観は、望むと望まざるとに関わらず、研究的な意味でも、実践的な意味でも標準的な考え方になりつつあります。『21 Lessons』でユヴァルはこう書いています。
私たちは、感情がじつは計算であるということにたいてい気づきそこなう。なぜなら、計算の迅速な過程は、私たちがまったく自覚できない次元で起こるからだ。私たちは脳内で何百万ものニューロンが生存と繁殖の確率を計算しているのを感じないので、ヘビに対する恐れや、繁殖相手の選択や、EUに対する自分の意見は、何か謎めいた「自由意志」の結果だと、誤って信じている。
実際問題として、自由意志と呼ばれるものは存在せず、それは脳内のアルゴリズムに過ぎないというわけです。これが何をもたらすか。人間の脳のハッキングです。
ユヴァルは、生物学的知識、演算能力、データの積は、人間の脳をハッキングする能力に等しいといいます。Apple Watchのようなバイオメトリクスセンサーは、心拍などの身体の生物学的な情報を電子情報に変え、コンピュータに分析させることができます。そして、コンピュータは、十分なバイオメトリクスデータと演算能力があれば、「あなたの欲望や意思決定や意見のすべてをハッキングできる」というわけです。
米大統領選挙のときに、Facebook上の心理クイズアプリを使って収集された30万人分のデータがケンブリッジ・アナリティカ社（CA社）に売却され、 CA社はこれを利用してトランプ陣営などの選挙活動をサポートしたという事件が話題になりました。このときはたかだか心理クイスでしかなかったわけですが、それでもユーザーの趣味嗜好を把握して適切な広告を打つことで、大統領選挙という意思決定に影響を与えたのではないかというわけです。
これがより詳細な生化学データをもとにしたアクションならどうでしょう。何かを自分で決めたと思い込んでいても、実際は脳がアルゴリズムに基づいて結論を出しているわけで、ハッキングしてリバースエンジニアリングし、適切なデータを入力してあげれば、出力＝判断も自由にコントロールできるはずです。これが人間の脳のハッキングです。
リコメンドの呪い
これは大統領選挙のような遠い海外の話ではありません。実はぼくらにとって身近なものです。AmazonやGoogleが常に行っているリコメンドです。こうしたテック企業は、膨大なデータをもとに、リコメンドという名の脳のハッキングを行っています。どんなデータを入れて上げれば（リコメンド）、それを購入する（行動）ようになるか。そこには自由意志があるように見えても、実際は幻想です。
すでに、Googleマップの指示に従ってクルマを運転した結果、海に突っ込んだというような事件が起きています。Googleマップが右折するように指示したので曲がったら、実は右折禁止だった、なんてこともよくあります。紙の地図を見て道を決めて進んだら大渋滞に巻き込まれ、それからはGoogleマップのオススメどおりに運転するようになった。そんな経験をした人も多いでしょう。
検索もそうです。こうした経験を繰り返すことで、人は自ら（脳のアルゴリズムとはいえ）決定する能力を徐々に失い、アルゴリズムを信頼するようになっていきます。
私たちはもう、情報を探さない。代わりに、「ググる」。そして、答えを求めてしだいにGoogleに頼るようになるにつれて、自ら情報を探す能力が落ちる。そして今日、「真実」はGoogleでの検索で上位を占める結果によって定義される。
脳がハッキングされたとき、ぼくらは存在しもしない意識の力でそれに抗うことはできません。将来どんな学校に行って何を学ぶべきか、自分に向いた仕事は何なのか、数多くのデート相手から誰を選ぶべきか。そうした判断は、アルゴリズムが素晴らしい精度で正解を導いてくれるようになるでしょう。
だが、何を学ぶべきかや、どこで働くべきかや、誰と結婚すべきかを、いったんAIに決めてもらい始めたら、人間の一生は意思決定のドラマではなくなる。民主的な選挙や自由市場はほとんど意味を成さなくなる。
アルゴリズムがすべてを決める
リコメンドの精度なんて大したことない。そう思う人もいるかもしれません。でも、もし精度が問題なのであれば、それは早晩解決します。しかも、ぼくらが想像するよりももっと早いペースで、「自分で決めるよりも、アルゴリズムに選んでもらったほうがよい結果になる」という世界がやってくるでしょう。
前回、将棋や囲碁ではすでに人間の判断よりもAIの判断のほうが圧倒的に上になっているということについて書きました。将棋や囲碁に続き、現在ハックされつつあるのは人間の脳だからです。
これまでSFではAIがもたらすディストピアとして、AIが意識を獲得し、人類を奴隷にしたり一掃したりするという物語を綴ってきました。しかし実際は、AIに意識は不要です。意識などなくても、生化学的なコンピュータである脳よりも優れた判断を下せるようになっていくからです。そしてそもそも、意識という概念自体も幻想である可能性が高いのです。
権力の最上層にはおそらく、名目のみの支配者として人間がとどめられ、アルゴリズムは単なる顧問にすぎず、最終的な権限は相変わらず人間の掌中にあるという幻想を私たちに抱かせるだろう。（略）とはいえ、その選択肢はすべてビッグデータ分析の結果であり、人間たちの世界観ではなくAIの世界観を反映している。
こんな世界が到来したとき、我々は果たして幸せでしょうか。どうしたら幸せを感じるかについて、ビッグデータに基づいたアルゴリズムが分析して、処方箋を提供してくれるかもしれません。これはまさに、『マトリックス』の世界観ですね。
そしてそこには、自由意志にもとづいた自由主義という発想もなくなっているでしょう。そして、「ほとんどの人が搾取ではなく、それよりもはるかに悪いもの、すなわち存在意義の喪失に苦しむことになるかもしれない」とユヴァルはまとめています。
