スーパーインテリジェンス ― ニック・ボストロム
AIコントロール問題
この本で語られているのは「AIは制御可能なものであるかどうか」です。「AIコントロール問題」は、AIという存在が人間の世界に登場してから、長く語られ続けてきたAIの命題とも言えます。
最近のAIに関する本やネットの記事では、「AIによって人間の仕事が奪われる」ということばかり主張され、その価値について詳しく考察されたものは目立ちません。
どの記事も二言目には「シンギュラリティ」もしくは「生き残る仕事は何か」。なんの知識もない人たちの不安を煽るようなものばかりです。
僕はこのAIに対する拒否反応を煽ろうとする姿勢がいまいち好きになれず、「なぜ最大限活用する方法や、うまく付き合っていく方法について語らないのだろう」と不思議に思ってやみません。まあ警鐘を好む人なんて稀有だと思いますけど。
この記事で言いたいこと
導入が長くなってしまったのですが、この記事で何をしたいかというと、そうしたAIに対する恐怖心がなぜ生まれるのか、という考察です。
スーパーインテリジェンスに関する所感というわけではなくなってしまいますが、基本的にこの本に帰結する内容であると思うので書いていきます。
スーパーインテリジェンスとは
本のタイトルにもなっている「スーパーインテリジェンス」とはAIのことです。“人類の叡智を超えた、知能としての完全な上位互換”というような意味から、「超絶知能=スーパーインテリジェンス」というネーミングになっています。
少々“AIに対して恐怖を抱いている側”の視点に立って考えてみます。確かに、知能面において自分たちの上位互換である存在の手綱を握れなくなるというのは、非常に怖いことです。自分の力の及ばない存在は、一度手を離れればそこでおしまいですから。
そうした存在が野に放たれることに対して、おそらく以下の懸念が生まれます。「人間にとっての家畜のように、AIにとっての人間が、管理し飼いならす存在であると認識されるのではないか。」
それはさながらSF映画の「ターミネーター」やSF小説の「時計仕掛けのオレンジ」のような、人類にとってディストピアとも言える世界を彷彿とさせます。
いや、時計仕掛けのオレンジは違うかもしれない。でも全体主義のディストピアだからいいか。
なぜそうした恐怖が生まれるのか
そうした予測が起きるのは、AIという“データ上の存在”は感情を持っていないからではないかと僕は思います。感情を持たないということは、“すべての判断が合理性に基づく”ということです。統計や研究結果などのビッグデータによって、すべて決定されてしまう。
私たち人間というのは、しばしば合理的でない判断を下しながら生きる珍しい生き物です。それは、私たちには感情があるからで、感情こそが私たちを私たちたらしめるものだからです。
ネアンデルタール人に見る、人間の感情
この「感情」という概念が誕生したのは、人間という存在が誕生するはるか昔、ネアンデルタール人が始まりです。議論の分かれるところではありますが、少なくとも僕はネアンデルタール人に感情を見出しました。
というのも、ネアンデルタール人は「介護」をしていた記録があるからです。彼らが生きていた洞穴からは、老人特有のもろさや変形を持った骨が発見されています。これはつまり、年を取った個体を
動物(親)たちが、子供を守るために、自らの身を危険にさらすのとはわけが違います。種として、群れとしての存続を重視する合理的な生き物であるならば、
生存可能性が見込めず、ハンデにもなる衰えた個体を世話することなどありません。彼らは慈しみや愛情を持っていたから、老個体を介護していたのです。
話が少しそれてしまいましたが、何を言いたいのかというと、
自分たちは合理的ではないから、そうした懸念が生まれるということなのです。
完全に合理性を追求した場合、“まず不要になるのは人間という存在である”
ということにうすうす気づいているのではないでしょうか。
その気付きがあるからこそ、自分たちが排除されてしまう可能性を
無視できず、恐れるのだと思います。
そして、きっとその恐怖から、AIという存在を排除しようと警鐘を鳴らし続けるのです。
ただ、それでも僕は、人類が発明したテクノロジーの、
革命的利点を無視することはできません。
AIと共に生きること。ユートピアとも言える、明るいSF映画に見るような
あの近未来的な世界がうまれることに、どうしても心が浮き立つのです。
子供の頃はみんなそんな気持ちだったのではないでしょうか。
空を走る車に思いを馳せ、よき理解者になってくれるロボットたちに夢を感じる。
そうした子供たちの描く未来が、AIによってもたらされるとは感じないでしょうか。
以上が僕の考察と所感です。長いですね、申し訳ありません。
最後に、この本を読みたい場合はリチャード・ドーキンスの「利己的な遺伝子」と
ジャレド・ダイアモンドの「人間はどこまでチンパンジーか?」という本を
併せて読むのをおすすめします。
人間という存在のオリジンをこれらの本で学ぶことで、
より深く僕たちが置かれた状況を理解することができます。
3冊とも600ページほどの分量なので少々時間はかかると思いますが、
非常に多くの視点を得られる貴重な本たちです。
※「人はどこまでチンパンジーか?」はプレミアがついていて12,000円くらいするので、
簡易版の「若い読者のための第三のチンパンジー」でも大丈夫っちゃあ大丈夫です。
論理過程を省略するとインパクトが生まれる
このフレーズが頭から離れないのは、論理過程が省略されているからだ。本来「風が吹く」⇔「桶屋が儲かる」の間には、以下の論理が存在する。
❶風が吹く
❷風で土埃が立つ
❸土埃が目に入って盲人が増える
❹三味線に使う猫皮が必要になる
❺猫が殺される
❻猫が減るとネズミが増える
❼ネズミは桶をかじる
❽桶の需要が増える
❾桶屋が儲かる
❷~❽の論理が省略されていることが分かる。省略されればされるほど、原因と結果の繋がりは薄くなる。繋がりが薄いと謎が生まれる。その謎の正体を人は知りたがる。だから耳を傾けざるを得ない。
こうして、”論理過程が省略されるとインパクトが強くなる”。
何かを主張するときは、遠く離れた原因と結果を無理やりつないで伝え、その後に省略された論理を詳しく説明していこう。まずは相手をこちらに傾けるためにこの技法を覚えておくと役に立つ。「この世には2種類の人間しかいない」というフレーズも、論理過程を省略してインパクトを強くした典型的な例だ。