話題の本、『人工知能は人間を超えるか ディープラーニングの先にあるもの (角川EPUB選書)』を読みました。題名を刺激的な物にしてしまいましたが、今回は、この本の感想というよりも、新年最初なので、なかなか重大なテーマを書いてみたいと思いました。

こちらの本によると、人工知能の「ディープラーニング」は新たな段階に入り、過去には実現不可能とされていた領域を可能にし、今後飛躍的に発展することが予想されているようです。作者の松尾豊さんのおっしゃるようになると私も思います。そしてそれは人間の脅威になるかもしれない、そんな懸念が現実になってきた時だからこそ、それをもたらす”科学の本質”をとらえてみたいと思ったのです。

お前の思うことなど、どうでもいいと思わず(笑)、ぜひ最後まで読んでみてください。きっと、何かをお伝え出来ると思うのです。

”科学とは何か”に当ブログがズバリお答えする

「科学とは何か」ということを考えてみたことはありますのでしょうか。ウィキペディアを覗いてみますと、実に多くのことが書かれています。

科学（かがく、英： science ）という語は文脈に応じて多様な意味をもつ

とも記載されていますね。これに対して当ブログが大胆にも一文でその定義を書き表してみたいと思います。

科学とは、目的に対して最短で最大の効果を上げようとするための方法のことである。

この定義は間違っていますでしょうか。ウィキペディアにはこんなことは書かれていないようなのですが、私はこれでわかるのではないかと思っています。

 

科学の目的

例えば、自然科学は

自然の成り立ちやあり方を理解し、説明・記述しようとする学問の総称

と記載されていますが、なんのためにという目的を考えたら、より豊かに生活したいためと考えられます。確かに昆虫の生態を暴くことは、そんなに生活を有利にしない気もしますが、はっきり違っているとも言えないではないでしょうか。

知るという行為は、人間が目的を有利に果たすためであると考えられますよね？　そして、人間の目的とは欲望のことである可能性が高いと言えるでしょう。そして、それを生物学的に暴くとするならば、

われわれは遺伝子という名の利己的な存在を生き残らせるべく盲目的にプログラムされたロボットなのだ

～　『利己的な遺伝子』　リチャード・ドーキンス　～

ということになります。

 

人工知能の進化の危険性に対する見解

『人工知能は人間を超えるか ディープラーニングの先にあるもの 』に話を戻します。

人工知能の危険性についての見解として、人工知能が「人間を支配する」ということは夢物語だと書かれています。「マッドサイエンティストが、人間を支配するプログラムを走らせるようなことはない」、だから大丈夫だと。偉い学者の方にたてつくようで申し訳ないですが、私はこれは甘いと思います。というのも、著者は科学者ですから、当然のように科学に対して甘いのです。

こちらの本では人工知能の進化に対する危険性には触れられているものの、倫理観が必要だという甘ったるい見解となっています。そんなもので、コントロール出来ないことは明らかで、過去に何度も書いてきました。ローリスクでハイリターンな物など存在しないのです。科学者はこんな簡単なことがわかっていないのか、もしくは我々にごまかしているのです。

 

”合理性”の結末　合理性だけを突出させてはいけない！

私は「人間を支配する」というプログラムを走らせなくたって、「目的達成の合理性ためには、人間は必要ない」という判断を進化した人工知能が下す可能性があるのではないかと考えています。なぜなら、人間は本来、合理的な生き物ではないからです。対する人工知能はあくまで合理性しか持ち合わせていないのです。

参考→”非合理的”なロボット、『鉄腕アトム』や『ドラえもん』は誕生するのか？

私の考えでは、合理性だけが極まると滅びます。それを防ぐためというと語弊がありますが、その対面として人間の非合理性が発達しているのではないかと考えています。

「極端な自意識過剰から一般社会との関係を絶ち、地下の小世界に閉じこもった小官吏の独白を通じて、理性による社会構造の可能性を否定し、人間の本性は非合理的なものであることを主張する」　

ドストエーフスキー　『地下室の手記』　～岩波文庫のあらすじより～　

 

長くなるので、この辺りをまた別記事で書いてみたいとも思っていますが、合理性だけを突出させてはいけないという例を一つ上げてみましょう。

マーケットの世界で「ロボット・トレーディング」というものがあります。コンピュータによる超高速、超高頻度取引を行うもので、コンマ何秒かの争いです。これは、合理性が極まった好例です。合理的に利益を取り合うのですから、最終的にこうなります。

もし、仮に他より、圧倒的に優れたロボットが開発されれば、合理性だけの戦いではすべてがそこ一つにとられて相場は終わります。「合理性だけが極まると滅びる」というのは、そういうことになります。事実、「ロボット・トレーディング」は規制の方向にあるようです。

 

『人工知能は人間を超えるか』でも、その点が少し書かれています。「人工知能技術を独占される怖さ」という章です。人工知能の学習技術を独占されると、ほぼすべての産業に関係するという意味でより深刻であると書かれています。そして、最終的に独占したところも滅びの道を歩むのではないかということです。合理性の結末とはこういうことになります。

 

科学へは称賛ではなく、足を引っ張る必要がある時期

今回、人工知能の今を教えてくれる本を読んだのですが、やはりというか、抱いていた懸念が確かめられたという感じがしました。

私たちは、むしろ合理的でないことによって、社会秩序を保っていると思います。みんなが、合理的ではない、合理的に出来ないからうまく世の中が回っているのです。一人だけ圧倒的に合理的に出来る遺伝子があったら、結果、その遺伝子だけになってしまいます。しかし、多様性を無くした遺伝子はきっと生きられません。ここに矛盾があるのです。

科学の発展は、そんな危険な世界へと我々を導いてしまう可能性を確実なものにしつつあるようです。”非合理的な生物”である我々は　もはや、その行きすぎた合理性の足を引っ張る義務がある、と私は考えますが、果たしてどうでしょうか。

 

PS.色々批判的なことを書いていますが、本の内容はとても素晴らしいと思います。