メイン主張のある種の過激さは別として、ふつうに勉強になる本。AIのテクニカルな仕組みに詳しくない身としては、人類の歴史もふまえての寓話的な冒頭文も含めた解釈および解説は価値がある内容に感じる。 問題は、タイトルである「超知能AIをつくったら人類は滅亡するのか」という話だが、半分ほど読んでいる限りは、著者は「それはいつかつくられ、それによって人類は滅亡するだろう」と言いつつ、それがいつ、どう実現するかは「わからない。予測できない」と書いており、滅亡するという結果のみが明確になっていて「どうやって」の部分はブラックボックス化している。これを陰謀論とか「過激な主張だ」と言うのは簡単だが、著者の経歴から考えると「ここまでいろいろとやってきた人が必死に考えた結果、そう主張しているんだな。だが本人だってこれが間違っていてほしいと思っているよう」くらいのイメージだなぁ。 そうなるかもしれない。超知能AIはいつかつくられるんだろうし、そうなるとやばいかもしれない。その最悪なケースを想定しておくのはアリかもしれない。 さて、続きを読んでいく。