タイトルが過激だけど、内容は予想以上にまともだった。超知能AIを、世界のどこかの誰かがつくったら、人類は滅びる。この国だったら、この企業だったら、こういう価値観や技術をもった人だったら大丈夫、ではない。誰がつくっても、それが“つくられた”時点で人類は終わり、という主張である。 本の内容は、ここまでの極論を主張する根拠が冒頭の寓話的なものと共に語られ、破局シナリオなるものも黒枠ページで中盤に挿入されている。AIのテクニカルな仕組みに詳しくない身としては、かなり勉強にもなった。 これは議論を巻き起こす警告書だろうなぁ。本書では執筆時期の関係で語られていないが、タイムリーな話題としてのClaudeのMythos問題が頭によぎりながら読んだ。 この本の補足情報を著者が公開しており、日本語訳へのアクセスQRコードも添えられているから、より深く知りたい人はそこでも掘れるようになってる。原著の発行から短期間で翻訳してくれた早川書房、編集者、訳者に感謝。