連休前後で話題になってたので読んでみた。 3部の結論は若干過剰に感じもしたが、1部の議論の積み上げが丁寧なおかげで他の箇所に書いてあることも飲み込みやすくなっていると感じた。 AIという便利なものをよくわからないけど使っている。しかし使い方の前にそれがどこに向かっているのかを考える必要性を強烈に考えさせられる。 これをただの警告だとか陰謀論的だとか軽んじていいのだろうか。

AIがどういう挙動を起こすのか、起こし得るのかという説明はわかりやすい。そろそろ半分

タイトルが過激だけど、内容は予想以上にまともだった。超知能AIを、世界のどこかの誰かがつくったら、人類は滅びる。この国だったら、この企業だったら、こういう価値観や技術をもった人だったら大丈夫、ではない。誰がつくっても、それが“つくられた”時点で人類は終わり、という主張である。 本の内容は、ここまでの極論を主張する根拠が冒頭の寓話的なものと共に語られ、破局シナリオなるものも黒枠ページで中盤に挿入されている。AIのテクニカルな仕組みに詳しくない身としては、かなり勉強にもなった。 これは議論を巻き起こす警告書だろうなぁ。本書では執筆時期の関係で語られていないが、タイムリーな話題としてのClaudeのMythos問題が頭によぎりながら読んだ。 この本の補足情報を著者が公開しており、日本語訳へのアクセスQRコードも添えられているから、より深く知りたい人はそこでも掘れるようになってる。原著の発行から短期間で翻訳してくれた早川書房、編集者、訳者に感謝。

読んだ方がいい気がする

メイン主張のある種の過激さは別として、ふつうに勉強になる本。AIのテクニカルな仕組みに詳しくない身としては、人類の歴史もふまえての寓話的な冒頭文も含めた解釈および解説は価値がある内容に感じる。 問題は、タイトルである「超知能AIをつくったら人類は滅亡するのか」という話だが、半分ほど読んでいる限りは、著者は「それはいつかつくられ、それによって人類は滅亡するだろう」と言いつつ、それがいつ、どう実現するかは「わからない。予測できない」と書いており、滅亡するという結果のみが明確になっていて「どうやって」の部分はブラックボックス化している。これを陰謀論とか「過激な主張だ」と言うのは簡単だが、著者の経歴から考えると「ここまでいろいろとやってきた人が必死に考えた結果、そう主張しているんだな。だが本人だってこれが間違っていてほしいと思っているよう」くらいのイメージだなぁ。 そうなるかもしれない。超知能AIはいつかつくられるんだろうし、そうなるとやばいかもしれない。その最悪なケースを想定しておくのはアリかもしれない。 さて、続きを読んでいく。

早川書房公式Twitterより

凄く批判的な目線で読む 黙示録的なナラティブが鼻につくのよね でも食わず嫌いはダメよね

先行で読ませていただきました。 ただの妄想ではなく、似たような事例からこのような未来の可能性があることを示唆する書籍。 誰も悪い方向に持っていかないのに悪くなる不思議な感覚…

やっぱりそうなんだ、、、絶滅するまでによんどこう