Ai は可謬。そして全体主義と相性がいい。情報を一箇所に集め統治できる 民主主義も可謬だが、自己修正メカニズムがあり。間違いを是正していく営みがある。

ハラリはもーいいやと思っていたけど、じわじわと気になってきた( ´△｀)

サピエンス全史のようなカタルシスはなく、真新しさにも欠ける印象。正直なところそこまで評価される本かと思う…

SNSの害により自死した人の遺族が、某党党首を起訴した日に。

国民どうしが話し合うことができず、互いに相手を政治的なライバルではなく敵と見なしているときには、民主制は持ちこたえられない。（p.203） 敵と見なさなくてはならない状況を作り出したのが差別やらなんやらを繰り返す者らなのは自明なのだけど、そこはいったん置いといて、それも含めてこのような「敵対的」な状況を作り出した「システム」がSNSである以上、われわれは一度SNSを離れなくてはならないと思う。少なくとも、アルゴリズムが支配するエンゲージメント優先のSNS、拡散すれはするほど「勝ち＝価値」になるSNSからは離れる必要がある。そこで民主主義とはなにかといった「正しいこと」を話し合っても、もはや有意義な結果は得られないのだろう。

各種SNSのおすすめフィード＝アルゴリズムによるエンゲージメント優先でなされるプッシュの有害さ、について書かれている箇所。エコーチェンバーはよくないと言われるけども、アルゴリズムによって作られている無自覚なエコーチェンバーもあり、むしろおすすめフィードをデフォルトにしてしまうほうが危険なのだろう。 少しズレるけども、Siriやアレクサへの呼びかけによって部屋の電気をつけたり調べものをしてもらう、いわゆるスマートホーム的なものを活用する人は増えてきていて、そのことにそこはかとなく怖さがあった。まだ言語化できないけど、たぶん繋がってくる気がする。頭脳も身体もAIに明け渡してしまう感覚。

オーディブルで聞きながら目でも読む実験用に物理で買った

民主主義も全体主義もAI革命においてディストピアな未来がある。 情報という人々をつなぐものが高度になりすぎると逆に分断を招いている皮肉とそれを「シリコンのカーテン」と表現するハラリの歴史に対する視座に震える。 〈不可謬という幻想を脇に押しやり、強力な自己修正メカニズムを持つ制度や機関を構築するという、困難でかなり平凡な仕事に熱心に取り組まなければならない〉 この本がまさにNexusであり、みんなが読んで誰しもこの歴史認識をもってAIと対峙すればそれこそ有効な「共同主観的現実」が生まれてハッピーなんだろうけど、個々に深く根差した神話にアプローチするのは人ではなくAI（アルゴリズム）という流れはなかなか断ち切れなさそう。 希望の書なんだけどディストピアな未来しか見えないのは自分が悲観的なせいなのか…？

上巻よりも現代に触れることが増えた。AIが自らネットワークのメンバーとして振る舞い、もはやArtifical Inteligenceから人類とは相容れないAlien Inteligenceになりつつあるといったことが書かれている。AIをコントロールしつつ、恩恵を最大限にかつ害を最小限にするための枠組を国家的そして国際的に構築することが焦眉の急である。第二のスティーブ・ジョブズやイーロン・マスクになりたい人は多くても、第二のオードリー・タンになりたい人は少ないという著者の見解が鋭い。

アメリカの議会襲撃事件に参加した大勢の人の中から1人を割り出す技術や、中国の児童誘拐で十数年後に成長した子どもを見つけ出す技術など、AI進歩の著しさがわかる。そしてヒジャブを被らない女性を取り締まるために顔認識テクノロジーを使用するイラン警察など、体制への順応に使われる恐ろしさも描かれる。まだ100ページ弱だけど、この後どうなっていくのかな。

読んだだけで終わらせたくないな、そう思わせてくれる会心の著作。何ができるだろうか。

困難だがまったく平凡な仕事に熱心に取り組める人間は、そう多くない。そんな無理ゲーこそAIの得意分野である。しかし、「対話を試み、信頼を築きあげる」という営みは、果たしてAIの領分なのだろうか？ 生活全てをアルゴリズムに拿捕され、ジャンクデータの大海に投げ出される前に、各自熟考されたい。

honto