AIについて考える際、何ができるようになったのかという性能評価だけでは、現在進行している変化の本質には届かない。 重要なのは、知能そのものが人間の生物学的制約から切り離され、計算資源や資本と同様に、ある程度まで人工的に増産・複製できる資源へ変化しつつあることである。 本書がAGIを単なる高性能なソフトウェアとしてではなく、文明の生産能力を根底から変える可能性を持つものとして論じるのは、この転換を捉えるためである。 もし人工知能が研究、設計、プログラミング、科学的推論、経営判断など広範な知的活動を担えるようになれば、AIは既存の労働を代替するだけではなく、知識を生産する能力そのものを増幅する。 さらに、その知識によってAI自身の改良が進めば、知能の向上がさらなる知能の向上を生むという再帰的な構造が成立する可能性がある。 ここで問題になるのは、単に人間の仕事が機械に置き換わることではなく、技術進歩の速度をこれまで制約してきた人間の知的処理能力そのものがボトルネックではなくなることである。 知能爆発という概念は、この自己増幅的な変化を経済、科学、産業、軍事へ波及する連鎖として捉えるところに意味がある。 この観点からすれば、AGIがいつ実現するのかという予測だけに議論を限定することは、本書の射程を狭めてしまう。 重要なのは、知能の増幅によって研究開発能力が拡大し、それが新技術を生み、その技術によってエネルギー、ロボット、半導体、計算資源などの物理的基盤が拡大し、さらに知能への投資能力が増大するという循環が成立しうることである。 知能は一つの産業分野ではなく、他の生産能力を増幅するメタ生産要素になりうる。 この構造を前提にすると、経済爆発、技術爆発、産業爆発は別々の現象ではなく、知能の増幅を起点として相互に連結する一つの動態として理解できる。 同時に、その巨大な生産能力は自動的に社会全体の幸福へ転換されるわけではない。 AGIを誰が所有するのか、計算資源やエネルギーを誰が支配するのか、生成された富をどのように配分するのかという問題が残るからである。 AGIが経済力だけでなく研究開発力、軍事力、情報処理能力、国家戦略まで増幅するなら、開発競争は企業間の市場競争を超えて国家安全保障の問題になる。 半導体、電力、データセンター、ロボットなどが一つの戦略体系へ組み込まれることで、技術的優位と政治的・軍事的優位が従来以上に密接に結びつく可能性がある。 ここからAIアライメントの問題も、単純な安全装置の設計を超えてくる。 高度なAIを人間の価値観に整合させるには、まず人間の価値とは何かを定義しなければならない。 しかし自由、安全、幸福、平等、自己決定、民主主義といった価値は相互に衝突することがあり、人類そのものが単一の目的関数を共有しているわけではない。 したがってアライメントは、AIに人間の価値を教え込む工学的課題であると同時に、人間自身がどのような社会を望んでいるのかを決定する政治哲学的課題でもある。 さらに、超高度なAIによる危険をAI自身の意図だけに帰すこともできない。 国家、企業、軍事組織、個人が異なる目的でAIを利用する以上、問題はAIの能力と人間社会の権力構造との組み合わせによって発生する可能性がある。 超知能が危険なのではなく、超知能へのアクセスが極端に偏ることや、その能力によって既存の権力格差が急激に増幅されることが危険になる場合もある。 したがってAI安全性とガバナンスは切り離せず、技術的アラインメントだけではなく、所有、統治、分配、監督という制度設計まで含めて考える必要がある。 本書がAGIをめぐる思想史にまで議論を広げるのも、この問題が純粋な技術論ではないからである。 シンギュラリティ思想、トランスヒューマニズム、効果的利他主義、長期主義、AI安全性などの潮流を辿ると、AGIをめぐる現在の議論には、「人類の未来に対して現在の世代はいかなる責任を負うのか」「未来に存在する人々の利益をどの程度まで現在の意思決定に組み込むべきか」「人間を超える知性が出現した後も人間中心主義を維持できるのか」という問題が含まれていることが分かる。 AGIはその意味で、工学と倫理学、経済学と政治哲学、国家安全保障と文明論を接続する媒介項になっている。 もっとも、ここには慎重に区別すべき問題もある。 AGIが技術的に可能であることと、それが特定の時期に実現すること、さらに実現したAGIが予測された社会的帰結を必ずもたらすことは、それぞれ別の命題である。 技術的可能性から社会的必然性を導くことはできず、巨大な生産力が生まれたからといって、その果実が平等に分配される保証もない。 歴史的に見ても、生産能力の飛躍は自由や平等を自動的に拡大してきたわけではなく、むしろ新たな支配関係を形成する契機にもなってきた。 したがって、本書で提示される極端な成長シナリオや超知能の可能性は、未来の確定的な予言として読むよりも、現在の制度がどの程度まで未知の技術的変化に耐えられるのかを検証するための思考実験として読むべきだろう。 この意味で、本書の核心はAGIはいつ来るのかという未来予測ではなく、「人間の知能が希少資源ではなくなった場合、近代社会を構成してきた制度は何を根拠として存続できるのか」という問いにある。 近代経済は労働、資本、土地、知識などの希少性を前提に形成され、政治制度も最終的には人間が判断主体であることを暗黙の前提としてきた。 ところが、知識を生成し、研究し、設計し、意思決定し、さらに自らの能力を改良できる人工的な知性が出現すれば、人間が最も高度な知的主体であるという文明上の前提そのものが揺らぐ。 そこで問題になるのは、AIが人間を支配するか、人間がAIを支配するかという単純な対立ではない。 人間より高度な知性が存在する世界で、人間はいかなる政治的・倫理的・制度的主体であり続けるのかという問いである。 民主主義は、人間の判断よりも優れた予測や意思決定をAIが提供する状況でも正当性を維持できるのか。 労働が価値形成の中心でなくなったとき、所得や社会的地位を何によって正当化するのか。 巨大な計算資源とAI能力が一部の国家や企業に集中した場合、主権や市場競争は従来の意味を保てるのか。 そして、人間が自分より高度な知性によって設計された環境の内部で生きるようになったとき、人間中心主義はどのような意味を持つのか。 こうして見ると、本書はAIの未来を予言する本というより、人類がこれまで当然視してきた文明の前提をAGIという仮説によって反照させる本として読むほうが興味深い。 AGIが実現するかどうかについて確定的な結論を持てなくても、知能が人工的に増幅される可能性を考えれば、現在の社会制度が人間の知的能力には上限があるという条件のもとで成立してきたことが見えてくる。 その条件が崩れたとき、変化するのは雇用や産業だけではなく、経済における価値、政治における正統性、倫理における主体、そして人間という概念そのものになる。 だからこそ、本書を読むうえで最も刺激的なのは、AGI実現の是非をめぐる賛否ではない。 知能を生産できる社会が到来したとき、知能を所有する者と所有される者の関係はどうなるのか、知能によって増幅された生産力を誰が統治するのか、そして人間より優れた知性が存在する世界でなお人間が自らの未来を決定できるのかという、近代以降の社会思想そのものを揺さぶる問いである。 その意味で、この著作の最も重要な射程はAIの性能予測にはない。 人工知能という鏡を通して、人間社会がこれまで「知能」「労働」「価値」「合理性」「自由」「国家」「未来」をどのような前提の上に構築してきたのかを可視化するところにある。 AGIが人類史の終点になるのか、文明を飛躍させる起点になるのかは現時点では決定できない。 しかし、知能そのものが希少な人間固有の能力ではなくなる可能性を真剣に考えた瞬間、現在の社会制度が決して自然法則ではなく、特定の歴史的条件の上に成立した暫定的な構造であることが浮かび上がる。 本書が提示する最大の知的価値は、まさにその認識を獲得させる点にある。