AIに関する問題の一端は、アライメント問題の難しさを否定する人が多いことにある。 アプトン・シンクレア 「自分のしていることを理解すると仕事が成り立たなくなる人に、それを理解させるのは至難のわざだ」 AIの場合は、より多くの人にとって、一度の失敗が取り返しのつかないこと。 というか、もうすでに手遅れになっているかもしれない。 AIの存在意義を、人を中心に据える様にしても、その目的のために、人類を滅ぼす、もしくは減らすことは成り立ちそう。 妄想 宇宙人が人が考えている形で他のハビタブルゾーンの惑星に移動できない理由が、AI的な自分達を置き換える知性体の開発に行き着き、宇宙では限定的な環境でしか存在できない生物より、そちらの方が都合がいいので、行かないから