まえがき

『未来に実現してほしいと誰もが願う最小限の倫理的原理とはどのようなものになるだろうか？（略）そのほとんどは次の4つの原理にまとめられると思う。』

リスト

• 功利主義　良い意識的経験を最大限に増やし、苦しみを最小限に減らすべきである。
• 多様性　たとえ考えうる中でもっとも良い経験が特定されたとしても、その同じ経験が何度も繰り返されるより、多様なタイプの良い経験のほうが好ましい。
• 自主性　意識を持つ主体または社会は、最上位の原理に抵触しない限り、自身の原理を追求する自由を持つべきである。
• 継承性　今日の（、、、）多くの人間が幸福ととらえるシナリオと整合させ、今日の（、、、）ほぼすべての人間が恐ろしいととらえるシナリオとは相容れないようにする。

あとがき

まえがきを含めて、マックス・テグマーク 『LIFE3.0──人工知能時代に人間であるということ』（紀伊國屋書店、2019年）より。

人類には『存続と繁栄を促すという共通の目標』があるため、倫理的原理にも自ずと共通項が生じるとしています。

多様性があるのが意外というか面白い。『我々が多様性を望む理由のひとつは、人類を打たれ強くすることで存続と繁栄に役立つからかもしれない。』