如果我们进入 AI 远超人类的「诡异时代」(spooky era)时,我们能全部快乐的退休吗?
Vitalik:可以理解这种观点的吸引力,但我认为它存在两个问题。
一是稳定性。我们本质上是肉体凡胎,由物质组成。而这些物质理论上可以进行比我们目前多百万倍的计算,AI 最终会注意到这一点。到那个时候,我们这些“肉袋”是否能对齐并抵抗压力,是有风险的。
更深层次的原因,作为人类的一部分意义就在于,人生要有意义。而有意义的人生,需要我们付出努力并有所回报,如果我们能够随意过上极端舒适的生活,很多人会感到空虚。
希望我们能找到「人类-AI」协同的更强方式。