今天我发布了一系列名为《更好的未来》的文章。 这大约是八年来的心血,所以我很高兴它终于发布了! 它提出了一个问题:在展望未来时,我们应该专注于生存,还是繁荣?
这是个想法: 至少在实践中,面向未来的利他主义者往往专注于确保我们生存(或者不被一些毫无价值的人工智能永久剥夺权力)。 但也有一些很好的理由去关注未来的繁荣,而不是仅仅生存。
为什么? 好吧,即使我们幸存下来,我们可能也只会得到一个未来,这个未来的好处只是它本来可能有的一个小部分。我们可以尝试帮助引导社会走上通往一个真正美好的未来的道路。
也就是说,我认为在繁荣方面的*风险更大*,而不是在生存方面。所以,也许这应该是我们主要关注的焦点。
整个论文系列今天发布。但我将在接下来的几周内发布每篇论文的摘要。
这一系列作品远非个人努力。@finmoorhouse 是两篇论文的共同作者,而 Phil Trammell 是《更好未来基本案例》补充材料的共同作者。
在更广泛的 @Forethought_org 团队(Max Dalton、Rose Hadshar、Lizka Vaintrob、Tom Davidson、Amrit Sidhu-Brar)的帮助下,还有大量评论者的支持。
43.88K