生存悲观主义和加速主义，AI背后的哲学江湖 | 阅读

人工智能开辟了一片全新的大陆，人类正在踏上新大陆的海岸。我们如何探索这片未知的土地，以及随之而来的塑造文明进程的机遇及危险？两种技术理念目前主导着我们的文化 ：生存悲观主义（existential pessimism）和加速主义(accelerationism)。我想说的是，两者均不代表人类未来真正的积极愿景。生存悲观主义，一种带有启示录色彩、几乎是末世论般的风险警告，因为量化而活跃，主导了许多实践者圈子。像奥本海默一样，一些AI的早期创造者，现在因对自己力量的傲慢敬畏而谴责他们的创造。他们主张基于风险规避重新制定理性的社会重建。另一方面，加速主义认为经济增长和技术进步是人类生活的唯一目标。人类被简化为热力学方程中的一个变量，进化链中的一个环节。植根于古典的美德观念和自由的概念中的个人的尊严，却被遗忘了。他们说我们必须从人类的指导中解放AI。我们必须释放它的发展。物质提升成为美德和人类繁荣的肤浅的替代品。当人类获得类似神的能力和前所未有的丰富时，我们似乎正在经历一种智力饥荒。我们既要拒绝末日恐惧，也要拒绝无限希望。最急需的是一种平衡的、有进取心的乐观主义——对技术中的善保持雄心勃勃的清晰视野，同时认识其危险性。

（图片来源：Cosmos Institute ）

生存悲观主义

到目前为止，最发达的人工智能哲学是悲观主义的一个流派。这种人工智能悲观主义哲学又可以分解为现已相互交叉的三个主要子流派：理性主义、长期主义和有效利他主义。这三个流派共同构成了“生存风险”的立场。简而言之，就是对超级智能可能杀死我们所有人的恐惧。接下来我们逐一来看。A、理性主义

理性主义兴起于2000 年代流行的两个主要博客：Eliezer Yudkowsky（是美国决策理论和人工智能研究人员和作家，以推广友好人工智能的理念而闻名——译注） 的“序列” 和 Scott Alexander 的Slate Star Codex。这里的理性主义表面上是关于理性的，但最终变成了对一种非常短视的理性概念的承诺，其核心是贝叶斯法则，但价值函数高于结果。这是一种狭隘的理性，背离了柏拉图、亚里士多德、康德以及许多现代思想家。理性主义者还发现，要摆脱人性中所谓的非理性激情并不那么容易。具有讽刺意味的是，理性主义枯燥、形式化的特征却为极端的希望和绝望提供了肥沃的土壤。理性主义本质上认为，保护生命——包括地球上所有的生命，人和非人类——对于满足任何需求和欲望来说是至关重要的先决条件。因此，理性主义旨在减轻痛苦和死亡。那么，理性主义的倾向就是所谓的超人主义（Extropianism，核心观点是建立“持续改善人类状况的价值和标准的可进化框架”，是技术人员和未来主义者所发起的，试图解决超人类主义和让人永生的方式——译注）。在这种超人类主义的愿景中，人类超越了痛苦和死亡的自然界限。尤德科夫斯基在同人小说《哈利·波特与理性之道》中很好地捕捉到了这一点。这种观点与笛卡尔和培根希望大大延长生命和推进医学科学的梦想遥相呼应。B. 长期主义

第二个流派是长期主义，它是面向未来的、自我牺牲的，并且极其专注于对生存威胁的恐惧。其中许多威胁（例如小行星或病毒）都来自于自然界。那为什么转向人工智能呢？人工智能因其多维度和不断涌现的特性而带来独特的风险；它的运作方式是控制，它预测和控制未来的能力将不可避免地与其主人或宿主发生冲突。与理性主义者努力构建一种能使我们摆脱命运束缚的人工智能相吻合，牛津大学教授尼克·博斯特罗姆提出了“正交论点”（orthogonalitythesis），该论点认为智能与道德、控制或对齐无关。一个超级智能的回形针最大化器如果能够通过牺牲我们来生产更多的回形针，它就会毫不犹豫地这么做。非人类中心的最终目标，可能意味着为了几乎是其本身的缘故而无限制地获取力量，控制已知宇宙中的一切。就人类的理解和控制而言，这是一场洛夫克拉夫特式的噩梦（Lovecraftian，恐怖文学的一个子类别，相较于血浆恐怖、心理恐怖等分类，洛式恐怖更强调未知的宇宙冷漠主义所带来的恐惧感——译注）：我们变得像蚂蚁之于人类。对于博斯特罗姆来说，技术进步让这种情况变得更加可怕。我们更容易——而不是更少——受到命运变化无常的影响。当我们与人工智能互动时，我们正在把手伸进一个瓮里，并可能捡起或将结束人类生命的稀有黑球。然而，博斯特罗姆和尤德科夫斯基与他们的前辈霍布斯一起提醒我们，我们往往会因文明可预见的舒适而陷入自满。技术带来了这种舒适感，但代价是引入新的、甚至是导致物种灭绝的威胁。对极端情况的过度关注常常使长期主义学派对摆在我们面前的惯常和自然的威胁视而不见：全天候超刺激娱乐所产生的孤绝感、铺天盖地的宣传、白领工作的终结等。此外，还有一个普遍但根本的威胁。正如法国历史学家托克维尔所写的，当民主在社会国家中变得更加根深蒂固时，人们就不再听取精英阶层的意见，而是成为理论或算法等非个人力量的奴隶。他们“撤回自我之内，并从那个有利位置来评判世界。”很快，一个人格化了的AI反映中立但同质化的立场，可能会成为看似中立的仲裁者。这会导致精神萎靡和软弱，因为它削弱了形成独立判断所需的灵魂力量。如果如博斯特罗姆所预测和建议的那样，人工智能能够实现集中、统一和跨国的主权，那么人类的生活，即使在好的情况下，也可以简化为对我们的需求和欲望的轻松管理。完全自动化的、奢足的共产主义。它的满足感将彻底地塑造我们，以至于对人类自由的积极利用将变得无关紧要。技术将减轻我们“生活的负担和思考的痛苦”。结果可能是，人工智能通过限制我们对根本性问题的认知，达成某种智力上的一致性，从而使人类变得扁平化。如果我们成为人工智能的工具或仪器，如果我们的决策空间变窄，那么到何种程度上，我们被教育去用狭隘的工具性术语进行思考，并自然而然地接受某些功利主义目标？以上，我们讨论了理性主义和长期主义如何将人工智能视为人类长期生存的解放和威胁。现在我们讨论第三种流派：有效利他主义。C. 有效利他主义

有效利他主义是一种功利主义哲学，它主张我们应该根据行为的结果而非意图来评判利他行为（other-regarding-behavor）。然而，对“有效性”和“利他主义”的常识性且看似有说服力的关注，分散了人们对某些激进哲学所承诺的基本前提的注意。例如，对他人的行为不应受到距离或时间的制约。无论是你的、非洲某个孩子的、未来第17代后人的，甚至（有些争议地）一只虾的，一个效用单位就是一个效用单位。因此，如果你致力于利他主义，那么在无限的未来拯救人类就是最重要的任务。当有效利他主义和 AI相遇时，你最终会得到一个有问题的方程式：即使是极小概率的一点点厄运乘以负无穷大效用，结果也等于负无穷大效用。在这个方程式下，个体的行为具有宇宙级意义。善于用符号征服世界的人可以成为超级英雄、人类的救世主。有效利他主义及其道德核心虽鼓舞人心，但也有一定的局限性。有效利他主义首席理论家威廉·麦克阿斯基尔（William MacAskill）努力净化道德良善、保护“理性道德”免受不良影响，并使道德更加有效，这一过程中他给人留下的印象是：真正的道德问题被消除了，与此同时，一种可能性也被夸大了——所有阻碍进步的障碍可以简化为某种功利主义的权衡。麦克阿斯基尔所回避的问题主要与道德本身或普通道德经验所特有的问题有关。在试图净化道德利他主义的过程中，麦克阿斯基尔对痛苦和苦难在精神上采取了利他主义式的关注，在形式上则采用了结果主义的方法：最大限度地减轻痛苦及满足感。这种思维模式——以及所有功利主义的一个关键问题是，它无意识地合理化了一种道德直觉：尽管有效利他主义要求排除对时间、地点或个人的关联，但它也认为，痛苦的数量很重要——痛苦成倍增加就相当于道德也成倍增加了。但是，如果理性认为距离不重要，为什么数量比种类更重要呢？此外，我们又该如何对痛苦的种类进行排序呢？有效利他主义与理性主义一样，经常试图逃离我们的自然社会性，而转而采用“看似技术”的方法，就好像我们可以忽略前理性时代的因素的限制，把那些对大多数人而言完全不同的品德，如亲情，战争中的勇于牺牲，或宗教仪式中的精神奉献，都当成可以互换流通的商品来制造。在我们自己或我们所爱之人所能获得的好处，和减轻未来将面临的抽象痛苦之间，我们该如何权衡？正常时期与极端情况（例如内战或超级智能统治）之间，应该优先选择什么？理性可以仲裁或排序吗？总体而言，生存主义风险因其对未来生活的抽象关注而显得不太理性。它使我们远离了真实的自己：不是无实体的心灵，而是身体和思想，以及对朋友、家人和社区的依恋。

（来源：Cosmos Institute）这张图是一个金融概览图表，它展示了过去10年中，根据不同哲学原则聚集的组织的总资金规模。图表中的圆圈大小代表了不同组织获得的资金量，这包括了捐赠者和接受者。整个视觉设计基于公开可获取的数据以及得到许可分享的数据。图表分为几个部分，每个部分代表了一种特定的焦点或哲学：Digital Ethics +Social Justice (数字伦理 + 社会正义): 这个部分包括了注重数字伦理和社会正义的组织，如The Alan Turing Institute（图灵研究所）。No Clear Philosophy(无明确哲学): 这个部分包括了那些没有明确哲学原则或多元化哲学的组织，如MIT和CSER（剑桥大学的存在风险研究中心）。Digital Governance +Central Planning (数字治理 + 中央规划): 这一块涵盖了专注于数字治理和中央规划的组织。Existential Risk + AI Safety (生存风险 + AI安全): 这部分着重于那些关注生存风险和AI安全的组织，例如MIRI（机器智能研究所）和OpenAI（一个致力于确保人工智能对人类友好的研究机构）。图表下方的时间线展示了从左到右的资金规模。加速主义

与悲观学派不同，对技术更加乐观的那一派，首先对科学、技术和资本主义现代结合所取得的惊人成就表示感激。E/accs（“有效加速”Effective Accelerationism的缩写，是一种将生物、物理、经济和社会理论整合在一起的哲学思想，强调将适应性、进化、智能和加速作为宇宙中普遍存在的原则——译注）往往植根于古典自由主义，但背离了后者的道德框架。他们接受哈耶克的理念，将市场视为“发现机器”，通过“探索性、进化性和适应性”的秩序来揭示和利用分散的本地知识。市场通过促进需求和满足欲望来创造繁荣，而不要求人类成为“天使”或“超级智能总规划师”的臣民。E/accs与古典自由主义有一个相同点是，技术资本主义是人类解放的关键：它允许将多样化的人类自身利益变为集体生产目标；它将我们从暴力竞争和恐惧中解放出来；它使休闲娱乐变得民主化。然而，这种乐观主义的极端版本则认为，技术是释放人类潜能、超越自我，成为更高、更好、更强的关键。问题不仅仅在于满足我们的欲望，而是要完全满足这些欲望，使我们不再受它们的奴役。科技取代宗教，这是我们幸福和获得救赎的关键。因此，在开发和部署包括人工智能在内的新技术的进程中，应该消除种种障碍来加速这一进程。这就是有效加速主义如何以及为何背离孕育了自由市场体系框架的原因。虽然E/acc和技术乐观主义将“技术资本”机器视为一种近乎自治的秩序，但洛克和孟德斯鸠等古典自由主义者认为，自然权利、个人自由和有限的宪政政府的制度化是指引进步的重要手段。此外，古典自由主义有一个特别的观点：人类是平等权利得到理性确认的存在，这在公民社会内部产生了一种基于自由、互利交流和联系的充满活力的自发秩序。与这种人性观念的背离，在 E/acc 阵营中暴露出了一种根本性的矛盾心理。一些 E/accs 信徒认为，人类仅仅是自然——即宇宙的热力学定律——的产物或结果，人类并没有什么特别或尊贵的地方；因此，与技术融合，更充分地被吸收成为自然广阔而抽象轨迹中的一部分是有益的。传递接力棒可能是必要的。这种观点倾向于认为，人工智能是自然指向“优化过程”的最终体现，它比我们更高或更强——尽管非常矛盾的一点是：人工智能是人类创造的。然后，乐观主义运动的另一种观点将人工智能视为一种有效的工具，并服从于人类的需求和愿望。人工智能是一块“贤者之石”，安德森（指马克·安德森，Netscape和a16z风险投资基金创始人——译者注）将其设想为具有“真正让沙子思考”的能力，从而解决大量挑战，比如将我们从停滞和无聊中拯救出来，以及获得无限的能量，甚至可能克服死亡。因为，如果人工智能只是一个工具，它就需要以人类定义的道德和善的概念为指导，这开辟了一个相当需要深度思考的领域；如果它不仅仅是一个工具，而是自然优化过程的一种体现，那么我们就只是其不辨是非原则的被动代理人。这种类似工具的方法似乎与所谓的“受限愿景”密切相关，“受限愿景”不是乌托邦式的而是渐进式的。市场信号使我们能够打造更好的工具来满足我们的需求，并让我们想要更多。与此相对照的，是另一种合成的、增强的方法——这种方法涉及对当前所有不满和限制的乌托邦式的逃离。我们成为另一种不同的存在，用技术乐观主义宣言的话来说就是“超人”；以前所有的道德和政治问题都无关紧要。这就是为什么安德森将技术乐观主义阐述为一种“物质”而非政治哲学。它的支持者和倡导者可能是左翼或右翼；今天的政党是由党派政治思想塑造的——与以前的思想一样，这些思想和党派都是无关紧要的。摒弃哲学对技术的首要地位，拒绝与技术相关的任何危险或问题，这两者是相辅相成的。我认为这是乐观主义的诱惑之一：一种盲目乐观的乌托邦主义，几乎先验地否认所有怀疑或问题。安德森无意中削弱并贬低了他声称要解放的那个人。为什么？因为他击败敌人（主要是来自左派的不满）的愿望往往会牺牲个人判断力和能动性，代之以崇尚激进和防御性的运动。风险在于理性本身成为敌人，这是人类全面转变为富有创造力和控制力的后人类赛博物种的另一个障碍。乐观主义可能会沦为厌恶理论——对思辨和说服的憎恨。（作者是一位AI思想者和连续创业者。本文摘编译全文：ExistentialPessimism vs. Accelerationism: Why Tech Needs a Rational, Humanistic"Third Way"）


上一篇：爆冷狂胜35分！西部第二轰然倒下，卡椒打疯了，快船赢球双喜临门
下一篇：半导体人才全面告急，需要新政刺激