设为首页|收藏本站|
开启左侧

[科技] 生存悲观主义和加速主义,AI背后的哲学江湖 | 阅读

[复制链接]
劣绅 发表于 2024-2-11 21:28:53 | 显示全部楼层
 
野生智能斥地了一片全新的大陆,人类正在踏上新大陆的海岸。我们若何摸索这片未知的地盘,以及随之而来的塑造文化进程的机遇及危险?两种技术理念今朝主导着我们的文化 :保存灰心主义(existential pessimism)加速主义(accelerationism)我想说的是,两者均不代表人类未来实在的积极愿景。保存灰心主义一种带有启迪录色彩、几近是末世论般的风险警告,由于量化而活跃,主导了很多理论者圈子。像奥本海默一样,一些AI的早期缔造者,现在因对自己气力的狂妄畏敬而训斥他们的缔造。他们主张基于风险躲避重新制定理性的社会重建。另一方面,加速主义以为经济增加和技术进步是人类生活的唯一方针。人类被简化为热力学方程中的一个变量,进化链中的一个环节。植根于古典的美德看法和自在的概念中的小我的庄严,却被忘记了。他们说我们必须从人类的指导中束缚AI。我们必须开释它的成长。物资提升成为美德和人类繁华的肤浅的替换品。当人类获得类似神的才能和史无前例的丰富时,我们似乎正在履历一种智力饥荒。我们既要拒绝末日恐惧,也要拒绝无穷希望。最急需的是一种平衡的、有进取心的悲观主义——对技术中的善连结大志勃勃的清楚视野,同时熟悉其危险性。
保存灰心主义和加速主义,AI背后的哲学江湖 | 阅读 第1张图片


(图片来历:Cosmos Institute )

保存灰心主义

到今朝为止,最发财的野生智能哲学是灰心主义的一个门户。这类野生智能灰心主义哲学又可以分化为现已相互穿插的三个首要子门户:理性主义持久主义有用利他主义这三个门户配合组成了“保存风险”的态度。简而言之,就是对超级智能能够杀死我们一切人的恐惧。接下来我们逐一来看。A、理性主义

理性主义兴起2000 年月风行的两个首要博客:Eliezer Yudkowsky(美国决议理论和野生智能研讨职员和作家,以推行友爱野生智能的理念而著名——译注) 的“序列” 和 Scott Alexander 的Slate Star Codex。这里的理性主义概况上是关于理性的,但终极酿成了对一种很是短视的理性概念的许诺,其焦点是贝叶斯法例,但代价函数高于成果。这是一种狭隘的理性,背叛了柏拉图、亚里士多德、康德以及很多现代思惟家。理性主义者还发现,要摆脱人性中所谓的非理性豪情并不那末轻易。具有嘲讽意味的是,理性主义死板、形式化的特征却为极真个希望和失望供给了肥沃的土壤。理性主义本质上以为,庇护生命——包括地球上一切的生命,人和非人类——对于满足任何需求和愿望来说是相当重要的先决条件。是以,理性主义旨在减轻疾苦和灭亡。那末,理性主义的偏向就是所谓的超人主义Extropianism,焦点概念是建立“延续改良人类状态的代价和标准的可进化框架”,是技术职员和未来主义者所倡议的,试图处理超人类主义和让人永生的方式——译注)。在这类超人类主义的愿景中,人类超越了疾苦和灭亡的自然界限。尤德科夫斯基在同人小说《哈利·波特与理性之道》中很好地捕捉到了这一点。这类概念与笛卡尔和培根希望大大延永生命和推动医学科学的胡想遥相照应。B. 持久主义

第二个门户是持久主义,它是面向未来的、自我牺牲的,而且极为专注于对保存威胁的恐惧。其中很多威胁(例如小行星或病毒)都来自于自然界。那为什么转向野生智能呢?野生智能因其多维度和不竭出现的特征而带来怪异的风险;它的运作方式是控制,它猜测和控制未来的才能将不成避免地与其仆人或宿主发生抵触。与理性主义者尽力构建一种能使我们摆脱命运约束的野生智能相符合,牛津大学教授尼克·博斯特罗姆提出了“正交论点”(orthogonalitythesis),该论点以为智能与道德、控制或对齐无关。一个超级智能的回形针最大化器假如可以经过牺牲我们来生产更多的回形针,它就会绝不犹豫地这么做。非人类中心的终极方针,能够意味着为了几近是其自己的原因而无穷制地获得气力,控制已知宇宙中的一切。就人类的了解和控制而言,这是一场洛夫克拉夫特式的噩梦(Lovecraftian,可骇文学的一个子种别,相较于血浆可骇、心理可骇等分类,洛式可骇更夸大未知的宇宙冷酷主义所带来的恐惧感——译注):我们变得像蚂蚁之于人类。对于博斯特罗姆来说,技术进步让这类情况变得加倍可怕。我们更轻易——而不是更少——遭到命运变化无常的影响。当我们与野生智能互动时,我们正在把手伸进一个瓮里,并能够捡起或将竣事人类生命的稀有黑球。但是,博斯特罗姆和尤德科夫斯基与他们的先辈霍布斯一路提醒我们,我们常常会因文化可预见的舒适而堕入骄傲。技术带来了这类舒适感,但价格是引入新的、甚至是致使物种灭绝的威胁。极端情况的过度关注经常使持久主义学派对摆在我们眼前的惯常和自然的威胁置若罔闻:全天候超刺激文娱所发生的孤绝感、遮天蔽日的宣传、白领工作的终结等。此外,还有一个普遍但底子的威胁。正如法国历史学家托克维尔所写的,当民主在社会国家中变得加倍根深蒂固时,人们就不再听取精英阶级的定见,而是成为理论或算法等非小我气力的仆从。他们“撤回自我之内,并从阿谁有益位置来评判天下。”很快,一小我格化了的AI反应中立但同质化的态度,能够会成为看似中立的仲裁者。这会致使精神委靡和脆弱,由于它削弱了构成自力判定所需的灵魂气力。假如如博斯特罗姆所猜测和倡议的那样,野生智能可以实现集合、同一和跨国的主权,那末人类的生活,即使在好的情况下,也可以简化为对我们的需求和愿望的轻松治理。完全自动化的、奢足的共产主义。它的满足感将完全地塑造我们,以致于对人类自在的积极操纵将变得无关紧急。技术将减轻我们“生活的负担和思考的疾苦”。成果能够是,野生智能经过限制我们对根赋性题目标认知,告竣某种智力上的分歧性,从而使人类变得扁平化。假如我们成为野生智能的工具或仪器,假如我们的决议空间变窄,那末到何种水平上,我们被教育去用狭隘的工具性术语停止思考,并自但是然地接管某些功利主义方针?以上,我们会商了理性主义和持久主义若何将野生智能视为人类持久保存的束缚和威胁。现在我们会商第三种门户:有用利他主义。C. 有用利他主义

有用利他主义是一种功利主义哲学,它主张我们应当按照行为的成果而非意图来评判利他行为(other-regarding-behavor)。但是,对“有用性”和“利他主义”的常识性且看似有压服力的关注,分离了人们对某些激进哲学所许诺的根基条件的留意。例如,对他人的行为不应遭到间隔或时候的制约。不管是你的、非洲某个孩子的、未来第17代先人的,甚至(有些争议地)一只虾的,一个功效单元就是一个功效单元。是以,假如你努力于利他主义,那末在无穷的未来拯救人类就是最重要的使命。当有用利他主义和 AI相遇时,你终极会获得一个有题目标方程式:即使是极小几率的一点点恶运乘以负无穷大功效,成果也即是负无穷大功效。在这个方程式下,个体的行为具有宇宙级意义。长于用标记征服天下的人可以成为超级豪杰、人类的救世主。有用利他主义及其道德焦点虽鼓舞民气,但也有一定的范围性。有用利他主义首席理论家威廉·麦克阿斯基尔(William MacAskill)尽力净化道德良善、庇护“理性道德”免受不良影响,并使道德加倍有用,这一进程中他给人留下的印象是:实在的道德题目被消除了,与此同时,一种能够性也被夸大了——一切障碍进步的障碍可以简化为某种功利主义的权衡。麦克阿斯基尔所躲避的题目首要与道德自己或普通道德经历所独有的题目有关。在试图净化道德利他主义的进程中,麦克阿斯基尔对疾苦和磨难在精神上采纳了利他主义式的关注,在形式上则采用了成果主义的方式:最大限度地减轻疾苦及满足感。这类思维形式——以及一切功利主义的一个关键题目是,它无认识地公道化了一种道德直觉:虽然有用利他主义要求解除对时候、地址或小我的关联,但它也以为,疾苦的数目很重要——疾苦成倍增加就相当于道德也成倍增加了。可是,假如理性以为间隔不重要,为什么数目比品种更重要呢?此外,我们又该若何对疾苦的品种停止排序呢?有用利他主义与理性主义一样,经常试图逃离我们的自然社会性,而转而采用“看似技术”的方式,就似乎我们可以疏忽前理性时代的身分的限制,把那些对大大都人而言完全分歧的道德,如亲情,战争中的勇于牺牲,或宗教仪式中的精神奉献,都当做可以交换畅通的商品来制造。在我们自己或我们所爱之人所能获得的益处,和减轻未来将面临的笼统疾苦之间,我们该若何权衡?一般期间与极端情况(例如内战或超级智能统治)之间,应当优先挑选什么?理性可以仲裁或排序吗?整体而言,保存主义风险因其对未来生活的笼统关注而显得不太理性。它使我们阔别了实在的自己:不是无实体的心灵,而是身材和思惟,以及对朋友、家人和社区的迷恋。
保存灰心主义和加速主义,AI背后的哲学江湖 | 阅读 第2张图片

(来历:Cosmos Institute)这张图是一个金融概览图表,它展现了曩昔10年中,按照分歧哲学原则聚集的构造的总资金范围。图表中的圆圈巨细代表了分歧构造获得的资金量,这包括了捐赠者和接管者。全部视觉设想基于公然可获得的数据以及获得答应分享的数据。图表分为几个部分,每个部分代表了一种特定的焦点或哲学:Digital Ethics +Social Justice (数字伦理 + 社会正义): 这个部分包括了重视数字伦理和社会正义的构造,如The Alan Turing Institute(图灵研讨所)。No Clear Philosophy(无明白哲学): 这个部分包括了那些没有明白哲学原则或多元化哲学的构造,如MIT和CSER(剑桥大学的存在风险研讨中心)。Digital Governance +Central Planning (数字治理 + 中心计划): 这一块涵盖了专注于数字治理和中心计划的构造。Existential Risk + AI Safety (保存风险 + AI平安): 这部分侧重于那些关注保存风险和AI平安的构造,例如MIRI(机械智能研讨所)和OpenAI(一个努力于确保野生智能对人类友爱的研讨机构)。图表下方的时候线展现了从左到右的资金范围。加速主义

与灰心学派分歧,对技术加倍悲观的那一派,首先对科学、技术和本钱主义现代连系所获得的惊人成就暗示感激。E/accs(“有用加速”Effective Accelerationism的缩写,是一种将生物、物理、经济和社会理论整合在一路的哲学思惟,夸上将顺应性、进化、智能和加速作为宇宙中普遍存在的原则——译注)常常植根于古典自在主义,但背叛了后者的道德框架。他们接管哈耶克的理念,将市场视为“发现机械”,经过“摸干脆、进化性和顺应性”的次序来揭露和操纵分离的当地常识。市场经过促进需求和满足愿望来缔造繁华,而不要求人类成为“天使”或“超级智能总计划师”的臣民。E/accs与古典自在主义有一个不异点是,技术本钱主义是人类束缚的关键:它答应将多样化的人类本身好处变成个人生产方针;它将我们从暴力合作和恐惧中束缚出来;它使休闲文娱变得民主化。但是,这类悲观主义的极端版本则以为,技术是开释人类潜能、超越自我,成为更高、更好、更强的关键。题目不但仅在于满足我们的愿望,而是要完全满足这些愿望,使我们不再受它们的奴役。科技取代宗教,这是我们幸运和获获救赎的关键。是以,在开辟和摆设包括野生智能在内的新技术的进程中,应当消除各种障碍来加速这一进程这就是有用加速主义若何以及为何背叛孕育了自在市场系统框架的缘由。虽然E/acc和技术悲观主义将“技术本钱”机械视为一种近乎自治的次序,但洛克和孟德斯鸠等古典自在主义者以为,自然权利、小我自在和有限的宪政政府的制度化是指引进步的重要手段。此外,古典自在主义有一个特此外概念:人类是同等权利获得理性确认的存在,这在百姓社会内部发生了一种基于自在、互利交换和联系的布满活力的自觉次序。与这类人性看法的背叛,在 E/acc 阵营中表暴露了一种根赋性的冲突心理。一些 E/accs 信徒以为,人类仅仅是自然——即宇宙的热力学定律——的产物或成果,人类并没有什么出格或高贵的地方;是以,与技术融合,更充实地被吸收获为自然广漠而笼统轨迹中的一部分是有益的。传递接力棒能够是需要的。这类概念偏向于以为,野生智能是自然指向“优化进程”的终极表现,它比我们更高或更强——虽然很是冲突的一点是:野生智能是人类缔造的。然后,悲观主义活动的另一种概念将野生智能视为一种有用的工具,并服从于人类的需求和愿望。野生智能是一块“贤者之石”,安德森(指马克·安德森,Netscape和a16z风险投资基金开创人——译者注)将其设想为具有“真正让沙子思考”的才能,从而处理大量应战,比如将我们从障碍和无聊中拯救出来,以及获得无穷的能量,甚至能够克服灭亡。由于,假如野生智能只是一个工具,它就需要以人类界说的道德和善的概念为指导,这斥地了一个相当需要深度思考的范畴;假如它不但仅是一个工具,而是自然优化进程的一种表现,那末我们就只是其不辨是非原则的被动代理人。这类类似工具的方式似乎与所谓的“受限愿景”亲近相关,“受限愿景”不是乌托邦式的而是渐进式的。市场信号使我们可以打造更好的工具来满足我们的需求,并让我们想要更多。与此相对照的,是另一种分解的、增强的方式——这类方式触及对当前一切不满和限制的乌托邦式的逃离。我们成为另一种分歧的存在,用技术悲观主义宣言的话来说就是“超人”;之前一切的道德和政治题目都无关紧急。这就是为什么安德森将技术悲观主义论述为一种“物资”而非政治哲学。它的支持者和提倡者能够是右翼或右翼;明天的政党是由党派政治思惟塑造的——与之前的思唯一样,这些思惟和党派都是无关紧急的。摒弃哲学对技术的重要职位,拒绝与技术相关的任何危险或题目,这两者是相辅相成的。我以为这是悲观主义的引诱之一:一种自觉悲观的乌托邦主义,几近先验地否认一切思疑或题目。安德森无意中削弱并贬低了他宣称要束缚的那小我。为什么?由于他击败仇敌(主如果来自右派的不满)的愿望常常会牺牲小我判定力和能动性,代之以崇尚激进和防御性的活动。风险在于理性自己成为仇敌,这是人类周全改变成富有缔造力和控制力的先人类赛博物种的另一个障碍。悲观主义能够会沦为厌恶理论——对思辩和压服的憎恨。(作者是一位AI思惟者和持续创业者。本文摘编译全文:ExistentialPessimism vs. Accelerationism: Why Tech Needs a Rational, Humanistic"Third Way")


上一篇:爆冷狂胜35分!西部第二轰然倒下,卡椒打疯了,快船赢球双喜临门
下一篇:半导体人材周全垂危,需要新政刺激
 
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

排行榜
活跃网友
返回顶部快速回复上一主题下一主题返回列表APP下载手机访问
Copyright © 2016-2028 CTLIVES.COM All Rights Reserved.  西兔生活网  小黑屋| GMT+8, 2024-3-1 23:27