设为首页|收藏本站|
开启左侧

[科技] 马斯克:AI有20%的可能性毁灭人类,但仍值得冒险

[复制链接]
你妹是个好姑娘 发表于 2024-4-2 13:47:39 | 显示全部楼层
 
马斯克:AI有20%的能够性扑灭人类,但仍值得冒险 第1张图片


撰文 / 吴   静
编辑 / 黄亨衢
设想 / 师   超
来历 / Business Insider
作者 / Katherine Tangalakis-Lippert
即使野生智能有五分之一的能够性会威胁人类保存,但埃隆·马斯克 (Elon Musk) 仍很是确信这值得冒险。
在前段时候的Abundance360峰会上,马斯克在“野生智能辩说”钻研会上暗示,他重新计较了野生智能这项技术的风险评价,他说:“我以为野生智能有能够扑灭人类,但整体还是利大于弊。”
但马斯克没有说起他是若何计较风险的。
野生智能平安研讨员、路易斯维尔大学收集平安尝试室主任罗曼·扬波尔斯基(Roman Yampolskiy)在接管《贸易内幕》采访时暗示,马斯克以为野生智能能够对人类组成保存威胁是正确的,但“倘使有什么题目标话,那就是他的评价有点过于守旧了”。
“在我看来,人类遭受恶运的能够性要高很多。”扬波尔斯基说。他所说的恶运指的是野生智能控制人类或致使人类终结事务的能够性,例如缔造一种新型生物兵器或由于大范围收集进犯或核战争而致使社会解体。
纽约时报》称恶运是“囊括硅谷的一种病态的新统计学”,该媒体援用多位科技高管的估量,他们以为野生智能能激发天下末日的能够性在5%到50%之间。但扬波尔斯基以为这一风险高达“99.999999%”。
扬波尔斯基说,由于我们不成能控制先辈的野生智能,所以我们唯一的希望就是从一路头就不要缔造它。
“不晓得为什么马斯克以为研讨野生智能是个好主张,”扬波尔斯基补充道, “假如他担忧合作对手争先一步,那大可不必,由于不管是谁缔造了它,这类不受控制的超级智能给我们带来的保存威胁都是一样糟糕。”
客岁11月,马斯克暗示,这项技术终极“变坏”的能够性“并非为零”,但他并没有进一步说明,假如真的“变坏”,这项技术能够会扑灭人类。
虽然马斯克一向是野生智能监管的提倡者,但马斯克客岁创建了一家名为xAI的公司,该公司努力于进一步扩大野生智能的气力。xAI是OpenAI的合作对手,OpenAI是马斯克在2018年退出董事会之前与萨姆·奥特曼(Sam Altman)配合创建的公司。
在峰会上,马斯克估量,到2030年,数字智能将跨越一切人类智能的总和。虽然他对峙以为研讨野生智能利大于弊,但马斯克也认可,假如野生智能在一些最间接的范畴继续依照今朝的轨迹成长,天下将面临风险。
“你培育一个通用野生智能,这几近就像抚养一个孩子,但他是一个超级天赋,所以你若何培育这个孩子很重要。”马斯克在3月的一场硅谷活动中说,“野生智能平安方面,我以为最重要的一点是需要培育一个最洪流平追求真相而且具有猎奇心的AI。”
马斯克暗示,关于实现野生智能平安的最好方式,他的“终极结论”是以迫使野生智能变得老实的方式来成长野生智能。
“不要逼迫它撒谎,即使究竟使人不舒服。”马斯克在谈到庇护人类免受科技侵害的最好方式时说, “这很是重要,不要让野生智能撒谎。”
据《自力报》报道,研讨职员发现,一旦野生智能学会对人类撒谎,利用当前的野生智能平安办法就不成能逆转这类欺骗行为。
该媒体援用的研讨称,“假如一个模子由于欺骗性的仪器校准或模子中毒而表示出欺骗性行为,当前的平安培训技术将没法保证平安,甚至能够形成一种平安的假象。”
更使人不安的是,研讨职员补充说,野生智能能够会自己学会欺骗,而不是被专门教导扯谎。
“假如它变得比我们聪明很多,它就会很是擅长操纵,由于它会从我们这里学到这一点,”杰弗里·辛顿(Geoffrey Hinton)被称为“野生智能教父”,他告诉CNN,“很少有一个更聪明的工具被一个不那末聪明的工具控制的例子。”


上一篇:韩国人,卡住了英伟达的脖子?
下一篇:群众热评:满足年轻人刚需的《王婆说媒》不应被干扰
 
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

排行榜
活跃网友
返回顶部快速回复上一主题下一主题返回列表APP下载手机访问
Copyright © 2016-2028 CTLIVES.COM All Rights Reserved.  西兔生活网  小黑屋| GMT+8, 2024-4-18 05:03