设为首页|收藏本站|
发帖
登录 注册
西兔生活网 › 华人生活 › 都市圈 › 重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很 ...
回复 发帖
返回列表 发新帖
开启左侧

[科技] 重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5

[复制链接]
75303 0
雁落渔浦 发表于 2023-6-11 08:57:06 | 只看该作者 打印 上一主题 下一主题
 
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第1张图片


这一届的智源大会，依然是星光熠熠，学术感爆棚。众大咖激辩超级AI，思想碰撞火花四射，依然是绝不能错过的一届AI春晚！
这场人工智能年度巅峰盛会上，有OpenAI、DeepMind、Anthropic、HuggingFace、Midjourney、Stability AI等耳熟能详的明星团队，有Meta、谷歌、微软等做出征服全世界产品的大厂，有斯坦福、UC伯克利、MIT等世界顶尖学府。
GPT-4、PaLM-E、OPT、LLaMA等重要工作的作者悉数出席，为我们讲解研究成果。这场大会堪称专业深度与创意启发兼具，每个话题都被探讨到极致。
而把大会推向高潮的，无疑是图灵奖得主Yann LeCun、Geoffrey Hinton、以及OpenAI创始人Sam Altman的演讲了。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第2张图片


这几位超重磅大佬的亮相，可谓是亮点满满。
Geoffrey Hinton：超级AI风险紧迫
在刚刚结束的论坛闭幕主题演讲中，图灵奖得主、深度学习之父Hinton为我们构想了一个值得深思的场景。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第3张图片


演讲开始，Hinton发问「人工神经网络是否比真正的神经网络更聪明」？
是的，在他看来，这可能很快就会发生。
正如前段时间，Hinton离职谷歌，对辞职理由一言蔽之。他直言对自己毕生工作感到后悔，并对人工智能危险感到担忧。他多次公开称，人工智能对世界的危险比气候变化更加紧迫。
同样，在智源大会上，Hinton再次谈及AI风险。
如果一个在多台数字计算机上运行的大型神经网络，除了可以模仿人类语言获取人类知识，还能直接从世界中获取知识，会发生什么情况呢？
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第4张图片


显然，它会变得比人类优秀得多，因为它观察到了更多的数据。
这种设想并不是天方夜谭，如果这个神经网络能够通过对图像或视频进行无监督建模，并且它的副本也能操纵物理世界。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第5张图片


在最极端的情况下，不法分子会利用超级智能操纵选民，赢得战争。
如果允许超级智能自行制定子目标，一个子目标是获得更多权力，这个超级AI就会为了达成目标，操纵使用它的人类。
张宏江与Sam Altman巅峰问答：AGI或将十年内出现
Sam Altman也通过视频连线现身了。这是ChatGPT爆火之后，Sam Altman首次在中国公开演讲。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第6张图片


精彩摘要：
- 当下AI革命影响如此之大的原因，不仅在于其影响的规模，还有进展的速度。这同时带来红利和风险。
- 随着日益强大的AI系统的出现，加强国际间的通力合作，建立全球信任是最重要的。
- 对齐仍是一个未解决的问题。GPT-4在过去8个月时间完成对齐工作，主要包括扩展性和可解释性。
演讲中，Altman多次强调全球AI安全对齐与监管的必要性，还特别引用了《道德经》中的一句话：
千里之行，始于足下。
在他看来，人工智能正以爆发式的速度发展，未来十年可能就会出现超强AI。
因此，需要推进AGI安全，加强国际间的通力合作，并在相关的研究部署上对齐最为重要。
Sam Altman认为，国际科技界合作，是当下迈出建设性步伐的第一步。特别是，应该提高在AGI安全方面技术进展的透明度和知识共享机制。
另外，Altman提到，目前OpenAI的主要研究目标集中在AI对齐研究上，即如何让AI成为一个有用且安全的助手。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第7张图片


一是可扩展监督，尝试用AI系统协助人类监督其他人工智能系统。二是可解释性，尝试理解大模型内部运作「黑箱」。
最终，OpenAI的目标是，训练AI系统来帮助进行对齐研究。
演讲结束后，智源研究院理事长张宏江与Sam Altman开启了隔空对话，一起探讨了如何让AI安全对齐的难题。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第8张图片


当被问及OpenAI是否会开源大模型，Altman称未来会有更多开源，但没有具体模型和时间表。
另外，他还表示不会很快有GPT-5。
会后，Altman发文对这次受邀来智源大会演讲表示感谢。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第9张图片


LeCun：依然是世界模型的拥趸
在头一天发言的又一位图灵奖得主LeCun，仍然继续推行自己的「世界模型」理念。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第10张图片


对于AI毁灭人类的看法，LeCun一直表示不屑，认为如今的AI还不如一条狗的智能高，还没有发展出真正的人工智能，这种担心实属多余。
他解释道：AI不能像人类和动物一样推理和规划，部分原因是目前的机器学习系统在输入和输出之间的计算步骤是基本恒定的。
如何让机器理解世界是如何运作的，像人类一样预测行为后果，或将其分解为多步来计划复杂的任务呢？
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第11张图片


显然，自监督学习是一个路径。相比强化学习，自监督学习可以产生大量反馈，能够预测其输入的任何一部分。
LeCun表示，自己已经确定未来几年人工智能的三大挑战，就是学习世界的表征、预测世界模型、利用自监督学习。
而构建人类水平AI的关键，可能就是学习「世界模型」的能力。
其中，「世界模型」由六个独立模块组成，具体包括：配置器模块、感知模块、世界模型、cost模块、actor模块、短期记忆模块。
重磅大佬激辩超级AI，OpenAI CEO首次在中国演讲：不会很快有GPT-5 第12张图片


他认为，为世界模型设计架构以及训练范式，才是未来几十年阻碍人工智能发展的真正障碍。
被问到AI系统是否会对人类构成生存风险时，LeCun表示，我们还没有超级AI，何谈如何让超级AI系统安全呢？


上一篇：印度耗资百亿修建跨恒河大桥，八年还未建成，去年刚塌过现又塌了
下一篇：分析师：预计苹果今年将上调 iPhone 15 系列价格
标签：狗人工智能ChatGPT星光熠熠不会很快
@
免
责
声
明
1.西兔生活网 CTLIVES 内容全部来自网络;
2.版权归原网站或原作者所有;
3.内容与本站立场无关;
4.若涉及侵权或有疑义，请点击“举报”按钮，其他联系方式或无法及时处理。
举报

关联主题
回复

使用道具 举报

 
返回列表
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

雁落渔浦中级会员

0关注

2粉丝

52帖子

热门图文
热门帖子
排行榜
  • 日
  • 周
  • 月
活跃网友
返回顶部快速回复上一主题下一主题返回列表APP下载手机访问
Copyright © 2016-2028 CTLIVES.COM All Rights Reserved.  西兔生活网  小黑屋| GMT+8, 2024-5-18 09:26