设为首页|收藏本站|
开启左侧

[科技] 云边端AI芯片热战大模型!2023全球AI芯片峰会首日干货

[复制链接]
以左 发表于 2023-9-18 20:04:31 | 显示全部楼层
 
芯工具9月18日报道,9月14日-15日,2023全球AI芯片峰会(GACS 2023)在深圳市南山区美满举行。开幕首日现场人气非常火爆,不但全场座无虚席,连会场大门都里三层外三层挤满了热情凝听的观众,很多观众甚至站着听完了全程。峰会全程启动云直播,全网旁观人数高达153万人次。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第1张图片


这场高规格产业会议由智一科技旗下芯工具结合智猩猩倡议主办,在南山区科技创新局的指导下以“AI大时代 逐鹿芯天下”为主题,设备七大板块,主会场包括开幕式和AI芯片架构创新、AI大算力芯片和高能效AI芯片三大专场,并公布2023中国AI芯片企业「先锋企业 TOP30」和「新锐企业 TOP10」评选成果;分会场包括初次增设的集成电路政策交换会、AI芯片分析师论坛、智算中心算力与收集高峰论坛。
本届峰会针对行业变化,围绕AI芯片的学术研讨、GPGPU、ASIC、Chiplet、存算一体、智算中心等偏向设备议程,约请46+位嘉宾泛论天生式AI与大模子算力需求、投融资机遇、架构创新、商用落地等AI芯片焦点议题。
在首日举行的主会场上,清华大学教授、中国半导体行业协会副理事长、IEEE Fellow魏少军停止主题报告《再谈野生智能芯片的成长》,来自英伟达、燧原科技、高通、亿铸科技、北极雄芯、AMD、奎芯科技、后摩智能、安谋科技、鲲云科技、珠海芯动力、芯至科技、每刻沉思等12家国内外顶尖AI芯片企业及新锐企业的开创人、技术决议者及高管别离颁发主题演讲,分享对AI芯片产业趋向的前沿研判与最新理论。
深圳市南⼭区科技创新局党组书记、局长曹环代表深圳市南山区科创局,对峰会的召开暗示热烈庆祝,并为本届峰会致辞。他暗示,2023全球AI芯片峰会(GACS 2023)定位于集成电路与高科技产业政策的宣传平台、全球AI芯片产业的会聚与交换的平台,嘉宾声势强大,内容丰富,并专设深圳集成电路政策交换会,对鞭策深圳AI芯片产业高质量成长具有重要的意义。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第2张图片


▲深圳市南⼭区科技创新局党组书记、局长曹环
智一科技结合开创人、CEO龚伦常作为主办方颁发致辞,公布智一科技深圳总部正式落户南山区西丽湖国际科教城,智工具公然课品牌正式升级为「智猩猩」,深圳总部将承当西丽湖国际科教城的智猩猩AI产业办事平台的扶植,未来希望与大湾区的企业有更多的合作。智猩猩由智工具公然课全新升级而来,定位于新科技办事平台,聚焦野生智能与新兴科技,面向企业侧和用户侧供给代价办事。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第3张图片


▲智一科技结合开创人、CEO龚伦常
经过峰会首日的AI芯片峰会嘉宾分享和概念碰撞,我们探讨了天生式AI与大模子带来的算力压力与机遇,看到了产学界若何经过越来越普遍的创新思绪来绕过摩尔定律接近极限的瓶颈,见证了存算一体、可重构计较、“算力同一场”等各路创新门户万马齐喑。经过这场干货满满的AI芯片产业盛宴,我们总结了以下五大趋向:
1、天生式AI和大模子正在主导AI利用,得算力者得全国,要求产业从芯片设想、通讯、集群、软件等多方面停止优化AI芯片研发和落地,以实现更高性能、更低时延、更低本钱。
2、现实算力资本和理想的算力资本存在鸿沟。一方面AI芯片产业继续追求大算力,另一方面则经过架构创新及软件界说新方式冲破算力瓶颈。
3、随着芯片制程工艺触碰天花板,架构创新有望迎来“黄金十年”。比如感存算一体架构有望经过废除“存储墙”,下降海量数据搬运负担;可重构计较架构经过进步芯片操纵率,用设想换制程;Chiplet则经过拆分组合实现异构集成,进步芯片性能,这些范畴都已出现出创业先行者。
4、Transformer端庄过同一的大模子构建一个“大树型”的同一稀释生态,处理曩昔多个“小树苗”AI生态的碎片化痛点。是以AI芯片企业可以经过硬件、软件、系统、计划多产业联动促进AI芯片贸易化落地。
5、从本钱市场来看,一级市场的监管政策客观上会促进AI芯片产业资本重新设置,IPO收缩或具有短期性;二级市场出现的“炒作”现象客观上为一级市场吸引了投资。
一、魏少军:大模子时代再谈AI芯片成长,大算力不是终极应战

本届峰会的收场主题报告嘉宾,是AI芯片学术研讨的代表人物——清华大学教授、中国半导体行业协会副理事长、IEEE Fellow魏少军。他援用2017年图灵奖得主John L. Hennessy和David A. Patterson的金句“现在是计较机架构的新黄金年月”,谈到步入泛在计较时代,计较无处不在,对智能计较的要求越来越紧急。
经演变,野生智能现在分红了两大种别:类脑计较深度进修类脑计较,即模仿人脑的计较方式。沿着类似思绪,渐有起色的是存算一体,比起传统存算分手架构,可将能效提升10倍,但这类架构今朝只能模仿到人脑机制的外相。另一个偏向是深度进修,2018年获得图灵奖的“深度进修三巨头”经过神经收集不竭运算来到达计较方针,组成了深度神经收集。这促使明天的野生智能包括三要素:算法、数据、算力。算力的应战决议了我们需要找到新的计较架构。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第4张图片


▲清华大学教授、中国半导体行业协会副理事长、IEEE Fellow魏少军
在加入GTIC 2019全球AI芯片创新峰会时,魏少军教授曾分享过一张图,将AI芯片(AI Chip)分为三个阶段:0.5阶段是操纵已有芯片来实现,1.0阶段开辟面向利用的范畴公用芯片,1.5阶段更夸大通用性、灵活性,2.0阶段的终极结论是能不能真正实现智能。现在再看这张图,他以为中心应当加个阶段——AI Chip 1.7
在他看来,大算力能够是当前面临的最大应战,但不是终极应战。1.7阶段夸大的是对通用性的了解,明天AI芯片的通用性已经被异化成大算力,计较才能成为追求方针,但它只是演进进程的中心阶段。找到AI Chip 2.0阶段的完全智能化,那才是我们的终纵方针。
通向这一方针,需要赋予芯片自进修和接管教育的才能,以不竭提升性能和效力。他提出要寻觅到一个具有软件和硬件双可编程的系统,即软件界说芯片,英伟达、英特尔及一些美国顶尖科研团队都在研讨这一技术。
“中国人在这方面做的是最快的,也是最好的,我们实现了芯片架构和功用的纳秒级重启。”魏教授说,基于可重构计较架构的软件界说芯片,计较效力永久是最高的,功耗和本钱都大幅下降,实现了利用与芯片的最优整合。今朝,其团队已在在线编程、练习方面实现了相当一部分这样的功用。
二、ChatGPT催生算力新机遇,云边端AI芯片热战大模子

ChatGPT掀起天生式AI高潮后,大算力芯片迎来史无前例的成长机遇,新的应战也相继而来。
高通AI产物技术中国区负责人万卫星分享了高通对天生式AI未来成长趋向的观察:随着云端处置天生式AI的本钱不竭提升,未来云经济将难以支持天生式AI的范围化成长。此外,根本模子正在向多模态扩大,模子才能越来越强大,而垂直范畴模子的参数目也正在变得越来越小。未来,丰富的天生式AI模子将在终端侧运转,让公同享遭到天生式AI带给生活、工作、文娱上的变化。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第5张图片


▲高通AI产物技术中国区负责人万卫星
NVIDIA处理计划与架构技术总监张瑞华以为:“天生式AI和大模子是野生智能今朝最重要的范畴,也是对算力资本需求最高的野生智能利用。由于模子的练习和推理的计较范式都发生了变化,所以现实算力资本和模子成长所需要的理想算力资本之间还有很大的差异。随着用户空间的巨量增加,还需斟酌本钱、实时性等题目。这是天生式AI和大模子时代所面临的计较应战。”
接下来以大模子GPT-3 175B为例,她分享了存储空间、计较、收集通讯和系统设想方面模子练习的需求和计较特点,继而提出在GPU设想、AI办事器设想和AI集群设想方面需要关注的技术热门,并分享了NVIDIA的参考架构。软件生态更是AI计较中心的灵魂,NVIDIA NeMo框架为天生式AI和大模子练习供给全生命周期的支持,TensorRT-LLM为新计较范式下的推理供给支持。张瑞华总结到:在天生式AI和大模子的时代,NVIDIA新的技术生态端到端地赋能用户的AI旅程。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第6张图片


▲NVIDIA处理计划与架构技术总监张瑞华
芯片巨头AMD在MI Instinct GPU方面具有大量的技术堆集以及基于CDNA3的架构创新。AMD野生智能奇迹部高级总监王宏强谈道,AMD在单个GPU能做到上千T的浮点算力范围,经过量节点横向扩大,更是能到达每秒百亿亿次浮点计较才能(EFLOPS),并供给额外的超大内存容量及带宽,可实现700亿参数级大模子在单个GPU上的摆设,并到达更高的TCO(总具有本钱)。
王宏强也出格夸大了易用AI软件以及强大的开放软件生态的重要性,它是开释这些创新硬件性能的关键。AMD经过同一AI软件实现跨平台AI摆设,以开放和模块化的方式构建软件处理计划,从而拥抱更高条理的笼统,并与最重要的生态系统(PyTorch, ONNX, Triton HuggingFace等)合作对接鞭策开箱即用的用户体验。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第7张图片


▲AMD野生智能奇迹部高级总监王宏强
云端AI芯片独角兽企业燧原科技也在积极备战大模子算力需求。其开创人兼COO张亚林谈道,参数目高达数千亿的大模子,依靠散布式计较、更大的内存容量和带宽、更高算力、更实惠的本钱或性价比,对AI芯片生态提出更高要求。
他打了一个形象的比方:Transformer端庄过同一的大模子,稀释出一个“大树型”的AIGC平台生态,算力是“树根”,大模子是“树干”,行业模子库是“树枝”,利用是“树叶”。相比本来碎片化的CV、NLP中小模子,大模子的“大树型”生态的算力需求加倍明白和聚焦。对此,他提倡结合生态伙伴,经过同一的大模子技术生态栈处理算力瓶颈题目。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第8张图片


▲燧原科技开创人兼COO张亚林
奎芯科技结合开创人兼副总裁王晓阳谈道,大模子推理的关键瓶颈在于内存带宽,今朝支流的AI大算力芯片均采用HBM作为内存首选,采用HBM离不开先辈封装,在散热、工艺、产能等方面均遭到一定限制。据他分享,采用基于UCle接口的AI大算力芯片架构可冲破HBM的互联的范围
作为存算一体AI大算力芯片企业的代表,亿铸科技的开创人、董事长兼CEO熊大鹏分享道,AI利用进入2.0时代, 一大突出题目是大模子带来巨量数据搬运,大算力芯片的合作焦点会逐步转向废除“存储墙”,存算一体超异组成为“换道超车”的可行途径。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第9张图片


▲亿铸科技开创人、董事长兼CEO熊大鹏
端侧和边沿侧的芯片企业一样看到大模子的机遇与需求。面向日益增加的算力需求,在边沿和中心侧,鲲云科技用可重构数据流技术途径来处理大模子算力需求爬升的题目,经过芯片底层架构革新,将芯片操纵率大幅提升,这类方式能满足架构内海量数据的计较需求,供给高性能、高性价比、低延时的实时处置。
高通万卫星谈道,与云端相比,终端侧跑大模子具有诸多上风,包括本钱、能耗、牢靠性、时延和性能、隐私战争安,以及本性化等。而终端侧AI与云端AI相互配合的夹杂AI架构,是让天生式AI实现全球范围化扩大的关键。“今朝我们可以支持参数跨越10亿的模子在终端上运转,未来几个月内跨越100亿参数的模子将有望在终端侧运转。”他分享说,高通不竭提升端侧AI才能,从而进步终端支持大模子的参数阈值,让更多云端天生式AI用例向边沿侧和端侧迁移,这将真正开释天生式AI的潜力。
安谋科技产物总监杨磊也赞成这一概念,以为大模子AI的未来将在云侧和端侧同时成长。“由于Tranformer计较结构趋于稳定,微架构厂商迎来大模子时代的创新契机。”安谋科技推出了外乡自研AI处置器“周易”X2 NPU,不但在算力、精度、灵活性等方面停止了大幅提升,还针对车载、边沿计较等利用处景停止了专门优化。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第10张图片


▲安谋科技产物总监杨磊
端侧场景更多是中小算力场景,最在意能效比和低本钱。对此,清华电子系科技功效转化企业每刻沉思的CEO邹天琦相信“模拟计较”大有可为,基于新型存储技术的模拟计较可以更有用力地发挥上风,下降Transformer大模子在端侧完成推理的能耗。
芯至科技结合开创人、首席芯片架构师兼副总裁尹文以为,AI大模子落地到推理侧的新机遇与RISC-V架构创新不约而合,RISC-V不但可以做标量通用计较,也可以做线程级并行的AI计较。Scaler小标量+SIMT大算力的指令集/微架构融合将是未来RISC-V发力的重点,能以相对低的本钱,为AI推理侧利用供给高效支持。
他提到WoW (Wafer on Wafer)夹杂键合在新型芯片工程技术范畴有严廉代价。WoW可将AI Die和Memory Die垂直堆叠,低于HBM一个量级的本钱供给数倍于HBM的带宽;对于大模子推理来说,4~6GB的Memory Die完全满足Transformer一层收集权重的存储和层内高带宽需求。
三、AI芯片繁华与本钱同频共振,新型计较技术的范围性尚存

进入天生式AI时代,资深投资人们若何看待AI芯片产业的成长走向?智一科技结合开创人、总编辑张国仁,与普华本钱治理合股人蒋纯、和利本钱合股人王馥宇、华兴本钱团体华兴证券董事总司理阮孝莉停止了一场以“AI芯片的繁华与本钱的同频共振”为主题的圆桌对话。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第11张图片


▲圆桌对话环节,从左到右依次是智一科技结合开创人、总编辑张国仁,普华本钱治理合股人蒋纯,和利本钱合股人王馥宇,华兴本钱团体华兴证券董事总司理阮孝莉
大模子参数范围激增,对算力提出庞大需求,三位投资人都谈到进步芯片效力与架构创新的题目。阮孝莉谈到本钱投入已经跟不上算力需求,需要可以进步“硅效力”的架构创新。蒋纯和王馥宇均说起新型计较技术。王馥宇以为,可重构计较、存算一体、类脑神经拟态计较、光子计较、量子计较等新型计较技术的尽头城市是很好的,都在连系各自利用处景的需求,一步一步处理当前工程性题目,朝前迭代与进步。
蒋纯以为,美国的“小院高墙”既是中国AI芯片企业得以突起的机遇,也是中国AI芯片企业成长中最大的威胁。中国AI芯片企业还是要争取走出“国芯国造”的门路,摆脱始终存在的举夺由人的风险。同时,“换道超车”也是必须斟酌的途径。以存内计较为代表的“本征计较”、3D封装和堆叠技术都是很是重要的换道超车手段。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第12张图片


▲普华本钱治理合股人蒋纯
阮孝莉谈道,以Fabless为例,其短期会构成带有地方产业特点的形状,但遵守半导体产业特征来看,终局大要率是2-3家设想公司来办事国内市场。她以为国内在先辈制程产线的冲破对AI芯片有间接带动感化,创新架构依靠于全产业链的成熟,有一个进程,先辈制程阶段性停顿可以为大师获得一些缓冲时候。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第13张图片


▲华兴本钱团体华兴证券董事总司理阮孝莉
从本钱市场来看,一定水平上AI芯片产业、还有创新创业在一级市场和二级市场已经构成比力好的同频共振效应。蒋纯和阮孝莉的概念分歧,概况来看,一级市场的AI芯片创新创业空气与二级市场的炒作摆脱。蒋纯谈道,虽然二级市场不乏寒武纪这样的优异代表,但其就像冰山浮出海面的尖角,大量创新生态的企业都在二级市场水下,可是二级市场的炒作代表了全国高低的期望,可以起到“千金买马骨”的感化。阮孝莉补充说,二级市场泡沫并不美满是好事,兴旺才能吸引更多资原本关注并投资。而重新的大模子布景下未来AI赛道的增漫空间来看,估值繁华也是一定水平上具有公道性
据王馥宇分享,和利本钱不会花太多精神去关注二级市场,在做创投时,更多关注客户需求、市场空间、产物力、团队构造力和履行力、业绩和利润的成长情况等,由于满足了客户需求,才能真正缔造代价。是以,和利本钱做投资预判的参考点非常朴实——人的需求是什么,能不能经过技术和产物来满足人的需求,能不能供给更高的社会生产力
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第14张图片


▲和利本钱合股人王馥宇
四、创新架构横刀立马,换道破解性能与功耗困难

面临传统冯·诺依曼系统带来的内存墙、功耗墙、通讯墙等应战,依靠工艺技术进步来实现芯片性能、能效、本钱等方面的改良变得愈发困难,架构创新已是AI芯全面临的一个不成躲避的课题。围绕架构创新,国产AI芯片正从早期的百花齐放,向更深更多维的层面成长。
在峰会首日,主题演讲分享的AI芯片架构创新思绪首要集合在两类,一是经过收缩计较单元与存储单元、传感器的间隔,来削减芯片内不需要的数据传输所发生的时延和能耗;二是引入数据流驱动的可重构计较,将硬件资本更多集合在计较上,兼具灵活性与高能效。芯至科技则提出了一种将RISC-V开源指令架构、自研分歧性总线、WoW 3DIC组合的架构创新思绪。
1、感存算一体:为数据搬运减负,大幅下降功耗
在大模子时代,技术“铰剪差”越来越大:算力摩尔定律终结,但数据量越来越大,算法越来越复杂,一大焦点的痛点就是“存储墙”。由于存储和计较分手架构,大模子开辟的95%甚至更多时候花在数据搬运上,将致使能耗剧增和现实计较效力巨降。
亿铸科技熊大鹏以为,存算一体技术可以从底子上处理“存储墙”题目。面向数据中心、云计较、自动驾驶等场景,2023年8月,亿铸科技成功点亮存算一体AI大算力焦点技术考证芯片,可基于成熟工艺制程,实现单卡冲破P级算力的极强性能与极高能效比。
后摩智能则首先瞄准汽车场景,于2023年5月推出的存算一体智驾芯片后摩鸿途H30,估计在2024年推出第二代产物后摩鸿途H50芯片。后摩智能结合开创人、研发副总裁陈亮称,按照后摩尝试室及MLPerf公然测试成果,在ResNet50性能功耗对照上,采纳12nm制程的H30相比某国际芯片巨头的7nm同类芯片性能提升超2倍,功耗削减超50%
陈亮谈道,H30背后是后摩智能自研的IPU架构,该架构设想遵守“中庸之道”。假如将集合式计较架构比作居住面积和扩大性有限的“中式庭院”,那末散布式计较架构类似于“高层公寓”,包容性好但相同性不敷。后摩智能的IPU架构挑选在两者之间追求平衡点:在计较方面,经过量核、多硬件线程实现计较效力与算力灵活扩大;在存储方面,经过量级数据缓存实现高效数据搬运与复用;在数据传输方面,经过双环拓扑公用总线实现灵活数据传输与同享。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第15张图片


▲后摩智能结合开创人、研发副总裁陈亮
与存算一体的思绪类似,从清华电子系智能感知集成电路与系统尝试室孵化出的每刻沉思,将计较部分与传感器相连,间接用模拟数据做运算,省去ADC模数转换进程,可以大幅节省功耗。
每刻沉思的智能感知芯片,基于创新的近传感模拟计较架构,可落地智能驾驶、VR/AR等多类利用处景中。以汽车的尖兵形式利用处景为例,这是一种经过硬件帮助车主在阔别车辆时监控车辆平安的汽车形式,每刻沉思的车载“感存算一体”协处置芯片能促进尖兵形式每晚耗电从5-8度下降到0.05度;待机功耗从本来的10W下降到14mW,从而大大提升用车体验。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第16张图片


▲每刻沉思CEO邹天琦
2、数据流驱动可重构计较:明显提升芯片操纵率
可重构计较架构按照分歧的利用或算法来设置硬件资本,让数据在计较单元之间流转,削减了传统的译码操纵和对内存的拜候,可以大幅提升效力和节省功耗。除了在这一技术线路上研发十余年之久的魏少军教授团队外,一些AI芯片企业也已经起头摸索这一技术线路的落地商用代价。
AMD基于XDNA AI引擎的架构创新,是数据流处置并行计较阵列的架构,用于供给高速的、低延时、低功耗的实时推理。基于XDNA AI引擎的架构构建的Chiplet,与CPU、FPGA等构建片上异构计较平台,可扩大至数据中心、端侧(Ryzen AI)、边沿/嵌入式等分歧平台来满足多样化的AI推理需求。
可重构数据流架构能并行停止数据拜候和数据计较。鲲云科技结合开创人兼首席技术官蔡权雄提到一个公式:芯片的实测性能=芯片理论峰值算力x芯片操纵率。而鲲云科技的可重构数据流架构,即是从芯片操纵率找到冲破点,最大化操纵片上计较资本,提升芯片实测性能。相比于芯片操纵率不敷35%的指令集架构,基于鲲云可重构数据流架构的CAISA芯片最高可实现95.4%的芯片操纵率。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第17张图片


▲鲲云科技结合开创人兼首席技术官蔡权雄
蔡权雄说:“鲲云不追求先辈制程,而是从架构侧创新为行业供给极致性价比AI算力。”经过自研芯片架构CAISA 3.0和自研编译器RainBuilder,据公然测试数据显现,一颗28nm工艺的CAISA芯片相较于一颗16nm的GPU芯片,可实现最高4.12倍实测算力的提升。该芯片已实现量产和范围化落地,为10余个行业供给算力、算法、平台一体化的AI视频分析处理计划,成功落地1500多个智能化项目,覆盖聪明安监、聪明能源、产业制造等多个范畴。
珠海芯动力专攻兼具通用性、高性能的RPP(可重构并行处置器)架构途径。芯动力开创人&CEO李原流露说,RPP架构是将PE阵列以流水线的方式排列,实测面积效力比可到达同类产物的7~10倍,能效比也跨越3倍,也就是说,在不异算力下只需占用更小的芯全面积。
此外,RPP架构还具有全方位兼容CUDA的特征,这意味着开辟者可以间接利用CUDA编程说话编写法式,无需停止复杂的代码转换。今朝,芯动力首款基于可重构架构的GPGPU芯片RPP-R8已经流片成功,实现小范围量产。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第18张图片


▲珠海芯动力开创人&CEO李原
3、重构计较系统结构:软硬件全栈系统架构创新
进入AI新时代,芯至科技尹文以为,算力创新不再仅仅是单个处置器微架构和芯片工艺的创新,而需要软硬件全栈的系统架构周全创新,未来的创新机遇来自以下方面:开放的通用指令架构,高效的融合加速器,异构互联总线和芯片工程,开源算子库、工具链和软件
基于此,芯至科技围绕RISC-V开源指令架构、自研分歧性总线、WoW 3DIC的架构创新,可以带来10倍性价比的大模子AI推理芯片。展望更持久的未来,尹文相信基于RISC-V开源指令同构和微架构异构,开源软件工具链及自立分歧性总线和芯片工程创新,未来有机遇推动到算力同一场。算力同一场将更利于构成更大的自立可控软件新生态,并合适计较架构的原始特征,助力我国在计较系统方面换道超车。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第19张图片


▲芯至科技结合开创人、首席芯片架构师兼副总裁尹文
五、为AI芯片锤炼精兵锐器,Chiplet助攻大算力芯片破局

随着摩尔定律越举事以维系,若何在面临逼近物理极限的情况下连结算力延续增加?基于先辈封装的Chiplet(芯粒)技术已成为后摩尔时代兼顾经济效益和提升芯片性能的一大有用途径。
Chiplet的上风在于可以实现异构集成。这类技术计划经过先辈封装技术将采用分歧工艺制程、分歧功用的各类Chiplet模块组合到一路,可以大幅进步大型芯片的良率,并能下降设想和制造环节的本钱,同时减轻对先辈制程产能的依靠。AMD MI300、特斯拉D1、苹果M1 Ultra等典范AI芯片产物均采用了先辈的Chiplet架构。
珠海GPGPU创企芯动力也非常认同Chiplet技术在产业成长中的代价,计划将Chiplet和I/O Die毗连构成边沿端合适的芯片,以及利用类似技术将多颗焦点停止毗连,供给更高计较才能。”
今年2月,北极雄芯公布了国内首款基于异构Chiplet集成的智能处置芯片“启明930”。该芯片由11块Chiplets通太高速接口拼接而成,采用12nm工艺、2.5D封装、全国产基板材料,可自力用于AI加速卡,亦可经过D2D扩大多种功用型Side Die停止集成。
其开创人、清华大学穿插信息研讨院助理教授马恺声经常被问一个题目,能不能用两个2N工艺的Wafer经过3D集成,做出N工艺的性能? 答案是可以,用2块14nm芯片拼出一块7nm芯片是能够的。
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第20张图片


▲清华大学穿插信息研讨院助理教授、北极雄芯开创人马恺声
他列数了4种能够的处理计划:1)用一层晶圆做供电收集处理IR drop(电源电压降)题目;2)多层逻辑;3)内存和逻辑夹杂;4)将内存、逻辑、互联与存储、供电耦合到一路
上海互联IP产物及Chiplet产物供给商奎芯科技专注于高速接口IP,同时努力于用Chiplet破解内存墙与I/O墙。其副总裁王晓阳分享说,斟酌到HBM的利用存在尺寸数目、对热敏感、摆放偏向和适配不灵活、工艺等限制,奎芯科技试图将HBM HOST和SoC解耦,打造M2link互联计划,将HBM和主SoC的间隔拉到2.5厘米。采用这类计划,同等巨细SoC可操纵面积增大44%,内存容量带宽增加33%,最大芯片尺寸扩大2倍
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第21张图片


▲奎芯科技结合开创人兼副总裁王晓阳
结语:产学研投前沿交锋,全球AI芯片峰会沸腾深圳南山

从2018年举行第一届起头,全球AI芯片峰会至今已持续举行五届,成为国内少少数专注在AI芯片范畴且具有较大影响力的行业峰会。每一届,你都能听到顶级AI芯片产学研用及投融资范畴专家们的思惟交锋,多元的出色概念在这里碰撞,迸发出更多技术或产物创新的灵感火花。
这也是全球AI芯片峰会持续第二年落地深圳南山。据深圳市南⼭区科技创新局党组书记、局⻓曹环分享,今年5月,深圳市公布鞭策新型野生智能高质量成长计划,提出要聚焦通用大模子、智能算力芯片等范畴,实施野生智能科技严重专项扶持计划,鞭策AI产业高质量成长。
当前,南山区正大力鞭策集成电路产业高质量成长,已公布集成电路产业专项政策,在人材、研发、融资等方面大力支持芯片企业成长,前后落地了国家集成电路设想深圳产业化基地、粤港澳大湾区集成电路设想创新公共平台等创新载体,会聚了英特尔、江波龙、中微半导等一批行业龙头企业,芯片范畴上游设想才能突出,下流利用处景普遍,成为了半导体精英企业聚集高地。
“接下来,南山区将认真做好办事,为更多业内企业、优异人材供给更周全的政策指引和办事。”曹环谈道,“我们也真挚约请广大企业家、投资人和创业者朋友们,挑选南山、投资南山、扎根南山,在南山这片创新与创业的热土,展现创新气力、开辟创新奇迹、实现创新胡想。”
云边端AI芯片热战大模子!2023全球AI芯片峰会首日干货 第22张图片



上一篇:错过了英伟达大涨没关系,还可以看看这些AI机遇
下一篇:马斯克:关于特斯拉在沙特建厂的报道“美满是毛病的”
 
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

排行榜
活跃网友
返回顶部快速回复上一主题下一主题返回列表找客服手机访问
Copyright © 2016-2028 CTLIVES.COM All Rights Reserved.  西兔生活网  小黑屋| GMT+8, 2023-10-2 08:44