您的位置: app科技网 > 国内 > 正文

大模型非GPU专属 AMD EPYC秀出CPU AI实力

2023-12-08来源:网络阅读: 1493

集微网报道 12月6日,AMD在美国加州城市圣何塞举行的“Advancing AI”活动上,宣布推出包括MI300,Ryzen AI PC处理器等系列创新产品。作为AMD未来发展的重中之重,AMD正试图将AI能力贯穿至所有产品线,从数据中心的大规模训练与推理解决方案,到面向消费者的PC及游戏体验等。

在高性能计算(HPC)以及数据中心等领域,AMD正在展示其持续的领导地位。AMD EPYC处理器和AMD Instinct加速器仍然是世界上许多最创新、最节能和最快的超级计算机的首选解决方案。

根据第62届全球超级计算机排行榜TOP500显示,在全部500套超算中,其中的140台超级计算机为AMD平台,同比增长39%。此外,根据最新的Green500名单,AMD为世界上十大最节能的超级计算机中的八台提供动力。

目前,美国橡树岭国家实验室的前沿超级计算机正是由AMD EPYC处理器和Instinct加速器驱动,此外,超大规模超级计算机El Capitan已经在劳伦斯利弗莫尔国家实验室开始安装。

今日,AMD宣布推出了全齐首款面向AI/HPC的数据中心APU——MI300A,同时将Zen3 CPU、CDNA3 GPU整合在了一颗芯片之内,统一使用HBM3内存,使用第4代Infinity Fabric高速总线互联,从而实现结构的简化以及编程的便利性。

据AMD方面介绍,统一架构下的APU的优势在与能够充分释放性能的潜力。统一的内存,统一的内存,共享的Infinity总线技术,动态的功耗分布以及编程上的便利等。

基于以上优势,在OpenFOAM的运行表现上,MI300A的性能表现要超过H100 4倍。PeakHPC每瓦性能表现上是GH200的2倍。

在HPC等性能表现上也同H100持平或领先。在MI300A的加持下,El Capitan有望成为全球首个具备2 Exaflop(百亿亿次)双精度性能的超级计算机,预计交付后将成为世界上最快的超级计算机。

此外,EPYC本身也能够具备强大的AI能力。在今年6月份举办的“数据中心与AI技术首映”上,AMD针对云原生负载进行了优化,带来了以吞吐量为导向,拥有最高终端密度和效率的AMD EPYC 9704处理器“Bergamo”,以及面向技术计算领域的Genoa-X。其中,Genoa-X的亮点包括领先的5nm工艺节点技术、高达96个高性能Zen4核心、高达1.1GB的L3 Cache,兼容SP5插槽等,可以在Ansys CFX中每天完成更多的设计任务,从而大幅加速产品开发。

在今日活动的演示现场,记者看到采用 AMD EPYC 9654处理器运行Llama 2大语言模型的展示,在同竞品Xeon Platinum 8480的对比中,处理运行速度提升36%。这意味着,在某些场景下,依靠CPU提供的AI算力也能够进行大模型处理,而非仅依靠GPU,这对于具有较少GPU资源的企业而言非常具有吸引力,也带来了成本上的节省。


内容转载于集微网

滚动推荐
2023-05-09AppLovin推出效果型CTV广告,为应用出海获取海量优质新流量
AppLovin推出效果型CTV广告,为应用出海获取海量优质新流量...[详细]
2023-05-10微众银行微业贷与中化能源科技达成合作,为石油石化行业高质量发展注入金融活水
微众银行微业贷与中化能源科技达成合作,为石油石化行业高质量发展注入金融活水...[详细]
2023-05-19超越美国雨鸟 填补世界空白的《反冲转子旋转喷头》颠覆创新技术产业化
超越美国雨鸟 填补世界空白的《反冲转子旋转喷头》颠覆创新技术产业化...[详细]
2023-05-25每篇发10个
每篇发10个...[详细]
2023-05-25央企合作再添一家!微众银行微业贷以数字金融服务中国电建上游供应商企业
央企合作再添一家!微众银行微业贷以数字金融服务中国电建上游供应商企业...[详细]
2023-05-25微众银行微业贷与中建筑港达成合作,助力企业共赴新基建、新征程
微众银行微业贷与中建筑港达成合作,助力企业共赴新基建、新征程...[详细]
2023-05-31河北源达打造全新财源滚滚选股软件
河北源达打造全新财源滚滚选股软件...[详细]
2023-06-08二阳又来了,与病毒共存和抗争是未来常态,怎样保护家人
二阳又来了,与病毒共存和抗争是未来常态,怎样保护家人...[详细]
2023-06-08《牛客2023金融科技校园招聘白皮书》探寻金融科技行业求职技巧和就业趋势
《牛客2023金融科技校园招聘白皮书》探寻金融科技行业求职技巧和就业趋势...[详细]
2023-06-10【农银汇理基金经理手记】长期限同业存单仍具配置价值
【农银汇理基金经理手记】长期限同业存单仍具配置价值...[详细]