Intel Gaudi 2 AI训练比英伟达H100快55%:希望夺取更多市场份额

yc888 科技频道评论55字数 764阅读模式
摘要目前在AI领域,最受关注的就是ChatGPT,以及引起巨大震撼的Sora模型,此外基于Stable Diffusion打造的AI生图也是各大厂商目前所重点宣传的。而作为AI背后的算...

目前在AI领域,最受关注的就是ChatGPT,以及引起巨大震撼的Sora模型,此外基于Stable Diffusion打造的AI生图也是各大厂商目前所重点宣传的。而作为AI背后的算力硬件支持,英伟达的计算卡可以说备受追捧,供不应求,英伟达也是赚的盆满钵满。当然这也让其他计算卡厂商感到十分地眼红,比如行业巨头英特尔。这家蓝色巨人推出的Gaudi 2加速卡就是为对抗H100计算卡而生,而经过不断地优化,目前在Stable Diffusion领域,Gaudi 2加速卡的表现比NV的计算卡更加出色。

文章源自玩技e族-https://www.playezu.com/818523.html

Intel-AIEverywhere-Event-5-scaled.jpg文章源自玩技e族-https://www.playezu.com/818523.html

graphic_1.png文章源自玩技e族-https://www.playezu.com/818523.html

目前Stable Diffusion开发商Stability AI发布了一份报告,在报告中Stability AI重点对比了英伟达与英特尔计算卡在AI作图上的效率。以参数为2B的MMDiT模型为例,训练深度设置为24、BFloat16的混合精度,在该模型设置下,Gaudi 2计算卡最高可以达到每秒训练1254张图片,而256容量下则是每秒927张。这个性能要比英伟达现在的H100更加出色,比如说H100-80GB计算卡的训练速度为每秒595张,而A100-80GB则是每秒训练381张,也就是说基于英特尔Gaudi 2的训练速度在相同容量下比H100计算卡提升55%,更是A100性能的2.43倍。文章源自玩技e族-https://www.playezu.com/818523.html

Intel-Gaudi-vs-NVIDIA-H100-A100-AI-Accelerators-GPUs-Stable-Diffusion-LLMs.jpg文章源自玩技e族-https://www.playezu.com/818523.html

graphic_2.png文章源自玩技e族-https://www.playezu.com/818523.html

另外如果说采用32批量单元的设置下,英特尔Gaudi 2训练速度为每秒12654张,而A100-80GB则为3992张,英特尔计算卡是A100-80GB计算卡的3.17倍,还是相当给力的。当然Stable Diffusion作为现在最为流行的模型,各大计算卡厂商都愿意花精力去优化,而且更为重要的是英伟达的AI生态已经做得十分地完善,并且英伟达B100什么水平还不知道。要是英特尔Gaudi 2训练计算卡真这么给力,那现在AI市场也不会被英伟达所垄断了。文章源自玩技e族-https://www.playezu.com/818523.html

文章源自玩技e族-https://www.playezu.com/818523.html文章源自玩技e族-https://www.playezu.com/818523.html
玩技站长微信
添加好友自动发送入群邀请
weinxin
rainbow-shownow
玩技官方公众号
官方微信公众号
weinxin
PLAYEZU
 
  • 版权提示:本站仅供存储任何法律责任由作者承担▷诈骗举报◁▷新闻不符◁▷我要投稿◁
    风险通知:非原创文章均为网络投稿真实性无法判断,侵权联系2523030730
    免责声明:内容来自用户上传发布或新闻客户端自媒体,切勿!切勿!切勿!添加联系方式以免受骗。
  • 原创转载:https://www.playezu.com/818523.html
    转载说明: 点我前往阅读>>>
匿名

发表评论

匿名网友
确定