AI计算需求激增,英伟达H100功耗成挑战

描述

  伴随着人工智能技术飞跃式的进步,对于计算机运算能力的需求同样大幅提升。目前,英伟达公司的H100芯片销售火爆。值得关注的是,单片H100芯片的峰值功率高达700瓦。随着此类芯片的广泛使用,预计到2024年末,其总体功耗将相当于甚至超越某些欧洲小型国家。

  根据预测,若H100的年利用率保持在61%,那么单台设备每年将耗电3740千瓦小时左右。如果英伟达在2023年售出150万块H100,2024年再增加至200万块,那么到2024年底,将有350万块H100芯片投入使用,其总年用电量将高达130.91亿千瓦小时(13091.82GWh)。相对而言,一些国家的年平均发电水平,如格鲁吉亚、立陶宛和危地马拉,也是这个数量级。

  尽管H100的电力消耗数字让人瞠目结舌,但我们可以看到,AI以及高性能计算GPU的能效正逐步改善。英伟达下一代Blackwell架构的B100芯片不仅可能拥有超过H100的功耗,而且还能实现更高的性能表现,从而在相同能耗下完成更多任务。

  很明显,随着AI技术的持续发展,如何妥善处理算力与能耗之间的矛盾,成为了未来亟待解决的重大问题。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分