伴随着人工智能技术飞跃式的进步,对于计算机运算能力的需求同样大幅提升。目前,英伟达公司的H100芯片销售火爆。值得关注的是,单片H100芯片的峰值功率高达700瓦。随着此类芯片的广泛使用,预计到2024年末,其总体功耗将相当于甚至超越某些欧洲小型国家。
根据预测,若H100的年利用率保持在61%,那么单台设备每年将耗电3740千瓦小时左右。如果英伟达在2023年售出150万块H100,2024年再增加至200万块,那么到2024年底,将有350万块H100芯片投入使用,其总年用电量将高达130.91亿千瓦小时(13091.82GWh)。相对而言,一些国家的年平均发电水平,如格鲁吉亚、立陶宛和危地马拉,也是这个数量级。
尽管H100的电力消耗数字让人瞠目结舌,但我们可以看到,AI以及高性能计算GPU的能效正逐步改善。英伟达下一代Blackwell架构的B100芯片不仅可能拥有超过H100的功耗,而且还能实现更高的性能表现,从而在相同能耗下完成更多任务。
很明显,随着AI技术的持续发展,如何妥善处理算力与能耗之间的矛盾,成为了未来亟待解决的重大问题。
全部0条评论
快来发表一下你的评论吧 !