ChatGPT需要多少算力支持? ChatGPT面临的挑战

描述

  ChatGPT需要多少算力支持?

  据中信建投研报数据,此前用于AI训练的算力增长符合摩尔定律,大约每20个月翻一番;深度学习的出现加速了性能的扩展,用于AI训练的算力大约每6个月翻一番;而目前大规模模型出现,其训练算力是原来的10到100倍。

  “算力、算法、数据作为人工智能的三要素,在数字经济发展、产业智能化升级的进程中发挥巨大作用,数据可以看作生产资料,算法代表新的生产关系,算力则是新型生产力支撑着算法和数据,算力水平决定数据处理能力的强弱。在AI模型训练和推理运算过程中需要强大的算力支撑,随着训练强度和运算复杂程度的增加,算力精度的要求也在逐渐提高。”赛迪顾问人工智能产业研究中心常务副总经理邹德宝称。

  根据国家数据资源调查报告,2021年全球数据总产量67ZB,近三年平均增速超过26%。基础算力、智能算力、超算算力都呈现稳定增长态势。

  根据早些时候OpenAI发表了一份研究成果表明,AI训练所需算力指数增长,增长速度超越硬件的摩尔定律。

  其实ChatGPT需要的算力取决于应用场景,一般来说,GPT需要大量的算力来完成复杂的任务。例如,在自然语言处理任务中,GPT需要大量的算力来处理大量的文本数据,以及处理复杂的语义关系。此外,GPT还需要大量的算力来处理复杂的图像和视频数据。

  数据显示,自2012年至2018年,用于训练AI所需要的算力大约每隔3~4个月翻倍,整体呈现指数级上涨(而摩尔定律仅仅是18个月翻一倍)1。从2012年到2018年,训练AI所耗费的算力增长了30万倍,而摩尔定律在相同时间只有7倍的增长。

  ChatGPT热度不减的背后,是人工智能内容自动生成技术所需要的算力需求也水涨船高。数据显示,ChatGPT的总算力消耗约为3640PF-days(即假如每秒计算一千万亿次,需要计算3640天),需要7~8个投资规模30亿、算力500P的数据中心才能支撑运行。

  中国的算力情况正在迅速发展。根据最新的数据,中国的计算机算力已经超过美国,成为全球最大的计算机算力拥有国。中国的算力发展受到政府的大力支持,政府投入了大量资金用于研发新技术,推动算力的发展。此外,中国的科技公司也在积极投资算力,以满足市场需求。

  ChatGPT大火面临的挑战

  自ChatGPT发布以来,它的能力也不断被人们解锁,但人们在试用中慢慢发现,数学能力是ChatGPT的一大短板,连简单的“鸡兔同笼”题都能算错。大概是考虑到这一点,ChatGPT近日宣布了一次重要更新:提升了真实性和数学能力。

  据了解,ChatGPT较上一代产品提升明显,对话模式具备更好的交互体验。但对比Google等搜索引擎,ChatGPT尚不具备替代搜索引擎的能力。ChatGPT的数据来自训练数据库,目前数据库仅更新至2021年,可用信息有限,同时真实性也无法得到保障。

  主要来自于大量的文本数据,包括新闻文章、社交媒体帖子、书籍等。这些文本数据可以帮助ChatGPT学习语言,从而更好地理解人类语言。此外,从商业模式来看,ChatGPT目前采用免费的模式。

  根据OpenAI的CEO SamAltman披露,ChatGPT每次聊天成本约为几美分,其中一部分来自Azure云服务,未来公司在持续优化成本的同时,会考虑通过收费获利,预计的收费模式包括订阅制、按条收费等。

  文章综合选股宝、第一财经、中国科技网

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分