算力
TOPS(Tera Operations Per Second),1 TOPS代表处理器每秒钟可进行一万亿次(10^12)操作
FLOPS(floating-point operations per second),每秒所执行的浮点运算次数,1 TFLOPS(tera FLOPS)等于每秒一万亿(=10^12)次的浮点运算
因浮点运算对性能要求较高,在保证AI精度的同时可将浮点数转为整数进行计算,可大幅降低计算资源的消耗,提高计算性能,可分为INT8, INT4, INT16,INT32, INT后的数字表示整数的位数。
审核编辑 :李倩
全部0条评论
快来发表一下你的评论吧 !