×

LabVIEW_深入探索

消耗积分:2 | 格式:pdf | 大小:2679KB | 2015-10-11

杰克-jack

分享资料个

日前帮朋友看一个程序,一个 WHILE 循环,退出条件是等于一个双精度数,结果程序未按照预想条件退出, 由此联想到了双精度数的精度问题。 由于计算机的计算位数有限,所以双精度数都存在精度损失的问题,因此一般不宜用相等函数迚行判断。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

评论(0)
发评论

下载排行榜

全部0条评论

快来发表一下你的评论吧 !