例如,数据类型 REAL 在程序中以 6 位小数的精度进行指定和计算。在计算浮点数(REAL和 LREAL)时,请注意此精度通常应用于每个计算步骤。
在加减浮点数时,将会调整指数。因此在加减过程中,基数和指数将保持不变,仅增加尾数。
在以下编程示例中,将对两个 REAL 数量类型的操作数进行相加,然后再减去一个数。在计算的下一步中,用常量 1 除以前面的结果。为执行此操作,创建一个全局数据块,在其中声明用于进行计算编程的操作数和函数。
计算公式;
y = a + b - c
Z = 1/y
创建数据块“DB_GlobalData”:
1. 双击“添加新块”(Add new block) 命令。
这样会打开“添加新块”(Add new block) 对话框。
2. 单击“数据块 (DB)”(Data block (DB)) 按钮。
3. 指定名称“DB_GlobalData”。
4. 选择“Global DB”作为数据块的类型。
5. 单击“确定”(OK)。
6. 在数据块中创建以下变量,然后输入相应的起始值:
这两个变量的起始值都是 100000000.0,并根据数据类型 REAL 转换为 1.0E+8。
创建一个 SCL 函数并将其命名为“FC_Calculate”。
1. 按如下方式声明块接口:
2. 将以下公式写入程序代码并建立在线连接以查看结果:
SCL
#y := "DB_GlobalData".a + "DB_GlobalData".b - "DB_GlobalData".c;
#z := 1/#y;
您可以看到,操作数的运算结果为 #y = 0,即使实际期望数字 1 作为结果也是如此。
不正确的结果产生过程如下:
1. 在第一个计算步骤中,将操作数 a 和 b 相加。在指数调整后,两个操作数(a = 1.000000*108和 b = 1.000000*100)的 REAL 值如下所示:
a = 1.000000*108 且 b = 0.00000001*108。 第二个数字(操作数 b)的最后两位数将被截断,因为 6 位小数的精度无法再表示这个数。 因此,该操作数将会加 0,而不是加 1。
2. 在第二个计算步骤中,将用前面的计算步骤结果减去操作数 C(中间结果 = 1.000000*108 - c = 1.000000*108 为 0.000000e0)。
3. 如果现在计算下一个计算步骤中的操作数 z,则尝试除以 0。
1. 可能的解决方案
要解决此类问题,可以简单地调整计算公式。将公式改为如下所示:
计算公式
y = a - c + b
Z = 1/y
由于在第一个计算步骤(操作数 a - c)后将会得到结果 0.000000e0
,在第二个计算步骤中加上 REAL 值(中间结果 + b)就会得到正确的结果 (y = 0.000000*100+ 1.000000*100 = 1.000000*100)。
2. 可能的解决方案
要计算上述公式,请使用 LREAL 数据类型来代替 REAL 数据类型。由于此数据类型是以 15位小数的精度进行处理,因此不会产生上述问题。
在全局数据块“DB_GlobalData”中,使用相同的值创建三个全为 LREAL 数据类型的新变量。
在 FC“FC_Calculate”的块接口中,另外声明两个 LREAL 数据类型的新变量。
在程序代码中对公式使用新的 LREAL 变量并建立在线连接以查看结果:
SCL
#y_LREAL := "DB_GlobalData".a_LREAL +"DB_GlobalData".b_LREAL - "DB_GlobalData".c_LREAL;
#z_LREAL := 1/#y_LREAL;
审核编辑:刘清
全部0条评论
快来发表一下你的评论吧 !