Aspose. Cells. Calculation Precision Strategy

Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)

枚举处理计算精度的策略。
由于 IEEE 754 浮点运算的精度问题,一些“看似简单”的公式可能无法得到预期的结果。
例如公式 “=-0.45+0.43+0.02”,直接通过 ‘+’ 运算符计算操作数时,结果并不是零。对于这种精度问题,
某些特殊策略可能会给出预期的结果。

public enum CalculationPrecisionStrategy

字段

Decimal = 2

尽可能使用十进制作为操作数。
性能效率最低。

None = 0

在计算中不应用任何策略。
计算时直接使用原始的双精度值作为操作数并返回结果。
性能效率最高,适用于大多数情况。

Round = 1

根据有效数字对计算结果进行四舍五入。

 中文