Aspose. Cells. Calculation Precision Strategy
Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)
枚举处理计算精度的策略。
由于 IEEE 754 浮点运算的精度问题,一些“看似简单”的公式可能无法得到预期的结果。
例如公式 “=-0.45+0.43+0.02”,直接通过 ‘+’ 运算符计算操作数时,结果并不是零。对于这种精度问题,
某些特殊策略可能会给出预期的结果。
public enum CalculationPrecisionStrategy
字段
Decimal = 2
尽可能使用十进制作为操作数。
性能效率最低。
None = 0
在计算中不应用任何策略。
计算时直接使用原始的双精度值作为操作数并返回结果。
性能效率最高,适用于大多数情况。
Round = 1
根据有效数字对计算结果进行四舍五入。