Enum CalculationPrecisionStrategy
Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)
Enumera estrategias para manejar la precisión de cálculos.
Debido al problema de precisión de la aritmética de punto flotante IEEE 754, algunas fórmulas “aparentemente simples” pueden no calcularse como se esperaba.
Por ejemplo, la fórmula “=-0.45+0.43+0.02”, al calcular los operandos con el operador ‘+’ directamente, el resultado no es cero. Para este tipo de problema de precisión,
algunas estrategias especiales pueden dar el resultado esperado.
public enum CalculationPrecisionStrategy
Campos
Decimal = 2
Utiliza decimal como operandos cuando sea posible.
El menos eficiente para el rendimiento.
None = 0
No se aplica ninguna estrategia en el cálculo.
Al calcular, simplemente utiliza el valor original de doble como operando y devuelve el resultado directamente.
El más eficiente para el rendimiento y aplicable en la mayoría de los casos.
Round = 1
Redondea el resultado del cálculo de acuerdo con los dígitos significativos.