Enum CalculationPrecisionStrategy

Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)

Перечисляет стратегии обработки точности вычислений.
Из-за проблемы точности арифметики с плавающей запятой IEEE 754 некоторые “на первый взгляд простые” формулы могут не давать ожидаемый результат.
Например, формула “=-0.45+0.43+0.02”, при прямом вычислении операндов с помощью оператора ‘+’, результатом не будет ноль. Для таких проблем с точностью
некоторые специальные стратегии могут дать ожидаемый результат.

public enum CalculationPrecisionStrategy

Поля

Decimal = 2

Использует десятичные числа в качестве операндов, когда это возможно.
Наименее эффективен по производительности.

None = 0

Стратегия не применяется к вычислениям.
При вычислении просто используется оригинальное значение double в качестве операнда и результат возвращается напрямую.
Наиболее эффективен по производительности и применим в большинстве случаев.

Round = 1

Округляет результат вычисления в соответствии с значащими цифрами.