Enum CalculationPrecisionStrategy
Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)
Enumeruje strategie obsługi precyzji obliczeń.
Z powodu problemu z precyzją arytmetyki zmiennoprzecinkowej IEEE 754, niektóre “pozornie proste” formuły mogą nie być obliczane jako oczekiwany wynik.
Na przykład formuła “=-0.45+0.43+0.02”, przy obliczaniu operandów za pomocą operatora ‘+’ bezpośrednio, nie daje wyniku równego zeru. W przypadku tego rodzaju problemów z precyzją,
niektóre specjalne strategie mogą dać oczekiwany wynik.
public enum CalculationPrecisionStrategy
Pola
Decimal = 2
Używa wartości dziesiętnych jako operandów, gdy to możliwe.
Najbardziej nieefektywne pod względem wydajności.
None = 0
Brak strategii stosowanej w obliczeniach.
Podczas obliczania używa oryginalnej wartości podwójnej jako operand i zwraca wynik bezpośrednio.
Najbardziej efektywne pod względem wydajności i stosowane w większości przypadków.
Round = 1
Zaokrągla wynik obliczeń zgodnie z cyframi znaczącymi.