Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)
Enumeriert Strategien zur Handhabung der Berechnungsgenauigkeit.
Aufgrund des Präzisionsproblems der IEEE 754 Fließkommaarithmetik können einige “scheinbar einfache” Formeln möglicherweise nicht das erwartete Ergebnis liefern.
Zum Beispiel die Formel “=-0.45+0.43+0.02”, wenn die Operanden direkt mit dem ‘+’ Operator berechnet werden, ist das Ergebnis nicht null. Für solche Präzisionsprobleme können einige spezielle Strategien das erwartete Ergebnis liefern.
public enum CalculationPrecisionStrategy
Felder
Decimal = 2
Verwendet Dezimalzahlen als Operanden, wenn möglich.
Am ineffizientesten für die Leistung.
None = 0
Keine Strategie auf die Berechnung angewendet.
Beim Berechnen wird einfach der ursprüngliche Double-Wert als Operand verwendet und das Ergebnis direkt zurückgegeben.
Am effizientesten für die Leistung und anwendbar in den meisten Fällen.
Round = 1
Rundet das Berechnungsergebnis gemäß den signifikanten Ziffern.