Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)
Uppräkning av strategier för hantering av beräkningsprecision.
På grund av precisionen i IEEE 754 Flyttalsaritmetik kanske vissa “till synes enkla” formler inte beräknas som det förväntade resultatet.
Som formeln “=-0.45+0.43+0.02”, när man beräknar operander med ‘+’ operatorn direkt, är resultatet inte noll. För sådana typer av precisionproblem,
kan vissa speciella strategier ge det förväntade resultatet.
public enum CalculationPrecisionStrategy
Fält
Decimal = 2
Använder decimaler som operander när det är möjligt.
Mest ineffektiv för prestanda.
None = 0
Ingen strategi tillämpad på beräkningen.
Vid beräkning används bara det ursprungliga dubbelvärdet som operand och resultatet returneras direkt.
Mest effektiv för prestanda och tillämplig i de flesta fall.
Round = 1
Rundar beräkningsresultatet enligt signifikanta siffror.