Aspose. Cells. Calculation Precision Strategy

Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)

Uppräkning av strategier för hantering av beräkningsprecision.
På grund av precisionen i IEEE 754 Flyttalsaritmetik kanske vissa “till synes enkla” formler inte beräknas som det förväntade resultatet.
Som formeln “=-0.45+0.43+0.02”, när man beräknar operander med ‘+’ operatorn direkt, är resultatet inte noll. För sådana typer av precisionproblem,
kan vissa speciella strategier ge det förväntade resultatet.

public enum CalculationPrecisionStrategy

Fält

Decimal = 2

Använder decimaler som operander när det är möjligt.
Mest ineffektiv för prestanda.

None = 0

Ingen strategi tillämpad på beräkningen.
Vid beräkning används bara det ursprungliga dubbelvärdet som operand och resultatet returneras direkt.
Mest effektiv för prestanda och tillämplig i de flesta fall.

Round = 1

Rundar beräkningsresultatet enligt signifikanta siffror.

 Svenska