Aspose. Cells. Calculation Precision Strategy
Namespace: Aspose.Cells
Assembly: Aspose.Cells.dll (25.2.0)
計算精度を扱う戦略を列挙します。
IEEE 754浮動小数点演算の精度の問題により、一部の「一見単純な」数式は期待される結果として計算されない場合があります。
たとえば、数式「=-0.45+0.43+0.02」では、オペランドを ‘+’ 演算子で直接計算すると、結果はゼロになりません。このような精度の問題に対して、
いくつかの特別な戦略が期待される結果をもたらすことがあります。
public enum CalculationPrecisionStrategy
フィールド
Decimal = 2
可能な限りオペランドとして小数を使用します。
パフォーマンスにとって最も非効率的です。
None = 0
計算に戦略は適用されません。
計算時には元のダブル値をオペランドとして使用し、結果を直接返します。
パフォーマンスにとって最も効率的で、ほとんどのケースに適用可能です。
Round = 1
有効桁に従って計算結果を丸めます。