Skip to main content
W
WFischerSlf
Participant
February 25, 2020
Question

Berechnungsfehler

  • February 25, 2020
  • 1 reply
  • 336 views

Guten Tag zusammen, ich bin neu hier und habe eine Frage bei der mir der Support nicht helfen kann.

Vorweg ich benutze Acrobat Pro Version 2020.006.20034.

Nun zu meinem Problem ich habe eine einfache Berechnung. Ich habe ein Felde das "d_e" heist. Darin können unterschiedliche Werte stehen (50 - 0.0001) in einem anderen Feld wird daraus ein neuer Wert berechnet über die "vereinfachte Feldbezeichnung" habe ich die Formel d_e*1.5 eingegeben und das Ergebnis wird auch in fast jeden Fall richtig berechnet außer wenn der Wert im Feld "d_e" 0.05 ist.

Dann bekomme ich 0.07500000000000001 als Ergebnis und habe dafür keine Erklärung.

Ich hoffe mir kann jemand helfen.

This topic has been closed for replies.

1 reply

try67
Community Expert
try67Community Expert
Community Expert
February 25, 2020

This is a classic floating-point calculation error. You can read up about the technical reasons for it (here, for example: https://floating-point-gui.de/), but the bottom line is that you should force the result to a specific decimal length. You can do it using the toFixed method. For example:

 

var a = 0.07500000000000001;
a = a.toFixed(3);
console.println("a="+a);

Terms & ConditionsAccessibility statement
Using the community Terms of use Privacy Cookie preferences Do not sell or share my personal information ad choicesAdChoices