LibreOffice Beregningsnøjagtighed

Iboende nøjagtighedsproblem

LibreOffice Calc benytter som det meste anden regnarkssoftware, de flydende komma matematiske kapaciteter, der er tilgængelige på hardwaren. Forudsat at den meste hardware bruger binær flydende komma-aritmetik med begrænset præcision som defineret i standarden IEEE 754 kan mange decimaltal - herunder nogle så simple som 0,1 - ikke repræsenteres præcist i LibreOffice Calc (der bruger 64-bit dobbelt-præcisionstal internt).

Beregning med de tal resulterer nødvendigvis i afrundingsfejl og de forøges med hver beregning.

Dette er ikke en programfejl, men er forventelige og aktuelt uundgåelige uden anvendelse af komplekse beregninger i softwaren, som ville medføre urimelige nedsættelser af hastigheden, og derfor ikke kommer på tale. Brugerne er nødt til at tage højde for det anvende afrunding og sammenligninger med maskin-epsilon (eller enheds-afrunding) efter behov.

Et eksempel med tal:

A

1

31000.99

2

32000.12

3

=A1-A2


Dette vil resultere i -999.129999999997 i A3, i stedet for det forventede -999.13 (det er eventuelt nødvendigt, at du forøger antallet af viste decimalpladser i celleformatet for at se dette).

Støt os venligst!