Pomoč LibreOffice 25.2
LibreOffice Calc tako kot večina drugih elektronskih preglednic uporablja zmožnosti strojne opreme za računanje s števili s plavajočo vejico. Glede na to, da uporablja večina sodobne strojne opreme binarno aritmetiko plavajoče vejice z omejeno natančnostjo, določeno s standardom IEEE 754, številnih decimalnih števil – vključno s tako enostavnim, kot je 0,1 – ni mogoče natančno predstaviti v programu LibreOffice Calc (ki interno uporablja 64-bitna števila z dvojno natančnostjo).
Računanje s temi števili nujno vodi v napake pri zaokrožanju, te pa se z vsakim nadaljnjim izračunom nalagajo.
Ne gre za hrošča, temveč za pričakovano in trenutno neizogibno težavo, če ne uporabljamo kompleksnih izračunov v programski opremi, ki bi povzročila visok davek na hitrost delovanja, zato ne pride v poštev. Uporabniki morajo to upoštevati in po potrebi uporabljati zaokrožanje in primerjave s strojnim epsilonom (ali zaokrožanjem enot).
Primer s števili:
|
A |
|
|---|---|
|
1 |
31000.99 |
|
2 |
32000.12 |
|
3 |
=A1-A2 |
To pripelje do rezultata -999,129999999997 v A3 namesto pričakovanega -999,13 (morda morate povečati prikazano število decimalk v obliki celic, da to vidite).