A numerikus érték pontossága az érték kifejezésére használt számjegyek száma .
Mindkét esetben a pontosság kifejezés azt a pozíciót jelentheti, ahonnan egy számot kerekítenek. Például, a számtani a lebegőpontos , az eredmény lekerekített egy konkrét szám. A pénzügyekben a számot gyakran alegységek alapján kerekítik. Például dollárban és centben számoljuk, az ezrelékeket nem használjuk fel, még akkor sem, ha a kerekített érték megállapításához használjuk őket.
Annak érdekében, hogy jobban szemléltessük, mit jelent a pontosság , fejezzük ki a 12.345 tizedesértéket különböző számjegyekkel. Ha nem lehet elérni a kívánt pontosságot, akkor ezt a számot a rendelkezésre álló számjegyekre kerekítjük. A következő táblázat ezt az értéket mutatja különböző pontossággal kifejezve (a kerekítés alacsonyabb értékkel történik).
Pontosság | Kerekítve annyi számjegyre | Kerekítve annyi tizedesjegyig |
---|---|---|
Öt | 12.345 | 12,34500 |
Négy | 12.34 | 12.3450 |
Három | 12.3 | 12.345 |
Tőlük | 12. | 12.34 |
A | 10 vagy 1 10¹ | 12.3 |
Nulla | nem alkalmazható | 12. |
Nem azonos a "2" és a "2.00" megírása. A második forma azt jelzi, hogy az érték nagyobb pontossággal ismert.
Megjegyzés: ha egy egész számot a "pontosan" jelzővel adunk meg, akkor úgy tekintjük, hogy a számot a tőle jobbra lévő 0 végtelen követi. Ez azonnal működik, amint a szöveg konkrét számú tárgyról beszél, például 2 almáról.
Példa: pontosan 12 egyenértékű a 12.0000000000000000000000000000000000 ...