Exponent, hier: die durch yyy repräsentierte ganze Zahl in der
wissenschaftlich-technischen Darstellung.
Die Länge der Mantisse und der gültige Bereich für den Exponenten sind
system- und programmiersprachenabhängig.
Signifikante Stellen,
diejenigen Stellen einer Dezimalzahl,
in wissenschaftlich-technischer Darstellung, die
exakt bekannt sind.
0,000001 = 1.E-6 lediglich die Eins ist signifikant.
Messung mit gewöhnlichem Lineal ergibt 12,300 cm. Nur 12,3 sind signifikant,
ein normales Lineal läßt eine genauere Bestimmung einer Länge nicht zu.
Bei Rechnungen mit elektronischen Rechnern ergeben sich oft Resulate mit
mehr signifikanten Stellen, als die Genauigkeit der Methode oder der
Eingabegrößen überhaupt zuläßt.
Die Angabe vieler Nachkommastellen verbessert die Genauigkeit des Resultats
oft nicht!
Die Seitenlängen eines Rechtecks seien jeweils auf 2 Nachkommastellen
genau bekannt: und . Es ist nicht sinnvoll, als Flächeninhalt
anzugeben; die Genauigkeiten, mit der a und b
gegeben sind, lassen dies nicht zu!
Die Angabe reicht aus!
Numerische Näherungen:
Abschneiden, nur eine gewisse Anzahl von Dezimalstellen wird
mitgenommen, alle nachfolgenden werden ignoriert.
4,7456 4,74 (Abschneiden nach zwei Nachkommastellen).
Runden auf eine gewisse Anzahl von Dezimalstellen, ist Ziffer an
der -ten Stelle , so werden die ersten n Nachkommastellen
notiert, andernfalls (Ziffer) wird die n-te Ziffer um Eins erhöht.
Der hierbei entstehende Fehler heißt Rundungsfehler.
4,7456 4,7 (Runden auf eine Nachkommastelle),
4,7456 4,75 (Runden auf zwei Nachkommastellen),
4,99953 5,000 (Runden auf drei Nachkommastellen).
In PASCAL gibt es die Funktionen round(x) bzw. trunc(x)
für die
Rundung bzw. das Abschneiden von Dezimalbrüchen. Ergebnis ist jeweils
eine ganze Zahl.