roundoff error
Wörterbuch
-
roundoff error
Beispiele im Kontext
-
8) What kind of arithmetic operations can cause roundoff error and thus should be avoided?
8) Welche Art von Rechenoperationen Rundungsfehler verursachen und sollte daher vermieden werden?
-
Roundoff error can happen in several circumstances other than just storing numbers
Rundungsfehler können auch in anderen als nur das Speichern von Zahlen mehrere Umstände geschehen
-
EPS() returns the machine epsilon; this is the difference between 1 and the next largest floating-point number. Because computers use a finite number of digits, roundoff error is inherent (but usually insignificant) in all calculations.
Die Funktion EPS() ergibt das Rechner-epsilon. Das ist die Differenz zwischen 1 und der nächstgrößeren Fließkommazahl. Da Computer eine begrenzte Anzahl an Stellen verwenden, sind Rundungsfehler in allen Berechnungen vorhanden, aber normalerweise unbedeutend klein.
-
Final average roundoff error is , using FFT for exponent
Endgültige durchschnittliche Rundungsfehler ist, mit FFT für exponent