roundoff error

Wörterbuch

Beispiele im Kontext

  • 8) What kind of arithmetic operations can cause roundoff error and thus should be avoided?

    8) Welche Art von Rechenoperationen Rundungsfehler verursachen und sollte daher vermieden werden?

  • Roundoff error can happen in several circumstances other than just storing numbers

    Rundungsfehler können auch in anderen als nur das Speichern von Zahlen mehrere Umstände geschehen

  • EPS() returns the machine epsilon; this is the difference between 1 and the next largest floating-point number. Because computers use a finite number of digits, roundoff error is inherent (but usually insignificant) in all calculations.

    Die Funktion EPS() ergibt das Rechner-epsilon. Das ist die Differenz zwischen 1 und der nächstgrößeren Fließkommazahl. Da Computer eine begrenzte Anzahl an Stellen verwenden, sind Rundungsfehler in allen Berechnungen vorhanden, aber normalerweise unbedeutend klein.

  • Final average roundoff error is , using FFT for exponent

    Endgültige durchschnittliche Rundungsfehler ist, mit FFT für exponent