var numA = 0,1; var numB = 0,2; Alarm (Zahl A + Zahl B); 0,1 + 0,2 = 0,30000000000000004. Bei den vier Rechenoperationen mit Gleitkommazahlen treten in fast allen Programmiersprachen ähnliche Genauigkeitsfehler auf, aber in Sprachen wie C++/C#/Java wurden Methoden gekapselt, um Genauigkeitsprobleme zu vermeiden. JavaScript ist eine schwach typisierte Sprache, und vom Designkonzept her gibt es keinen strikten Datentyp für Gleitkommazahlen, sodass das Problem der Genauigkeitsfehler besonders ausgeprägt ist. Lassen Sie uns 0,1 und 0,2 in Binärzahlen umwandeln:
Der Dezimalteil einer Gleitkommazahl mit doppelter Genauigkeit unterstützt bis zu 52 Bit. Wenn wir also die beiden addieren, erhalten wir eine Zeichenfolge von 0,0100110011001100110011001100110011001100110011001100110011001100110011001100, eine Binärzahl, die aufgrund der Dezimalgrenze der Gleitkommazahl gekürzt wurde. Wenn wir sie jetzt in eine Dezimalzahl umwandeln, wird sie zu 0,30000000000000004. Wie kann man das Problem lösen? Multiplizieren Sie die Zahl zunächst mit einer Zehnerpotenz und entfernen Sie die Dezimalstellen, um eine Ganzzahl zu erhalten, die in eine Binärzahl umgewandelt werden kann. Stellen Sie diese dann nach der Berechnung wieder her. /** ** Divisionsfunktion, um genaue Divisionsergebnisse zu erhalten** Hinweis: Die Divisionsergebnisse von JavaScript weisen Fehler auf, die bei der Division zweier Gleitkommazahlen deutlicher werden. Diese Funktion gibt ein genaueres Divisionsergebnis zurück. ** Aufruf: accdiv(arg1,arg2) ** Rückgabewert: das genaue Ergebnis der Division von arg1 durch arg2 **/ Funktion accdiv(arg1, arg2) { var t1 = 0, t2 = 0, r1, r2; versuchen { t1 = arg1.toString().split(".")[1].Länge; } fangen (e) { } versuchen { t2 = arg2.toString().split(".")[1].Länge; } fangen (e) { } mit (Mathe) { r1 = Zahl(arg1.toString().replace(".", "")); r2 = Zahl(arg2.toString().replace(".", "")); gibt (r1 / r2) * Math.pow(10, t2 - t1); } } /** ** Additionsfunktion zum Erhalten genauer Additionsergebnisse** Hinweis: JavaScript-Additionsergebnisse können Fehler enthalten, was beim Addieren zweier Gleitkommazahlen deutlicher wird. Diese Funktion gibt ein genaueres Additionsergebnis zurück. ** Aufruf: accAdd(arg1,arg2) ** Rückgabewert: das genaue Ergebnis von arg1 plus arg2 **/ Funktion accAdd(arg1, arg2) { var r1, r2, m, c; versuchen { r1 = arg1.toString().split(".")[1].Länge; } fangen (e) { r1 = 0; } versuchen { r2 = arg2.toString().split(".")[1].Länge; } fangen (e) { r2 = 0; } c = Math.abs(r1 - r2); m = Math.pow(10, Math.max(r1, r2)); wenn (c > 0) { var cm = Math.pow(10, c); wenn (r1 > r2) { arg1 = Zahl(arg1.toString().replace(".", "")); arg2 = Zahl(arg2.toString().replace(".", "")) * cm; } anders { arg1 = Zahl(arg1.toString().replace(".", "")) * cm; arg2 = Zahl(arg2.toString().replace(".", "")); } } anders { arg1 = Zahl(arg1.toString().replace(".", "")); arg2 = Zahl(arg2.toString().replace(".", "")); } gibt (arg1 + arg2) / m zurück; } /** ** Multiplikationsfunktion, die verwendet wird, um genaue Multiplikationsergebnisse zu erhalten** Hinweis: Die Multiplikationsergebnisse von JavaScript können Fehler enthalten, was bei der Multiplikation zweier Gleitkommazahlen deutlicher wird. Diese Funktion gibt ein genaueres Multiplikationsergebnis zurück. ** Aufruf: accMul(arg1,arg2) ** Rückgabewert: das genaue Ergebnis der Multiplikation von arg1 mit arg2 **/ Funktion accMul(arg1, arg2) { var m = 0, s1 = arg1.toString(), s2 = arg2.toString(); versuchen { m += s1.split(".")[1].Länge; } fangen (e) { } versuchen { m += s2.split(".")[1].Länge; } fangen (e) { } returniere Zahl(s1.replace(".", "")) * Zahl(s2.replace(".", "")) / Math.pow(10, m); } Das Obige ist der detaillierte Inhalt der präzisen JS-Berechnung. Weitere Informationen zur präzisen JS-Berechnung finden Sie in den anderen verwandten Artikeln auf 123WORDPRESS.COM! Das könnte Sie auch interessieren:
|
>>: Installationstutorial für MySQL 5.1 und 5.7 unter Linux
Inhaltsverzeichnis Einführung 1. MySQL Master-Sla...
SQL-Anweisungen (Structured Query Language), also...
beschreiben Beim Aufruf dieser Schnittstelle müss...
<br />Auf zehntausend Personen, die die Frag...
1. Vektorkarte Vektorgrafiken verwenden gerade Li...
1. MySQL Yum-Repository hinzufügen Offizielle MyS...
Die Standardvorlagenmethode ähnelt vue2 und verwe...
Dieser Artikel beschreibt anhand von Beispielen d...
Inhaltsverzeichnis Einführung Frage Design 1: Adj...
In letzter Zeit tritt nach dem Aktualisieren der ...
1. Benutzer und Gruppen hinzufügen 1. MySQL-Benut...
Grundlegende Einführung Merkmale Flexbox ist ein ...
MySQL unterstützt verschachtelte Transaktionen, a...
Vorwort MySQL unterstützt Multithread-Replikation...
Methode 1: Absenden über den Absenden-Button <...