19.06.2017, 12:30
Hallo zusammen,
ich bin gerade dabei eine eigentlich relativ leichte Berechnung in Excel zu erstellen. Ich möchte den Unterschied zwischen zwei Temperaturen berechnen und diesen Wert dann auf 1 Nachkommastelle kürzen. Jetzt habe ich als Testwerte mal angenommen, dass die Solltemperatur 10,0 °C ist und die tatsächlich gemessene Temperatur bei 10,2 °C liegt. Das kann man ja auch wunderbar im Kopf rechnen - der Unterschied beträgt 0,2 °C. Kürzt man diesen Wert nach 1 Nachkommastelle ist das Ergebnis immer noch 0,2 °C. Der Wert der in meiner Berechnung angegeben wird ist allerding 0,1 °C.
Ich habe mir jetzt mal alle Zahlen mit 30 Nachkommastellen anzeigen lassen und siehe da, Excel errechnet als Differenz zwischen 10,000000000000000000000000000000 und 10,200000000000000000000000000000 einen Wert von -0,199999999999999000000000000000 aus. Wird dieser dann geschnitten erhalte ich als Ergebnis 0,1 °C.
Das ist aber doch eigentlich falsch, oder? Vielleicht kann mir da jemand weiterhelfen...
Vielen Dank und schöne Grüße
Juwe
ich bin gerade dabei eine eigentlich relativ leichte Berechnung in Excel zu erstellen. Ich möchte den Unterschied zwischen zwei Temperaturen berechnen und diesen Wert dann auf 1 Nachkommastelle kürzen. Jetzt habe ich als Testwerte mal angenommen, dass die Solltemperatur 10,0 °C ist und die tatsächlich gemessene Temperatur bei 10,2 °C liegt. Das kann man ja auch wunderbar im Kopf rechnen - der Unterschied beträgt 0,2 °C. Kürzt man diesen Wert nach 1 Nachkommastelle ist das Ergebnis immer noch 0,2 °C. Der Wert der in meiner Berechnung angegeben wird ist allerding 0,1 °C.
Ich habe mir jetzt mal alle Zahlen mit 30 Nachkommastellen anzeigen lassen und siehe da, Excel errechnet als Differenz zwischen 10,000000000000000000000000000000 und 10,200000000000000000000000000000 einen Wert von -0,199999999999999000000000000000 aus. Wird dieser dann geschnitten erhalte ich als Ergebnis 0,1 °C.
Das ist aber doch eigentlich falsch, oder? Vielleicht kann mir da jemand weiterhelfen...
Vielen Dank und schöne Grüße
Juwe