Rechner spinnt

[Zoë]

Salut,

was soll denn das?

Ratlose Grüße,

Zoë

P.S.: 7,53*50 = 301,2

 

[KonBon]

P.S.: 7,53*50 = 301,2

Nö, 376,5

Aber mit *40 stimmt das Ergebnis von 301,2.

PS: Mein Taschenrechner spuckt das richtige Ergebnis aus, vielleicht verdaddelt sich da dein CPU ein wenig
Gab es damals nicht mal so einen Rechenfehler bei Intel Pentium CPUs? Vielleicht ist das was ähnliches bei dir.

 

[Spike]

Rundungsfehler...


Der Win XP Rechner rechnet übrigens richtig!

 

[TRH77]

Also bei mir sind 7,53*40 auch 301,2

 

[Spike]

Salut,

was soll denn das?


Ratlose Grüße,

Zoë

P.S.: 7,53*50 = 301,2

Du meinst wohl 7,53 * 40 = 301,2!

 

[Kevin Delaney]

Zoë meint wohl x40, und nicht 50

was dein Rechner anzeigt ist nur die erweiterte Darstellung nach dem Komma, oder wie der Mist auch immer heißt (ich bin ein Mathe 5er Kandidat)
Das ist halt das ganz genaue Ergebniss, nicht auf xxx,2 gerundet

 

[xr2-worldtown]

@TRH77: Nicht *40, sondern *50.

P.S.: 7,53*50 = 301,2

EDIT: Achso, doch *40.

 

[Altivec]

Wenn ich die Genauigkeit auf "16" hochsetze, tritt der Fehler bei mir auch auf.

 

[Mr. D]

Wollte ich gerade sagen. Stell die mal auf 11, ist bei mir Standard.

 

[Zoë]

*40, natürlich

Komisch, aber ich bin beruhigt, daß es auch bei anderen vorkommt, ich hatte mir bereits Sorgen gemacht, da mein Logicboard (oder so) ausgetauscht wurde. Uff

Mit Rundung hat es jedenfalls nichts zu tun, da 7,53 egal mit welcher natürlichen Zahl multipliziert nicht mehr Kommastellen haben kann als 2.

Komisch, komisch, vielleicht schreibe ich mal an Apple

Zoë

Edit: Ist doch eigentlich zum krass, daß sich der Rechner verdaddelt. Eigentlich sollte der doch Menschen zum Mond befördern!

 

[pocketcrocodile]

das ist ein problem mit gleitkommazahlen. eine gleitkommazahl wird auf dem rechner ja nicht in der bekannten schreibweise bearbeitet sondern als mantisse * basis^exponent . als basis wird meist e benutzt. in folge kommt es gerade bei zu gross eingestellten genauigkeiten zu rundungsfehlern.

du kannst die genauigkeit reduzieren und ergebniss stimmt.

 

[haeckmac]

du kannst die genauigkeit reduzieren und ergebniss stimmt.

Schöner Satz

 

[chbeer]

Edit: Ist doch eigentlich zum krass, daß sich der Rechner verdaddelt. Eigentlich sollte der doch Menschen zum Mond befördern!

Nee, nee! Da sei mal beruhigt! Die Rechner, die Menschen zum Mond oder sonstwo in den Weltraum befördern sind ur-alt und daher extrem getestet!! Bis die da was neues wie den Core-Duo einsetzen vergehen Jahrzehnte an Tests, etc.

Gruß,
Christian

 

[KonBon]

Nee, nee! Da sei mal beruhigt! Die Rechner, die Menschen zum Mond oder sonstwo in den Weltraum befördern sind ur-alt und daher extrem getestet!! Bis die da was neues wie den Core-Duo einsetzen vergehen Jahrzehnte an Tests, etc.

Gruß,
Christian

Ist vielleicht auch besser so

 

[Kathse]

Mit Rundung hat es jedenfalls nichts zu tun, da 7,53 egal mit welcher natürlichen Zahl multipliziert nicht mehr Kommastellen haben kann als 2.

Für dich als dezimal denkenden Menschen schon. Das Thema ist ungefähr so alt wie Computer selbst. Der Fehler entsteht, weil die Zahlen intern in Binärformat umgewandelt werden, das Ergebnis wird berechnet und zurück ins Zehnersystem umgewandelt. 0,1 zum Beispiel ist im Zweiersystem 0,00011001100 ..., eine nicht abbrechende, periodische Zahl.

Komisch, komisch, vielleicht schreibe ich mal an Apple

Lass das, die können da auch nix machen. Außer Computer bauen, die mit zehn verschiedenen Zuständen pro Bit arbeiten

Gruß,
K