Taschenrechner 66:10=6,599999999996...

[Xallo]

moin,

anscheinend hat mac os x schwierigkeiten mit der zahlengenauigkeit, oder wie kommt das zu stande???

nicht nur der taschenrechner gibt dies falsch aus.... auch numbers zeigt den selben blödsinn an...

kann man da was machen?? was tun?

gruss
xallo

 

[bunter hund]

Bei mir gehts.

 

[quack]

ALso hier geht es auch problemlos....

Gib mal nen paar Infos: Systemversion, Taschenrechnerversion etc.

 

[Markus14]

Der Fehler ist sehr klein, das Ergebnis hinreichend genau.

Ganz ehrlich, ich habe keine Ahnung, warum der so was ausspuckt, bei mir tut er es nicht...

 

[below]

Hast Du dieses Ergebnis bekommen, nachdem Du

* Taschenrechner gestartet
* "66/10" und Enter gedrückt hast?

Oder hast Du vielleicht noch mehr gemacht?

Floating Point Zahlen sind nur begrenzt genau, dadurch kommt es zu Rundungsfehlern.

Alex

 

[Xallo]

sowohl 66/10 als auch mittels RPN
... naja... sollte ja auch das selbe rauskommen

EDIT: Papa's iMac G5 gibt 6,6 aus

vllt liegts an den intel-cpus

 

[oneOeight]

schraub mal die genauigkeit runter, ich krieg da 6,59999996 wenn ich die genauigkeit auf 16 stelle...
auf 11 passiert das nicht...