rundungsfehler? wer erklärt mir das?
Übersicht
BlitzBasic Allgemein
KrümelBetreff: rundungsfehler? wer erklärt mir das? |
 Mi, Feb 08, 2006 21:39Antworten mit Zitat 
|
|
|---|---|---|
|
wieso bekomme ich bei folgendem simplen programm:
Code: [AUSKLAPPEN] For x#=-1.0 To 1.1 Step 0.1 Print x Next WaitKey() anstatt -1 und 0 -0.999999 und 7.45058e-008 angezeigt ? |
||
HW |
Mi, Feb 08, 2006 21:48 Antworten mit Zitat
|
|
|---|---|---|
Seltsam. 
Ich glaube kaum, dass irgendjemand in diesem Forum das beantworten könnte. Du solltest besser ins englische Forum gehen, würde ich sagen. |
||
|
RallimenSieger des 30-EUR-Wettbewerbs |
Mi, Feb 08, 2006 21:59 Antworten mit Zitat
|
|---|---|---|
|
Das liegt ganz einfach daran das die einzelnen dezimal Floats in BinärZahlen umgewandelt werden.
Dann wird berrechnet und das Ergebnis wird wieder in Dezimal angezeigt! deswegen kommt es zu so unschönen Zahlen. Ein weiterer Grund ist das Blitz nur mit 4 Byte großen Zahlen arbeitet! andere Sprachen können das mit 8 Byte (double) |
||
|
[BB2D | BB3D | BB+]
|
||
Krümel |
Mi, Feb 08, 2006 22:14 Antworten mit Zitat
|
|
|---|---|---|
|
AH,ok!
danke für die antworten- so klappts jedenfalls: Code: [AUSKLAPPEN] For x#=-1.0 To 1.1 Step 0.1 Print Int(x*100)/100.0 Next WaitKey() |
||
Übersicht
BlitzBasic Allgemein
Powered by phpBB © 2001 - 2006, phpBB Group