Kann Bmax nicht richtig rechnen?
Übersicht
BlitzMax, BlitzMax NG Beginners-Corner
|
klinBetreff: Kann Bmax nicht richtig rechnen? |
 Mo, Apr 27, 2009 17:07Antworten mit Zitat 
|
|---|---|---|
|
Hallo Leute,
habe wollte heute mal programmieren und bin bei etwas stecken geblieben. Ich wollte einfach 128/255 rechnen (nicht schwer NORMAL). Windows tachenrechner sagt: 0,50196078431372549019607843137255 (also 0.5) jedoch sagt Bmax unter folgendem code: Code: [AUSKLAPPEN] Local test:Float=128/255
Print test raus kommt jedoch: 0.000000000 Also.. wie kann so etwas sein? Habe ich da was falsch gemacht? oder ist das ein Bug? Bitte um Antwort THX MFG Klin |
||
|
d-bug |
Mo, Apr 27, 2009 17:09 Antworten mit Zitat
|
|---|---|---|
|
Dann versuchs mal mit:
BlitzMax: [AUSKLAPPEN] Local test:Float = 128.0/255.0 Du dividierst da zwei Integer und castest das Ergebnis in ein Float! Da kann nicht das richtige Ergebnis raus kommen. |
||
- Zuletzt bearbeitet von d-bug am Mo, Apr 27, 2009 17:10, insgesamt einmal bearbeitet
|
SpionAtom |
Mo, Apr 27, 2009 17:09 Antworten mit Zitat
|
|---|---|---|
|
Bin zwar kein Maxxer, aber das Problem könnte damit zutun haben, dass der Ausdruck INT / INT einen INT ergibt, und der hat bekanntlich keine Kommastellen...
EDIT: HA! ZWEITER! |
||
| os: Windows 10 Home cpu: Intel Core i7 6700K 4.00Ghz gpu: NVIDIA GeForce GTX 1080 | ||
- Zuletzt bearbeitet von SpionAtom am Mo, Apr 27, 2009 17:10, insgesamt einmal bearbeitet
|
Nicdel |
Mo, Apr 27, 2009 17:10 Antworten mit Zitat
|
|---|---|---|
|
Es liegt daran, dass du zwei Integer dividierst. BMax macht aus dem Ergebnis ebenfalls ein Integer, es wird abgerundet. Du musst
Code: [AUSKLAPPEN] Local test:Float=128.0/255 schreiben, da so das erste ein Float ist und auch Float zurückgeliefert wird. Edit: Mal wieder zu spät... War bei der Frage aber auch klar. |
||
|
Desktop: Intel Pentium 4 2650 Mhz, 2 GB RAM, ATI Radeon HD 3850 512 MB, Windows XP
Notebook: Intel Core i7 720 QM 1.6 Ghz, 4 GB DDR3 RAM, nVidia 230M GT, Windows 7 |
||
|
|
klin |
Mo, Apr 27, 2009 17:13 Antworten mit Zitat
|
|---|---|---|
|
Okay mal wieder was dazu gelernt.. Nun weiß ich auch, warum mansche sachen nicht pixel genau funktionieren oder auch garnicht^^
THX MFG Klin |
||
Übersicht
BlitzMax, BlitzMax NG Beginners-Corner
Powered by phpBB © 2001 - 2006, phpBB Group