Float -> total grobe Berechnung

Übersicht BlitzBasic Beginners-Corner

Neue Antwort erstellen

Firstdeathmaker

Betreff: Float -> total grobe Berechnung

BeitragMo, Mai 30, 2005 17:35
Antworten mit Zitat
Benutzer-Profile anzeigen
kann es sein das die Float-Berechnung bei BB ziemlich rumspinnt? Folgendes:

BlitzBasic: [AUSKLAPPEN]
Modified#=61351.6
Modified#=Modified+159650
Print Modified
WaitKey
End


Eigentlich ist doch

61351.6+159650=221001.6!
Aber BB meint: 221002.0

Wie kann man das fixen? Oder geht das in BB nicht?
www.illusion-games.de
Space War 3 | Space Race | Galaxy on Fire | Razoon
Gewinner des BCC #57 User posted image
 

Kifferopa

Gast

BeitragMo, Mai 30, 2005 17:37
Antworten mit Zitat
Die Zahlen sind zu hoch für FloatBerechnungen

Ich habe niedrigere genommen und es ging

Komisch

D2006

Administrator

BeitragMo, Mai 30, 2005 18:16
Antworten mit Zitat
Benutzer-Profile anzeigen
32-Bit-Fließkommazahlen haben eine Genauigkeit von 6 Stellen, das hängt mir der relativ kleinen Mantisse zusammen. Jedenfalls zeigt er in dem Fall die Zahl auch mit 6 Stellen Genauigkeit an.

Umgehen kann man das höchstens mit String-Operationen. Für Spiele aber nicht anwendbar.

BMax hat auch 64-Bit-Fließkommazahlen.

MfG
D2006

Firstdeathmaker

BeitragMo, Mai 30, 2005 18:18
Antworten mit Zitat
Benutzer-Profile anzeigen
Hmm, naja, zum Glück brauche ich das ganze nur um zu prüfen ob etwas an den Spieldaten verändert wurde, das lässt sich dann auch mit Mod kürzen.

Danke
www.illusion-games.de
Space War 3 | Space Race | Galaxy on Fire | Razoon
Gewinner des BCC #57 User posted image

Rallimen

Sieger des 30-EUR-Wettbewerbs

BeitragMo, Mai 30, 2005 18:20
Antworten mit Zitat
Benutzer-Profile anzeigen
dann solltest du besser Integerzahlen nehmen, die sind genau!
[BB2D | BB3D | BB+]
 

Kifferopa

Gast

BeitragMo, Mai 30, 2005 18:22
Antworten mit Zitat
oder einen Taschenrechner

FluiX

BeitragMo, Mai 30, 2005 19:17
Antworten mit Zitat
Benutzer-Profile anzeigen
um wirlkich hohe Zahlen zu verwenden und mit ihnen zu rechnen empfehle ich allen einfach die Zahl aufzuteilen in Millionen Tausender und hunderter oder so.
[/syntax]

Neue Antwort erstellen


Übersicht BlitzBasic Beginners-Corner

Gehe zu:

Powered by phpBB © 2001 - 2006, phpBB Group