Décimaux

Hello,
J'ai un pb.
Si je fais 5*0.1 au lieu de me renvoyer 0.5, ça me renvoie : 0.49999999995348123 (un truc dans le genre, avec 17 chiffres derrière la virgule).

En interne ou en compil exe c'est ok. C'est en export flash que ça bug.

Une solution ?

test 5.0*0.1

5 / 10.0

5/10.0 j'avais vérifié ça marche bien en effet mais dans le truc que je veux faire, j'ai besoin de multiplier par des décimaux :(
5.0*0.1 j'avais pas pensé... malheureusement ça ne change rien j'ai toujours 0.49999....

Tu as essayé la patte de lapin?

???

Euh tu peux traduire ? ;)

http://www.le-monde-des-lapins.fr/histoire/superstitions/

ça te fait pareil avec par exemple 6*0.1 ?

arf ok...
je pensais que c'était une technique de programmation...  :-\

Bon je l'ai signalé dans la bugbox en tout cas. C'est pas fréquent qu'on en ait besoin (apparemment je suis le seul) mais quand ça arrive c'est prise de tête !

@Angelgame oui

C'est dans une variable ou dans un compteur ?

Je ne connais pas ton programme mais en amont si tu traduis tes "*0.1" en "/10.0" via un tableau tu ne peux pas contourner le pb ?
+

pareil avec random(50) ou en passant par un compteur une valeur modif ou globale...

Non le hic c'est vraiment le  "*0.1" (ou "*0.2" ...) qui déconne !

Je ne connais pas ton programme mais en amont si tu traduis tes "*0.1" en "/10.0" via un tableau tu ne peux pas contourner le pb ?
+

J'ai construit mon programme en pensant que ça marcherait (puisque les tests en interne marchaient) et au final ce serait assez compliqué de tout changer...  Mais je vais regarder à nouveau si je peux pas bidouiller. Pourquoi pas avec un tableau je vais voir...

Bon ben bug box en tout cas.

Oui ça c'est fait la bugbox. Là c'est clair que c'est un bug !

Une idée me vient. C'est ptet idiot mais je connais pas le calculateur double précision. Je m'en sers jamais. Ca pourrait m'aider dans cette histoire ?

1. Tu affiches ton resultat dans un compteur
2. Tu mets dans les propiétés du compteur resultat "valeur a virgule flottante" dans les 2 cases 1

ça arrondie en gros

Chez moi ça marche en tout cas, ça peut contourner peut être ton problème

Merci Angelgame :)
J'avais regardé de ce côté là aussi. Mais le problème c'est que le nombre décimal n'a pas forcément qu'un chiffre après la virgule...

Sinon pour info, avec l'objet double précision, j'y ai cru parce qu'avec :
Mul$( "Calculateur double-précision", string$( "5" ), string$( "0.1" ) ) ça affiche bien 0.5
Mais avec :
Mul$( "Calculateur double-précision", Str$(5 ), Str$(0.1 ) ) ça recommence à merdouiller...

Autrement dit il faut repasser les valeurs systématiquement dans des chaînes avant de le repasser dans le calculateur double précision qu le reconvertit...
Je pense que je vais reconstruire le moteur en passant par les divisions finalement, ça sera ptet plus simple que de chercher à contourner le bug j'ai l'impression :(

Désolé je vois pas du tout comment contourner ce probleme, j'espere que ce bug sera vite résolu