[ bunker @ 27.06.2003. 12:23 ] @
kako?

da li neko zna koji problem imam ja ili VS.NET (VB) pa ne mozemo da se dogovorimo oko oduzimanja?

ako u VB radim f-ju x - y dobijem nebulozne rezultate, zavisno od vrednosti x i y. npr. 1.67 - 0.14 = 1.5299999999999998. ovo ja u glavi odradim preciznije, pa sta nije u redu?! moja glava ili VB??

ovo mozete proveriti, a greska se ne pojavljuje ako je prvi clan paran broj ili ako su oba clana neparna ili parna, mada ima odstupanja i od ovih slucajeva. da bih dobio relevantne podatke koristim f-ju Format(value,type).

da li je neko imao slicne situacije i kako ste to resavali. meni ne smeta da koristim format funkciju za prikaz, ali zasto da mi se provlace brjevi sa 2000 decimala kroz kod.
[ Deep|Blue @ 28.06.2003. 16:59 ] @
Racunari ne grese,
Problem je u ljudskom faktoru.

-Zaokruzi dobijeni rezultat
ili koristi decimal tip za operande i rezultat
[ degojs @ 28.06.2003. 18:32 ] @
Code:

Dim x As Double = 1.67
Dim y As Double = 0.14
Dim z As Double = x - y
Console.Out.WriteLine(z)

kod mene daje rezultat: 1.53.


[Ovu poruku je menjao degojs dana 26.07.2003. u 21:27 GMT]
[ Deep|Blue @ 30.06.2003. 11:40 ] @
verovatno operande dobija pomocu nekog obrasca.
[ tosa @ 01.07.2003. 21:40 ] @
Problem je u preciznosti float-point brojeva ... nije do tebe :)