Chyba při sčítání

Chyba při sčítání otázka

Zdravím

Může mi prosím někdo říct, proč při sčítání

ve VB.NET 2010 Expres

dim d as Double
d =  1000.0001 + 1000.0001 + 1000.0001 'je výsledek 3000.0002999999997
'zatímco při 
d =  1000.0001 + 1000.0001 + 1000.0001 + 1000.0001 'je výsledek správně 4000.0004

ve VBA to funguje správně

Děkuji Václav

nahlásit spam

odpovědět

7. 3. 2013 17:06

Ondřej Linhart

-553 3274

Všechno je to jenom o nepřesnosti číselných datových typů. Nejpřesnější je typ Decimal a u něj to vrací přesně 3000.0003. Více na http://msdn.microsoft.com/en-us/library/...

nahlásit spam

2 / 2

odpovědět

otázka připomínka kladné hodnocení záporné hodnocení

Nadpis:

Antispam:

Komu se občas házejí perly?

Příspěvek bude publikován pod identitou anonym.

Administrátoři si vyhrazují právo komentáře upravovat či mazat bez udání důvodu.
Mazány budou zejména komentáře obsahující vulgarity nebo porušující pravidla publikování.

Pokud nejste zaregistrováni, Vaše IP adresa bude zveřejněna. Pokud s tímto nesouhlasíte, příspěvek neodesílejte.