dotNETportal.cz

Mám příklad:

 Dim DesetCislo As Double = (Abs((0.9035 - 0.903) / 2))

a Visual Basic mi vyplivne že

DesetCislo = 0.00024999999999997247

což je pro mé potřeby velmi nepřesné. Znamená to, že jsem se dostal na samotné hranice VisualBasicu a mám smůlu?

Co se vám zdá na tomto čísle nepřesné? Přesnějšího výsledku nedosáhnete, není to žádný MATLAB. Kromě toho není toto omezení Visual Basicu, ale datových typů .NET Frameworku, které VB.NET adaptuje.

Ondřej Linhart:

"není to žádný MATLAB"

Přesně jste to trefil, ve škole počítáme v matlabu příklady s přesností na 6 desetiných míst a když jsem si to zkusil napsat ve VB net tak jsem se dostával k trochu jiným výsledkům. Jedná se o to, že pomocí určitého algoritmu se počítá kořen rovnice a výsledek se furt v každém kroku zpřesňuje. Respektive bylo zajímavé, že když se chci ve VB net dostat ke stejně přesnému výsledku tak mi to počítá na 10 kroků (interaci) a v Matlabu to počítáme na 18 kroků (interaci). Zajímavé je že Matlab mi stejný příklad spočítá s jinou chybou než VB net. Chyba je sice stejného řádu, ale její hodnaota je oproti VB záporná (není to pravidlo). Tudíž u tohoto příkladu Matlab není ani přesnější ani horší, ale počítá jinak. Je zde vidět, že numerika, je docela zajímavá část matematiky, když chce člověk něco spočítat přesněji.

Vím že existuje typ Decimal s vysokou přesností a také jsem to chtěl původně napsat, jenže výsledek 0,000249999999999972 vs. 0,00025 mě zmátl...

Mě to s decimal vyšlo úplně shodně jako s double, takže špatně.

Pomohlo až

Dim DesetCislo As Double = Math.Round(Math.Abs((0.9035 - 0.903) / 2), 15)

:-)

Ale stejně nechápu proč je tam ta odchylka, když výsledek je úplně jasný a není ani třeba tolik přesnosti ?

Docela mě to děsí.