| Forum: VB.NET |
Thema:
Rundungsfehler |
Von:
G. Guest (
15.12.2003 10:07) |
Wo ist der Fehler ?
Dim a as Single
Dim b as Single
Dim Result as single
a= 1087,64
b= 1123,6
Result = b - a
als Result bekomme ich 38,95996
es sollte aber 35,96 herauskommen. Warum wir hier so komisch gerundet.
Was muß ich mache, damit ich das richtige Ergebnis bekomme.
| Betreff |
Von |
Datum |
|
|
|
|
Hannes
Preishuber
|
15.12.2003 10:31 |
|
|
  |
Re: Rundungsfehler
| Ja. Danke. So funktioniert es.<br><br>Aber warum wird die Berechnung überhaupt so komisch ausgewertet. |
|
|
|
|
|
G.
Guest
|
15.12.2003 12:42 |
|
|
|
Re: Rundungsfehler
| Hallo!<br><br>So kommt bei mir 35,96 raus;<br><br> Dim a, b, c As System.Decimal<br> a = CType(1087.64, Decimal)<br> b = CType(1123.6, Decimal)<br> c = a - b<br><br>Single und Double sind... |
|
|
|
|
|
Till
Groos
|
16.12.2003 10:50 |
|
|
|
Re: Rundungsfehler
| Hi,<br>das Problem sind die Floats, die die Nachkommastellen auch binär darstellen: ... + 2 + 1 + 1/2 + 1/4 + 1/8 + ...<br>0,1 = 1/2 * 1/ 5 läßt sich so aber nicht richtig darstellen. Versuch mal im... |
|
|
|
|
|
Klaas
Wedemeyer
|
18.12.2003 17:01 |
|
|
|
|
G.
Guest
|
07.01.2004 10:43 |
|
|
|
Antworten
Vorsicht bei der Eingabe: Die Zeichen ' oder -- sind nicht erlaubt!
