Probleme mit STATISTICS_REAL

bytebold
2007-04-28
2007-04-29
  • bytebold - 2007-04-28

    Hallo,

    ich habe den Baustein STATISTICS_REAL eingesetzt, funktioniert auch für Max- und AVG- Real Werte gut bis auf ein Problem:

    Wenn am Eingang eine 0 ist gibt er mir am Ausgang eine 1.175494e-038 aus.

    Das kann ich nicht gebrauchen, scheint mir auch nicht korrekt zu sein. Falls dies nicht zu beseitigen ist, gibt es evtl. eine Möglichkeit den Wert auf 0 aufzurunden ?

    Ein weiteres Problem habe ich mit Fu_Linear_2punkt:

    Alle Werte sind ok, bis auf die Werte 8,4 8,9 9,4 9,9, dort werden mir Werte

    als z.B. 9,900001 angezeigt.

    Ist das evtl. ein bekanntes Problem oder mache ich etwas falsch ?

    Gruß, bytebold

     
  • hugo - 2007-04-29

    versuch m al die module der freien lib oscat

    zu finden unter w www.oscat.de w

    diese lib enthält sowohl statistics module wie auch ineare gleichungen und vieles mehr

    alles auch im source code

     

Log in to post a comment.