Die Systemfunktion 'mathLib.precision()' gibt den Genauigkeitsgrad für eine Variable zurück.
In EGL ist die Genauigkeit die Gesamtzahl der Ziffern, die in einer Variablen verwendet werden können, um deren Wert auszudrücken, nicht nur die Anzahl der Dezimalstellen. Die Genauigkeit einer ganzen Zahl (INT) ist 9. Bei Gleitkommazahlen ist die Genauigkeit die maximale Anzahl der Ziffern, mit der eine Zahl in dem System dargestellt werden kann, auf dem das Programm ausgeführt wird.
mathLib.precision(numerische_Variable SMALLINT | INT |
BIGINT | DECIMAL | SMALLFLOAT | FLOAT in)
returns (Ergebnis INT)
result INT;
myVar FLOAT;
result = mathLib.precision(myVar); // Ergebnis = 15