mathLib.precision() システム関数は、変数の精度を戻します。
EGL では、精度 とは、小数点以下の桁数のみではなく、変数がその値を表現するために使用できる総桁数のことです。 INT の精度は 9 です。 浮動小数点数の場合の精度は、プログラムが実行されているシステム上で数値が何桁まで表示可能かを示すものです。
mathLib.precision(numericVariable SMALLINT | INT |
BIGINT | DECIMAL | SMALLFLOAT | FLOAT in)
returns (result INT)
result INT;
myVar FLOAT;
result = mathLib.precision(myVar); // 結果=15