Rational Developer for System z
Enterprise PL/I for z/OS, Version 3.8, 言語解説書

小数部分がある DECIMAL FIXED から小数部分がある BINARY FIXED への変換

  dcl I fixed bin(31,5) init(1);
      I = I+.1;

この結果、I の値は 1.0625 になります。 これは、.1 が FIXED BINARY (5,4) に変換され、2 進数の近似値が 0.0001B (端数は丸められません) となるためです。 この数の 10 進表記は .0625 となります。 .1 の代わりに .1000 を指定した場合の結果は、これと異なります。


Terms of use | Feedback

This information center is powered by Eclipse technology. (http://www.eclipse.org)