Rational Developer for System z
COBOL for Windows バージョン 7.5 プログラミング・ガイド


固定小数点データと中間結果

コンパイラーは、中間結果における整数および小数点以下の桁数を決定します。

加算、減算、乗算、および除算

次の表は、加算、減算、乗算、または除算の結果として理論上可能な精度を示しています。

演算 整数桁 小数桁
+ または - (i1 または i2) + 1、どちらか大きい方 d1 または d2、どちらか大きい方
* i1 + i2 d1 + d2
/ i2 + d1 (d2 - d1) または dmax、どちらか大きい方

算術ステートメントのオペランドを十分な小数桁で定義して、最終結果の正確度が希望どおりになるようにしなければなりません。

次の表は、互換モード (つまり、デフォルトのコンパイラー・オプション ARITH(COMPAT) が有効である場合) で加算、減算、乗算、または除算を伴う算術演算の固定小数点中間結果においてコンパイラーが 保持する桁数を示しています。

i + d の値 d の値 i + dmax の値 ir 用に保持される桁数
<30 または =30 任意の値 任意の値 i 整数桁数および d 小数桁数
>30 <dmax または =dmax 任意の値 30-d 整数桁数および d 小数桁数
>dmax <30 または =30 i 整数桁数および 30-i 小数桁数
>30 30-dmax 整数桁数および dmax 小数桁数

次の表は、拡張モード (つまり、コンパイラー・オプション ARITH(EXTEND) が有効である場合) で加算、減算、乗算、または除算を伴う算術演算の固定小数点中間結果においてコンパイラーが 保持する桁数を示しています。

i + d の値 d の値 i + dmax の値 ir 用に保持される桁数
<31 または =31 任意の値 任意の値 i 整数桁数および d 小数桁数
>31 <dmax または =dmax 任意の値 31-d 整数桁数および d 小数桁数
>dmax <31 または =31 i 整数桁数および 31-i 小数桁数
>31 31-dmax 整数桁数および dmax 小数桁数

指数

べき乗計算は、式 op1 ** op2 で表されます。 op2 の特性に基づいて、コンパイラーは固定小数点数のべき乗計算を次の 3 つのいずれかの方法で処理します。

9 桁を超える有効数字を持つ固定小数点の指数部は、常に 9 桁に切り捨てられます。指数がリテラルまたは定数である場合、E レベルのコンパイラー診断メッセージが発行されます。それ以外の場合は、実行時に通知メッセージが発行されます。

例: 固定小数点の算術での指数

関連参照
中間結果用の用語
中間結果での切り捨て
バイナリー・データと中間結果
浮動小数点データと中間結果
固定小数点算術で評価される組み込み関数
ARITH
SIZE ERROR 句 (「COBOL for Windows 言語解説書」)


ご利用条件 | フィードバック

Copyright IBM Corporation 1996, 2008.
このインフォメーション・センターでは Eclipse テクノロジーが採用されています。(http://www.eclipse.org)