Árvore de páginas

Cálculo de Precisão e Escala em Operações

Ao realizar operações com números decimais, os resultados apresentados possuem uma precisão e escala calculados a partir dos operadores de expressão e das operações em contexto, conforme o cálculo descrito na tabela abaixo:


Operação

Precisão

Escala

Soma, Subtração

MIN(128,MAX(P1-S1,P2-S2)+MAX(S1,S2)+1)

MIN(128-2,MAX(S1,S2))

Multiplicação

MIN(128,P1+P2)

MIN(128-2,S1+S2)

Divisão

Módulo

Potência

128

128-P1+S1-S2


Sendo:

P1 = Precisão do decimal na expressão da esquerda.

S1 = Escala do decimal na expressão da esquerda.

P2 = Precisão do decimal na expressão da direita.

S2 = Escala do decimal na expressão da direita.

MAX = Apresenta o maior valor entre os dois números especificados.

MIN = Apresenta o menor valor entre os dois números especificados.


  • Sem rótulos