Manual do KCalc
Anterior | Capítulo 8. Perguntas e Respostas | Próxima

# 8.4. E a precisão ?

O fator principal que determina a precisão do KCalc é o fato de sua biblioteca C suportar ou não o tipo de número long double. Se é o seu caso, o KCalc detectará isso em tempo de compilação e usará esse tipo de dado para representar números internamente. Verifique na janela Sobre do KCalc para constatar que tipo de dado numérico sua cópia de KCalc está usando.

A não ser que você tenha uma biblioteca C de qualidade excepcionalmente alta, você poderá observar alguns resultados interessantes ao tentar executar cálculos como 123.22 - 123.21; 2.01 - 2; 123.88 - 123.87 e similares. No entanto, se você acha que isto é ruim, tente fazer as mesmas contas na Calculadora do Windows.

Ajuste a precisão na janela de configuração do KCalc, de modo que a conta acima seja feita corretamente. Recomendo uma precisão de 14 se o tipo de dado utilizado por você ao compilar o KCalc é o long double, do contrário use precisão 8 ou 10.

Nota: Precisão mais alta não significa necessariamente um melhor resultado. Faça alguns testes e você entenderá o que quero dizer.

Anterior | Principal | Próxima
Como eu obtenho dois dígitos decimais fixos ? | Acima | Copyright