Kapitel 4. Spørgsmål og svar

4.1. Hvordan får jeg e, Euler-tallet?
4.2. Hvordan får jeg to faste cifre efter kommaet?
4.3. Hvad med præcision?
4.1.

Hvordan får jeg e, Euler-tallet?

Skriv 1 Inv Ln.

4.2.

Hvordan får jeg to faste cifre efter kommaet?

Klik på Indstil-knappen, dette vil få en indstillingsdialog frem. Afkryds Sæt fast præcision og justér spin-kontrollen så den viser et 2.

4.3.

Hvad med præcision?

Hovedfaktoren der afgør præcisionen af KCalc er om din libc og libmath understøtter C datatypen 'long double'. Hvis dette er tilfældet vil KCalc detektere dette på kompileringstidspunktet og bruge det som sin fundamentale datatype til at repræsentere tal. Tjek KCalc's Om-dialog (i Indstil-dialogen) for at finde ud af hvad den fundamentale datatype er for din kopi af KCalc.

Med mindre du har et libc og libmath af usædvanlig høj kvalitet, vil du kunne observere nogle “interessante” resultater når du forsøger at udføre beregninger såsom: 123.22 - 123.21, 2.01 - 2, 123.88 - 123.87 og lignende. Hvis du synes dette er dårligt, så vil jeg bede dig prøve at udføre de samme beregninger med den regnemaskine der kommer med Windows®.

Justér Præcision i KCalc's Indstil-dialog s ovenstående beregninger virker rigtigt. Jeg anbefaler en præcision på 14 hvis den fundamentale datatype for din kopi af KCalc er long double, ellers 8 eller 10.

Højere præcision fører ikke nødvendigvis til bedre resultater. Leg med præcisionen og du vil forstå hvad jeg mener.