Hva er presisjon i desimal?
Hva er presisjon i desimal?

Video: Hva er presisjon i desimal?

Video: Hva er presisjon i desimal?
Video: More on significant figures | Decimals | Pre-Algebra | Khan Academy 2024, November
Anonim

Presisjon er antall sifre i et tall. Skala er antall sifre til høyre for desimal punkt i et tall. For eksempel har tallet 123.45 en presisjon på 5 og en skala på 2.

Dessuten, hva er sifre med presisjon?

De presisjon av en numerisk verdi beskriver antallet sifre som brukes til å vise den verdien. I økonomiske beregninger blir et tall ofte avrundet til et gitt antall plasser (for eksempel til to plasser etter desimalskilletegnet for mange verdensvalutaer).

Man kan også spørre seg hvordan man setter desimalpresisjon i SQL? for totalt 12 tegn, med 3 til høyre for desimal punkt. Vanligvis kan du definere presisjon av et tall i SQL ved å definere det med parametere. I de fleste tilfeller vil dette være NUMERISK(10, 2) eller Desimal (10, 2) - vil definere en kolonne som et tall med totalt 10 sifre med en presisjon av 2 ( desimaler ).

Også spurt, hva er presisjon i programmering?

I informatikk er presisjon av en numerisk mengde er et mål på detaljen som mengden er uttrykt i. Dette måles vanligvis i biter, men noen ganger i desimaler. Det er relatert til presisjon i matematikk, som beskriver antall sifre som brukes til å uttrykke en verdi.

Hva er størrelsen på en desimaldatatype?

MySQL DESIMAL lagring Den pakker 9 sifre i 4 byte. For eksempel, DESIMAL (19, 9) har 9 sifre for brøkdelen og 19-9 = 10 sifre for heltallsdelen.

Anbefalt: