flyttalsaritmetik
flyttalsaritmetik, metod för att utföra datorberäkningar med reella tal.
Representation av tal i en dator sker i regel med ett fixt antal siffror, ett ord. För att kunna representera både små och stora reella tal (exempelvis 0,000 000 345 678 respektive −987 654 000 000) med god noggrannhet skriver man dem på exponentform (3,45678·10−7 och −9,87654·1011).
Litteraturanvisning
Information om artikeln
Medverkande
Lars Eldén, Jonas Skeppstedt
Källangivelse