teoria dos erros

Representação em Ponto Flutuante
Começamos por ver como representamos um qualquer número real.
Um número real é uma classe de equivalência de sucessões de Cauchy de racionais. Como tal, pode admitir várias representações, mas normalmente tomamos como representante dessa classe uma sucessão de racionais que são múltiplos de uma potência de 10 (base decimal):

Notação Científica:

x = ± 0. a1 a2 ... an ... × 10t
No caso da notação científica, um número representa-se através do sinal, da mantissa e do expoente, na base decimal. Os dígitos variam entre 0 e 9, mas o primeiro dígito da mantissa deve ser diferente de zero (o número zero é representado à parte).
Mas, a menos que estivessemos na posse de uma máquina com memória infinita (... máquina de Turing), a representação de um número deve ser finita, pelo que, consequentemente somos obrigados a considerar um número finito de dígitos na mantissa e uma limitação nos valores dos expoentes admitidos.

Sistema de Ponto Flutuante (também designado Vírgula Flutuante)
O sistema FP(ß, n, t1, t2) é o conjunto dos números

x = ± 0. a1 a2 ... an × ßt com a1¹0, (onde t varia em { t1, ..., t2} ) e em que o zero é representado à parte.
Habitualmente usamos ß=10, e nos computadores ß=2 (neste caso os dígitos ai podem ser apenas 0 ou 1)
Overflow: Acontece se o valor do expoente t é superior a t2.
Underflow: Acontece se o valor do expoente t é inferior a t1.

--------------------------------------------------------------------------------
Arredondamento
Dado um número, representado em notação científica x = ± 0. a1 a2 ... an an+1 ... × 10t ao armazená-lo num sistema FP somos obrigados a suprimir dígitos da mantissa.
Para efectuar essa conversão podemos considerar dois tipos de arredondamento:
Arredondamento por Corte fl(x) = ± 0. a1 a2 ... an × 10t
Arredondamento Simétrico fl(x) = ± 0. a'1 a'2 ... a'n × 10t'
Os dígitos a'i coincidem com ai e o expoente t' coincide com t, se an+1 < 5.