Computação

Notas da disciplina Cálculo Numérico A
Leonardo F. Guidi
22 de maio de 2013

Instituto de Matemática
Universidade Federal do Rio Grande do Sul
Av. Bento Gonçalves, 9500
Porto Alegre - RS

3

Sumário
1 Representação de números em máquinas
1.1

Sistema de numeração . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

9
9

1.1.1

12

Aritmética de máquina . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

12

Representação de números inteiros . . . . . . . . . . . . . . . . . . . . . .

13

1.2.2

Representação de números com parte fracionária – ponto-fixo . . . . . . .

16

1.2.3

Representação de ponto flutuante . . . . . . . . . . . . . . . . . . . . . .

16

1.2.4

Aritmética de ponto flutuante . . . . . . . . . . . . . . . . . . . . . . . . .

20

1.2.5

Cancelamento catastrófico . . . . . . . . . . . . . . . . . . . . . . . . . .

21

1.2.6

Padrão IEEE754 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

23

Erros . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

24

1.3.1

Origem dos erros . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

24

1.3.2

Conceitos iniciais . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

25

1.3.3

Propagação dos erros . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

26

1.3.4
1.4

Bits e bytes (e nibbles também...) . . . . . . . . . . . . . . . . . . . . . .

1.2.1

1.3

10

1.1.2
1.2

Mudança de base . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Instabilidade numérica . . . . . . . . . . . . . . . . . . . . . . . . . . . .

27

Exercícios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

31

2 Sistemas de equações lineares
2.1

35

Métodos diretos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

37

2.1.1

Eliminação Gaussiana . . . .