iago
MÍNIMOS QUADRADOS
Juazeiro, 03 de maio de 2012
1. INTRODUÇÃO
O Método dos Mínimos Quadrados, ou Mínimos Quadrados Ordinários (MQO) é uma técnica de otimização matemática que procura encontrar o melhor ajuste para um conjunto de dados tentando minimizar a soma dos quadrados das diferenças entre o valor estimado e os dados observados.
Um requisito para o método dos mínimos quadrados é que o fator imprevisível (erro) seja distribuído aleatoriamente, essa distribuição seja normal e independente. O Teorema Gauss-Markov garante (embora indiretamente) que o estimador de mínimos quadrados é o estimador não-enviesado1 de mínima variância2 linear na variável resposta. (site Wikipédia – adaptado)
Queremos estimar valores de determinada variável y. Para isso, consideramos os valores de outra variável x que acreditamos ter poder de explicação sobre y conforme a fórmula: y = a + bx + e
Também temos uma base de dados com n valores observados de y e de x. Perceba que, usando a base de dados, y e x são vetores, ou seja, representam uma lista de valores, um para cada observação da base de dados. O método dos mínimos quadrados ajuda a encontrar as estimativas de a e b.
Desse modo, ao estimar o modelo usando a base de dados, estamos estimando, na verdade: yi = a + bxi + ei
Onde i indica cada uma das n observações da base de dados.
O método dos mínimos quadrados minimiza a soma dos quadrados dos resíduos, ou seja, minimiza:
A ideia por trás dessa técnica é que, minimizando a soma do quadrado dos resíduos, encontraremos a e b que trarão a menor diferença entre a previsão de y e o y realmente observado. (site UFBA, FISICA3 - adaptado)
Substituindo ei por yi-a-bxi, temos: q =
A minimização se dá ao derivar q(a,b) em relação a a e b e igualar a zero. Assim obtém-se o seguinte sistema:
= 0 = 0
Onde N é o número de experimentos realizados.
[1]: Viés é uma tendência a apresentar ou