O Mtodo dos Mnimos Quadrados, ou Mnimos Quadrados Ordinrios (MQO) ou OLS (do ingls Ordinary Least Squares) uma

a tcnica de otimizao matemtica que procura encontrar o melhor ajuste para um conjunto de dados tentando minimizar a soma dos quadrados das diferenas entre o valor estimado e os dados observados (tais diferenas so chamadas 1 resduos). a forma de estimao mais amplamente utilizada na econometria. Consiste em um estimador que minimiza a soma dos quadrados dos resduos da regresso, de forma a maximizar o grau de ajuste do modelo aos dados observados. Um requisito para o mtodo dos mnimos quadrados que o fator imprevisvel (erro) seja distribudo aleatoriamente, essa distribuio seja normal e independente. O Teorema Gauss-Markov garante (embora indiretamente) que o estimador de mnimos quadrados o estimador no-enviesado de mnima varincia linear na varivel resposta. Outro requisito que o modelo linear nos parmetros, ou seja, as variveis apresentam uma relao linear entre si. Caso contrrio, deveria ser usado um modelo de regresso no-linear. Credita-se Carl Friedrich Gauss como o desenvolvedor das bases fundamentais do mtodo dos mnimos quadrados, em 1795, quando Gauss tinha apenas dezoito anos. Entretanto, AdrienMarie Legendre foi o primeiro a publicar o mtodo em 1805, em seu Nouvelles mthodes pour la dtermination des orbites des comtes. Gauss publicou suas concluses apenas em 1809

Regresso simples
Queremos estimar valores de determinada varivel . Para isso, consideramos os valores de outra varivel que acreditamos ter poder de explicao sobre conforme a frmula:

onde: : Parmetro do modelo chamado de constante (porque no depende de : Parmetro do modelo chamado de coeficiente da varivel : Erro - representa a variao de . que no explicada pelo modelo. ).

Tambm temos uma base de dados com valores observados de e de . Perceba que, usando a base de dados, e so vetores, ou seja, representam uma lista de valores, um para cada observao da base de dados. O mtodo dos mnimos quadrados ajuda a encontrar as estimativas de e . Como o nome diz, sero somente estimativas desses parmetros, porque o valor real dos parmetros so desconhecidos. Portanto, ao fazer a estimativa, mudamos a notao de algumas variveis:

Para ilustrar isso, Heij menciona: We do not know Greek but we can compute Latin No sabemos grego, mas podemos calcular em latim Desse modo, ao estimar o modelo usando a base de dados, estamos estimando, na verdade:

onde indica cada uma das observaes da base de dados e passa a ser chamado de resduo, ao invs de erro. Em alguns livros, a notao para as estimativas dos parmetros um pouco diferente. Ao invs de substituir a letra, apenas adiciona-se o smbolo chapu ( ). O mtodo dos mnimos quadrados minimiza a soma dos quadrado dos

resduos, ou seja, minimiza

A ideia por trs dessa tcnica que, minimizando a soma do quadrado dos resduos, encontraremos e que traro a menor diferena entre a previso de e o realmente observado. Substituindo por , temos:

A minimizao se d ao derivar igualar a zero:

em relao a

Distribuindo e dividindo a primeira expresso por

temos:

onde de .

a mdia amostral de

a mdia amostral

Substituindo esse resultado na segunda expresso temos:

Alguns livros tambm usam uma frmula diferente que gera o mesmo resultado:

Exemplo de regresso simples

Considere a seguinte base de dados:

Consumo Renda

122

139

114

126

86

90

134

144

146

163

107

136

68

61

117

62

71

41

10

98

120

Aplicando as frmulas acima, chega-se em:

portanto,

Interpretao: Tirando a parte do Consumo que no influenciada pela Renda, o incremento de $ 1 na Renda causa um incremento esperado de $ 0,4954 no Consumo.