Aproximação de mínimos quadrados

vamos assumir que eu tenho uma certa matriz a eni por cá ea equação a multiplicando o vetor x igual certo vetor p com x pertencente à rca e b pertencente à rn e nós queremos mostrar que não há solução para a equação ashes igual a ab nestas condições vamos escrever aqui a matriz a matriz a uma matriz em cujas colunas nós temos as coordenadas dos vetores a1 a2 etc terá até oa cá cada vetor de si está em rn porque a matriz tem linhas e nós temos cá vetores multiplicando o vetor x x está em r k então ele tem as coordenadas x 1 x 2 até xk isso tem que ser igual ao certo vetor b berlim-1936 reescrever essa equação efetuando a multiplicação entre essas duas matrizes nós teríamos x 1 e multiplica o vetor a 1 mas x2 que multiplica o vetor a 2 e assim por diante até o xk que multiplica o vetor a cá e isso tem que ser igual ao vetor b dizer que esta equação não tem solução equivale a dizer que nós não vamos encontrar os valores x 1 x 2 até o x cac satisfação essa igualdade o que também equivale a dizer que não existe combinação linear de todos esses vetores que vá fazer com que cheguemos ao vitor b indo um pouco além isto equivale a dizer que o bebê não está no espaço coluna da matriz a tentar representar aqui uma idéia do que estamos falando vamos entender que este plano seja o espaço coluna da matriz a e o fato de bb não pertencer ao espaço coluna da matriz a pode ser entendido como fato de que supondo que aqui seja o vetor zero o vetor b seja um vetor por exemplo nesta situação em que nitidamente não pertence ao espaço coluna da matriz há aqui estamos com uma equação matricial e nós podemos não conseguir chegar a uma situação muito simples como 10 igual um e dizer não a solução para essa equação o que nós podemos fazer melhor que isso então nós podemos imaginar que vamos procurar uma solução chamada x estrela que é a mais próxima possível da solução procurada aqui e esse vetor x estrela é um vetor x em que x estrela em que a x estrela x x estrela é o mais próximo próximo é possível db queremos que o a x estrela seja o mais próximo possível de b ou seja estamos procurando quando dizemos o mais próximo possível estamos procurando minimizar o comprimento db - do vetor b - a x estrela queremos que isto seja o mínimo possível mas qualquer x é um setor que pertence ao espaço vetorial estudo melhor dizendo o espaço coluna da matriz a então vamos dizer que temos aqui um certo vetor a x estrela a x estrela que é o que está mais próximo possível do vetor b para facilitar vamos dizer que este é um certo vetor fi e aqui quando nos inscrevemos e - a x a x na verdade é o vetor ver nós podemos reescrever essa expressão como a norma de um certo vetor que têm as coordenadas bons o bê tem as coordenadas b1 b2 etc era eo ashes que é o vetor fê têm as coordenadas v1 no v2 e 31 ac e - a x vai-nos resultarem e 1 - v1 e v2 - v 2 e assim por diante até bn - vn deixem apagar aqui porque não se trata de vetores são as coordenadas isto e isto são as são a mesma coisa e como é que o cálculo mesmo a módulo este vetor é a raiz quadrada da soma dos quadrados de todas as suas componentes então para facilitar vamos colocar este módulo ao quadrado e aqui nós vamos ter então e 1 - v1 ao quadrado mais b2 - e dois ao quadrado mais etc terá até pn - vn ao quadrado lembre se queremos que esta distância seja minimizada então queremos que o resultado disto seja o mínimo possível e isso é uma soma de quadrados por isso que nós chamamos este x estrela de estimativa por mínimos quadrados também pode ser a aproximação por mimos quadrados ou solução por mínimos quadrados para a equação ashes guabi uma aproximação para a solução da queda equação mas agora precisamos nos lembrar de uma outra informação nós queremos aqui que este vetor seja o mais próximo possível do vetor b e quando isso acontece nós já estudamos que isso acontece quando este vetor aqui é a projeção do vetor b sobre o substrato que estamos estudando que neste caso o espaço coluna da matriz a resumindo então o a x estrela tem que ser igual à projeção do vetor b sobre o conjunto ou melhor dizendo sobre o espaço coluna da matriz a vamos lembrar o que estamos fazendo aqui queremos achar uma solução para esta equação mostrar que ela não tem solução a matriz a está aqui e o xv torches está aqui ao multiplicar nós estamos estabelecendo uma combinação ou todas as combinações lineares entre os setores a1 a2 a ca e usando para isso o vetor x as coordenadas do vetor x isso é claramente o espaço coluna da matriz a que em r 3 vai ser este plano e nós estamos procurando um vetor deste plano o vetor que pertence ao nosso sub espaço que estejam o mais próximo possível do vetor b e este é vetor mais próximo possível do vetor bié projeção de bebês sobre o espaço coluna da matriz a que nós chamamos de ar x estrela sendo x estrela aquele vetor que nós nos vai para achar a solução mais próxima possível do vetor b e estamos para isso usando o método dos mimos quadrados ou seja x estrela vai ser obtido chamando de aproximação por mínimos quadrados nós podemos trabalhar com isso procurando é escrever a projeção de b sobre o espaço lândia mas precisamos fazer aquela sequência de operações com a matriz isso inversa o que vai nos dar um trabalho razoável vamos procurar achar uma maneira mais fácil de obter esta solução por mimos quadrados estimativa por mínimos quadrados para esta equação algo bem interessante que podemos estudar aqui que é este vetor este vetor já que o vetor branco é a projeção de bi sobre o nosso espaço este vetor então é ortogonal ao a x estrela e quem é este vetor aqui este vetor aqui é justamente a projeção dp sobre o espaço coluna da matriz a menos o vetor p quer dizer se você pegar o bebê mas este vetor o resultado à x estrela que a projeção em questão então este vetor é a projeção - o be bem agora algo interessante observar aqui é o seguinte se nesta igualdade nós subtrairmos o vetor b os dois lados quero dizer e escrever a x estrela - o vetor b é igual à projeção db sobre o espaço coluna da matriz a menos o bê porque eu acabo de escrever ao lado direito aqui é exatamente este vetor e esse vetor é ortogonal ao espaço coluna da matriz a se isso aqui é um vetor ortogonal ao espaço coluna da matriz a então isto por ser igual também é em outras palavras o a x estrela - b resulta em vítor que pertence ao complemento ortogonal da matriz há elemento ortogonal da matriz a lembra que complementa ortogonal de um substrato aço é o conjunto de todos os setores que são ortogonais ao subir espaço neste caso os hubs passo é o espaço coluna da matriz a mas você há de se lembrar também que o complemento ortogonal do espaço coluna a igual ao espaço nulo da matriz a transposta isso nos permite concluir então que a matriz a multiplicada por x estrela que a solução pelos mínimos quadrados daquela equação que estamos trabalhando - o vetor b resulta em um vetor que pertence ao espaço nulo da transposta da matriz a a consequência que temos aqui é que ao multiplicar tudo isso pela batres transposta de aaa transposta multiplicando tudo isso a x estrela - b isso tudo vai ser igual ao vetor nulo o vitor nulo isso aqui vai ser solução para essa multiplicação resultado o retorno justamente pelo fato de a x estrela - b pertencer ao espaço nulo da matriz a transposta nós podemos usar a distributividade para eliminar os parentes teríamos então a transposta multiplicando a x estrela - a transposta multiplicando vetor b isso é igual o vetor zero bem adicionando a transposta b aos dois lados eu mantenho a igualdade válida e eu chego no seguinte a transposta vezes a que multiplica o x estrela é igual a a transposta que multiplica o vetor b bem vamos lembrar o que nos trouxe até aqui nós estávamos tratando da equação a que multiplica x igual a b e afirmação foi que não há solução para essa equação então dissemos vamos obter um vetor x estrela que minimiza a distância entre b ea x minimiza a distância entre b e na verdade a x estrela chamamos o x estrela de solução por mínimos quadrados porque ele minimiza os quadrados das diferenças entre os componentes das dos vetores p&o que nós chamamos aqui então diretor vê que na verdade era o ashes e para achar esta solução que minimize essa distância nós precisávamos ver que este era o setor mais perto de bebê que estava no substrato estudado que era o espaço coluna da matriz a e nós já sabemos que o vetor mais perto de bebê que está no subsolo passo é justamente a projeção de b no sub espaço que é o espaço coluna da matriz a então sabendo que o a multiplicando x estrela tem que ser a projeção de b sobre o espaço coluna de a encontrando esse xis procurado nos encontramos a solução por mínimos quadrados ou aproximação por mínimos quadrados dé que mais aproxima este de si ou seja que mais aproxima a solução desta equação de maneira então que a x estrela não vai ser igual a ab mais o vetor que mais nos aproxima da solução uma outra forma de olhar é retomar esta equação e multiplicar os dois lados pela matriz a transposta veja teríamos do lado de cá a transposta multiplicando a vetor x e do lado de cá a transposta multiplicando o vetor b bem nós estamos afirmando que aqui não encontramos o x que seja a solução e esta equação nós já sabemos que tem uma solução só que a solução é por aproximação por - quadrados que é o nosso x estrela não é o x a solução dela estamos aqui comprovando que não vamos encontrar uma solução que iguale isto a isto mas vamos conseguir uma solução uma aproximação por mínimos quadrados então esta é a nossa solução por mínimos quadrados que minimiza a distância entre o bb eo a x estrela e ambos cada abstrato esse estudo aqui neste momento com relação a esta situação mas nos próximos vídeos você terá exemplos que podem ajudar a interpretar e compreender melhor até lá